自然语言自编码器“能识别但无法解释”

自然语言自编码器（NLA）通过 verbalizer 生成文本并经由 reconstructor 还原激活值，其成功标准仅基于往返重构精度。该机制虽能保证信息充分性，但无法确保描述保真度，句子可能错误解释激活值功能却仍可实现精准识别。 NLA 作为对齐解释工具，通过未经验证的解释重新引入了其本欲解决的认知问题，其结构与思维链保真度问题及人类内省报告偏差高度类似。