NLA自编码器识别精准但无法解释

自然语言自编码器（NLA）通过 verbalizer 生成文本并借助 reconstructor 还原激活值，其成功标准仅基于往返重构精度。这种机制虽然保证了信息的充分性，使得句子能够精准识别激活值，但并无法确保描述的保真度。这意味着，即使句子对激活值功能的解释存在错误，依然可以实现精准识别，揭示了其“能识别但无法解释”的核心缺陷。 NLA 被定位为对齐解释工具，旨在解决认知解释问题。然而，由于其依赖未经验证的解释机制，实际上重新引入了它本欲解决的认知难题。这种结构性缺陷与思维链的保真度问题，以及人类内省报告中的偏差具有高度的相似性，表明该方法在解释可靠性上存在根本局限。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。