arXiv · NLP· David I. Atkinson, Dillon Plunkett, David Bau·· 2026-10-07AI 评分30
识别大语言模型内部自省:通过低秩适配器与归因修补区分忠实自我报告
Identifying Introspection From the Inside
AI 导读
该研究在受控环境下识别了大语言模型忠实自我报告的机制特征。利用低秩适配器训练模型基于潜在线性偏好函数为虚构角色做决策,发现持续微调可涌现出准确的偏好自我报告能力,无需显式监督。 权重消融实验表明偏好表征随训练向早期层转移,归因修补分析显示忠实模型在决策与自我报告任务间具有更高的归因相似度。该机制性签名可用于区分忠实与不忠实的模型计算模式,发表于 COLM 2026。
来源:arXiv · NLP · arxiv.org