arXiv论文揭示目标函数夸大语言模型可解释性子空间效应

2026年11月3日，Toygar Tanyel 与 Serkan Ayvaz 在 arXiv 的 NLP 领域提交论文《Whose Effect Is It? How Objectives Inflate Learned Subspace Interventions》，指出学习目标的设定会夸大语言模型可解释性中子空间干预的效应。 研究证明，当学习目标奖励更大效应时，学习到的部分效应往往超出整体状态复制，导致效应夸大。分布式对齐搜索在几乎所有任务上输出超过整体状态，而仅改变目标函数即可消除大部分过量效应。 论文结论表明，仅凭较大的学习效应不能作为概念隔离更清晰的证据，这为可解释性研究中的评估方法提供了警示。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。