学习目标如何夸大语言模型可解释性中的子空间干预效应

研究证明，当学习目标奖励更大效应时，学习到的部分效应往往超出整体状态复制，造成效应夸大。 分布式对齐搜索在几乎所有任务上输出超过整体状态，仅改变目标函数即可消除大部分过量效应。 这表明仅凭较大的学习效应不能作为概念隔离更清晰的证据。