大语言模型低估恶意倾向并高估善动机的机制研究

研究发现，对齐后的大语言模型在解释他人行为时，比人类更多地归因于善意、更少归因于恶意。通过线性探针比较内部状态与输出评分，揭示了这一偏差的两个来源：内部表征中恶意信号减弱，以及输出阶段对善意动机的放大。 具体而言，在两种恶意动机（自利和伤害意图）上，内部读出与表达评分无差异，表明低分源于信号弱而非输出抑制；在两种善意动机（责任和关心他人）上，表达评分高于内部读出，表明存在输出放大。