跳到正文
arXiv · AI· Yiqi Liu, Yang Wang, Songxin Wang, Chenghao Xiao, Chenghua Lin·· 1 天前AI 评分45

大语言模型拒答中的对称性破缺:答案释放比拒答恢复更具局部性

Broken Symmetry in LLM Refusal: Answer Release Is More Local Than Refusal Restoration

AI 导读

研究发现大语言模型拒答存在因果不对称性,即“破缺对称性”。即使模型输出拒答,正确答案仍可从隐藏状态线性恢复。 释放被隐藏答案仅需单位置干预,而重新施加抑制需多位置广泛干预,重构连贯拒答序列难度更高。 这表明拒答并非简单对称开关,探针可恢复性可能高估真实行为控制力,定位拒答相关方向无法可靠引导模型从作答转向拒答。

来源:arXiv · AI · arxiv.org