LLM拒答不对称性研究：答案释放更具局部性

研究人员Yiqi Liu、Yang Wang等人在arXiv发布了关于大语言模型（LLM）拒答机制的研究论文。研究发现LLM拒答存在因果不对称性，即“破缺对称性”。 即使模型输出拒答，正确答案仍可从其隐藏状态线性恢复。释放被隐藏答案仅需单位置干预，属于高度局部操作。 重新施加抑制（即重新生成拒答）则需多位置广泛干预，难度更高。这表明拒答并非简单对称开关，定位拒答相关方向无法可靠引导模型从作答转向拒答。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。