跳到正文
arXiv · NLP· Manjiang Yu, Hongji Li, Zihan Wang, Junwei Chen, Xue Li, Priyanka Singh, Yang Cao, Lijie Hu·· 2026-10-06AI 评分31

答案盆地表征假说:并非在探测或操控概念

The Answer-Basin Representation Hypothesis: We Are Not Probing or Steering Concepts

AI 导读

研究提出答案盆地表征假说,指出行为级概念方向由模型答案分布决定,而非直接表征概念本身。 该假说认为相同答案的生成路径构成答案盆地,其概率质量决定线性方向结构;在四个Qwen2.5和Gemma-3模型上的实验显示,探测与操控效果取决于标签与答案概率大小的匹配程度,当标签与概率排序冲突时效果会反转。 这项研究为线性探测和激活操控的有效性提供了统一理论解释。

来源:arXiv · NLP · arxiv.org