跳到正文
LessWrong · All Posts· Aniket Ghosh·· 5 小时前AI 评分43

研究发现:人物设定改变模型真值探针读数,但并非生成假答案的主因

Truth probes follow the persona, but the answer doesn't go through them

AI 导读

在 Qwen、Llama、Gemma 和 OLMo 模型中,设定为 1500 年学者时,真值探针向“真”偏移,模型声称 41% 至 89% 的历史谬误为真(基线 3-6%)。 敲除真值方向仅将效应降低 0-13%,定位在生成答案处的探针关联度达 0.82-0.94 但仅解释 1-18% 效应,表明人物设定通过其他特征驱动生成结果。

来源:LessWrong · All Posts · lesswrong.com