跳到正文
LessWrong · All Posts· Angela Tang·· 11 天前AI 评分33

J-lens 中间变量替换部分通过答案方向起作用

The J-lens intermediate swap acts partly through the answer directions

AI 导读

J-lens 中间变量替换部分通过答案方向起作用,而非完全经由中间概念。 在 8 个开源模型及 1,526 个双跳提示词测试中,答案平面分量单独复现了 26% 的成功翻转,而正交分量仅占 12%。 这表明该干预存在直接重叠效应,但 65% 的提示词中单独应用任一成分均未成功。

来源:LessWrong · All Posts · lesswrong.com