跳到正文
LessWrong · All Posts· Anna Marbut·· 2026-10-13AI 评分25

自然状态下流形转向对 Gemma-2-2b 有效但依赖模型准确性

Manifold Steering from a Natural State is Effective and Generalizable, but Relies on Model Accuracy

AI 导读

研究验证了 Goodfire 的流形转向方法在 Gemma-2-2b 自然状态下的有效性。在原始残差空间转向可循环生成 95% 的预期星期序列,但受限于模型在部分提示词上 43.5% 的准确性;CLT 特征空间转向效果较弱。

来源:LessWrong · All Posts · lesswrong.com