LessWrong · All Posts· Anna Marbut·· 2026-10-13AI 评分25
自然状态下流形转向对 Gemma-2-2b 有效但依赖模型准确性
Manifold Steering from a Natural State is Effective and Generalizable, but Relies on Model Accuracy
AI 导读
研究验证了 Goodfire 的流形转向方法在 Gemma-2-2b 自然状态下的有效性。在原始残差空间转向可循环生成 95% 的预期星期序列,但受限于模型在部分提示词上 43.5% 的准确性;CLT 特征空间转向效果较弱。
来源:LessWrong · All Posts · lesswrong.com