LessWrong · All Posts· Mikołaj Hasik·· 2026-10-17AI 评分40
开放 Gemma 模型中内省、拒绝对冲消融及门控机制研究
Control questions matter: introspection, refusal ablation, and gates in open Gemma models
AI 导读
该硕士论文在 Gemma 2 模型上验证,拒绝对冲消融虽提升 53% 的机制性内省检测率,但伴随显著性能退化。 研究通过控制项(logit 差异与门控特性)表明,概念向量注入与文本嵌入共享晚期门控特征,但上游证据载体不具备迁移性。
来源:LessWrong · All Posts · lesswrong.com