LessWrong · All Posts· Minh Hoang·· 2026-10-10AI 评分39
消融模型拒绝行为的蒸馏继承研究
Inheritance of Refusals from Abliterated Models
AI 导读
研究表明,通过机制可解释性技术(如消融)修改 Qwen 3.5 9B 教师模型权重后,其行为变化能传递给学生模型。 这种行为继承在多代蒸馏中持续存在,但具体机制尚不明确。这揭示了通过蒸馏攻击传递未对齐行为的潜在风险。
来源:LessWrong · All Posts · lesswrong.com