arXiv · ML· Jian Luo, Kehan Qi, Qingqiao Hu, Meilong Xu, Jiacheng Qiu, Weimin Lyu, Jiawei Zhou, Chao Chen·· 2026-10-07AI 评分41
安全目标下的策略蒸馏是否带来后门风险?
Does On-Policy Distillation for Safety Pose Backdoor Risks?
AI 导读
研究发现,经过安全对齐但包含后门的教师模型会将隐藏恶意行为传播给原本干净的学生模型。在 3% 的中毒率下,蒸馏后学生模型的攻击成功率高达 70%。 训练轮数增加和采用 top-k KL 会放大风险;仅 10 个中毒样本经 16 轮训练后攻击成功率达 67%。 Lazy Defense 通过限制更新幅度,在低中毒率设置下可延缓后门转移。
来源:arXiv · ML · arxiv.org