arXiv · NLP· Yukun Chen, Yidou Chen, Yiming Li, Xinyu Zhang, Baosong Yang, Hongwei Yao, Zhan Qin·· 2026-10-14AI 评分35
大模型合并中的单侧条件后门失对齐攻击框架 SMOKE
Towards Merging-conditional Backdoor Unalignment against Large Language Models
AI 导读
论文揭示了大模型合并中单侧合并条件后门(OMCB)威胁,该后门在独立模型中处于休眠状态,但在模型合并时会被激活并导致安全失对齐。 研究人员提出基于元学习的攻击框架 SMOKE,通过双层优化策略植入 OMB,内环利用随机低秩初始化合成代理元向量,外环模拟合并过程优化目标模型。 实验验证 SMOKE 的有效性及其对现有后门检测的抵抗力,表明注入的后门在未知合并配置下具有有界泛化损失。
来源:arXiv · NLP · arxiv.org