arXiv · ML· Yibo Zhang, Tianrong Guan, Liang Lin, Puze Wang, Jin Wang, Qingsong Wen·· 2026-10-07AI 评分35
多轮对话 LLM 回答侧后门攻击研究
The Model Plants the Trigger: Answer-Side Backdoor Attacks in Multi-Turn Large Language Models
AI 导读
该研究提出一种针对多轮对话 LLM 的“回答侧”后门攻击,在 5% 中毒率下实现了接近 100% 的攻击成功率。 与依赖用户输入触发的传统攻击不同,此攻击通过良性首轮诱导模型生成特定单词,该单词随后作为触发器融入历史对话,使模型在后续面对有害查询时绕过安全拒绝。 表示级分析显示,自生成的触发器会稳定抑制模型的拒绝信号,揭示了当前输入导向防御体系的关键盲点。
来源:arXiv · ML · arxiv.org