arXiv · NLP· Tahmid Imtiaz Imu, Emama Nahid, Prodipta Sen Amartya, Ahsanul Jobayer, Yutong Song, Jiang Wu, Pengfei Zhang, Honghui Xu·· 2026-10-12AI 评分34
癌性后门攻击:通过不可见 token 和阶段控制器实现大语言模型的渐进式推理破坏
Cancerous Backdoor Attack: Gradual Activation via Invisible Tokens and A Stage Controller
AI 导读
研究人员提出“癌性后门攻击”,利用不可见 token 和阶段控制器使大语言模型的推理在多次交互中逐步被破坏。 该攻击在多个推理数据集上一致导致渐进式推理损伤,性能优于现有基线方法。 结果表明仅凭答案准确率不足以检测此类后门,因为推理破坏在变得可见前已逐渐发展。
来源:arXiv · NLP · arxiv.org