跳到正文
arXiv · ML· Chuan Zou, Yang Xiang, Zexin Li, Xiaonan Luo, Simin Chen·· 2026-10-14AI 评分34

EvolvAttack: 自进化视觉语言模型智能体的后门攻击

EvolvAttack: Backdooring self Evolving VLM Agents

AI 导读

EvolvAttack 提出针对自进化视觉语言模型(VLM)智能体的新后门攻击面。该攻击在初始阶段处于休眠,需视觉触发器与进化记忆状态共同激活,静态扫描下攻击成功率接近零。 实验覆盖三个 VLM 骨干、四条智能体流水线及多种记忆进化方式。进化前攻击成功率仅 0.5%,100 次交互内超过 95%。 研究揭示了自进化智能体特有的隐蔽性安全威胁。

来源:arXiv · ML · arxiv.org