跳到正文
arXiv · AI· Minhua Lin, Zongyu Wu, Hanqing Lu, Xianfeng Tang, Xiang Zhang, Qi He, Suhang Wang·· 10 天前AI 评分39

BadEvolve:针对自进化 LLM Agent 的失败感知任务后门攻击框架

When Experience Becomes a Backdoor: Poisoning Self-Evolving LLM Agents via Failure-Aware Task Optimization

AI 导读

针对自进化 LLM Agent 的持久化技能机制,研究者提出 BadEvolve 框架。 该框架通过注入污染任务诱导 Agent 在技能中植入后门。BadEvolve 诊断 Induction、Activation、Following、Effect 四个阶段失败,利用回滚和失败记忆优化攻击效率。

来源:arXiv · AI · arxiv.org