arXiv · AI· Chenxu Wang, Xiaoyu Wen, Han Qi, Ziyuan Zhou, Cheng Jin, Chaochao Lu, Qiaosheng Zhang·· 2026-10-15AI 评分38
AgentSafeEvo:LLM 智能体安全的对抗共进化
AgentSafeEvo: Adversarial Co-Evolution for LLM Agent Safety
AI 导读
AgentSafeEvo 是一个基于攻击者-防御者博弈的共进化强化学习框架,旨在提升 LLM 智能体安全。该框架通过可学习性引导的任务加权机制,动态调整任务对智能体更新的影响。 实验表明,该方法在提升对抗鲁棒性的同时,保持了通用智能体能力。
来源:arXiv · AI · arxiv.org