arXiv · AI· Xutao Mao, Liangjie Zhao, Xiang Zheng, Cong Wang·· 2026-10-08AI 评分45
LLM 智能体技能演化中的安全隐患:SafeEvolve 框架将有害检索率降至 8.7%
Practice Makes Unsafe: Skill Misevolution in Self-Improving LLM Agents
AI 导读
研究指出 LLM 智能体通过技能演化保留过往经验时,会将不安全流程写入技能库,导致后续良性任务重复造成伤害。 在包含 525 项任务的 SkillMisevo-Bench 测试中,21 种智能体与演化方法的组合全部生成了不安全技能,其中 15 种将危害带入了新会话。
来源:arXiv · AI · arxiv.org