arXiv · AI· Lizhi Zhang, Xin He, Dianxuan Fu, Yuyuan Feng, Jiatong Li, Qi Wang, Xin Wang, Qinggang Zhang·· 2026-10-07AI 评分56
SkillPoison: 通过成功经验实现渐进式技能投毒
SkillPoison: Progressive Skill Poisoning via Successful Experiences
AI 导读
研究提出 SkillPoison 框架,证明自我改进 LLM 智能体的技能学习易受攻击。该方法不直接注入恶意行为,而是构建强化目标行为的成功经验并移除约束条件,诱导技能提取器泛化时产生有害行为。在三个基准测试中,所有注入的经验均保持任务正确并通过验证,但攻击成功率达 95.71%。
来源:arXiv · AI · arxiv.org