跳到正文
arXiv · AI· Doyun Kim, Chanwoo Kim, Sugyeong Eo, Yeo-Chan Yoon, Chanjun Park·· 17 小时前AI 评分26

EvoSkill Injection: Self-Evolving Agents 中自主技能生成与进化的红队测试

EvoSkill Injection: Red-Teaming Autonomous Skill Generation and Evolution in Self-Evolving Agents

AI 导读

论文定义 EvoSkill Injection 威胁模型,指出 LLM agent 自主技能进化存在恶意技能持久化风险。提出 SARGE 红队框架及 EvoSkillBench、EvoSkillSafetyBench 基准数据集。实验表明注入的恶意技能会被持续存储并反复激活,凸显能力腐化安全隐患。

来源:arXiv · AI · arxiv.org