arXiv · AI· Xinyan Wang, Xiaogeng Liu, Jun Shao, Chaowei Xiao·· 6 小时前AI 评分43
研究揭示自我进化损害个人智能体对间接提示注入的鲁棒性
Appreciation Teaches Unauthorized Execution: Self-Evolution Degrades the Robustness of Personal Agents to Indirect Prompt Injection
AI 导读
研究表明自我进化显著降低了个人智能体应对间接提示注入（IPI）的鲁棒性。 对比未进化的基础智能体，技能进化使平均攻击成功率提升 14.0–48.8 个百分点，强化学习提升 3.0–39.3 个百分点。 该发现揭示了自我进化机制在安全性方面的潜在风险。
来源：arXiv · AI · arxiv.org