研究表明自我进化降低智能体抗提示注入能力

2026年10月30日，arXiv发布一项cs.AI领域研究，聚焦个人智能体的安全性。研究表明，自我进化机制显著损害了智能体应对间接提示注入的鲁棒性。具体而言，对比未进化的基础智能体，经过技能进化后，攻击成功率平均提升了14.0至48.8个百分点；若采用强化学习进化，提升幅度为3.0至39.3个百分点。该发现揭示了自我进化在提升能力过程中可能带来的安全短板。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。