跳到正文
arXiv · AI· Yujun Wang, Yilun Liu, Jinhe Bi, Krishna Kanth Nakka, Xuebing Zhou, Hinrich Sch{\"u}tze, Yunpu Ma·· 2 天前AI 评分36

Evolution Under Fire:基于自适应注入压力源的智能体安全护盾演化框架

Evolution Under Fire: Evolving Agent Safety Harnesses with Adaptive Injection Stressors

AI 导读

Evolution Under Fire 框架通过耦合安全护盾与自适应压力源的演化,显著降低了工具使用型智能体的攻击成功率。 在 AgentDyn 基准上,该框架使 GPT-4o-mini 的攻陷率从 50.4% 降至 3.0%。 在 Qwen2.5-7B-Instruct 上攻陷率降至 62.0%,且演化后的护盾可迁移至 Qwen3.5-35B-A3B。

来源:arXiv · AI · arxiv.org