跳到正文
arXiv · AI· Geyuan Wang, Shunyu Liu, Siyuan Liang, Chenyang Lyu, Dacheng Tao·· 3 小时前AI 评分26

CREO:面向搜索智能体的对抗性自演化攻击框架

The Web Doesn't Sit Still: Adversarial Self-Evolving Attacks on Search Agents

AI 导读

CREO框架通过攻击者策略演化与防御者自适应缓解的双层优化,揭示搜索智能体在动态网络环境中的脆弱性。 该方法利用对比式演化信号驱动攻击策略群体定向进化,并在受控沙盒中设计细粒度指标量化内部漏洞。 实验表明该框架的攻击效能优于静态基线,凸显了开发更鲁棒防御框架的紧迫性。

来源:arXiv · AI · arxiv.org