CREO 框架揭示搜索智能体漏洞

arXiv 论文提出名为 CREO 的对抗性自演化攻击框架。该框架针对搜索智能体安全，利用对比式演化信号驱动攻击策略进化，并采用双层优化机制结合攻击者策略与防御者缓解。 研究团队在受控沙盒中设计了细粒度指标以量化内部漏洞。实验结果显示，在多个多跳问答基准及前沿大模型上，该框架的攻击效能优于静态基线方法。 基于上述结果，论文强调开发更鲁棒防御框架的紧迫性，以此凸显搜索智能体在动态网络环境中的脆弱性。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。