arXiv · AI· Kaixiang Wang, Junjie Li, Zhaojiacheng Zhou, Jiong Lou, Jie Li·· 7 天前AI 评分26
S1-Evo:针对带类型 System-1 决策模型的经验引导证据竞争攻击
S1-Evo: Experience-Guided Evidence Competition Attacks on Typed System-1 Decision Models
AI 导读
S1-Evo 提出一种针对 LLM 智能体中 System-1 决策模型的新型攻击框架,通过合同感知证据通道诱导证据竞争。 该框架在离线优化中利用方向性边界反馈搜索,将验证翻转蒸馏为经验卡片,测试时检索卡片构建扰动。 在四个基准和三个 System-1 模型上,S1-Evo 平均 ASR 达 71.99%,最高引发 24.00% 端到端智能体违规。
来源:arXiv · AI · arxiv.org