arXiv · AI· Zhiyue Xu, Xukai Wang, Zhiyuan Huang, Mingjie Zhan, Jian Zhao, Xu-Yao Zhang·· 4 小时前AI 评分41
研究提出 CarryoverBench 基准以测试 LLM 智能体残留攻击
After the Attacker Leaves: Benchmarking Carryover Attacks on LLM Agents
AI 导读
研究提出 CarryoverBench 基准，包含 12 个个人助理场景和 101 个攻击任务，用于评估 LLM 智能体的残留攻击。 测试覆盖即时、自主和潜伏三种触发渠道，结果显示五个前沿模型中植入的载荷在 5 轮后无衰减。 将潜伏渠道移植到 Hermes 运行时削弱但未消除该效应，表明需结合运行时层控制进行防御。
来源：arXiv · AI · arxiv.org