审计揭示小模型代理提示注入失败模式
热点事件持续更新
审计揭示小模型代理提示注入失败模式
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
Farhan Zarif 等人发布针对小模型工具代理间接提示注入安全性的审计论文及数据集。研究团队对 33,000 条轨迹进行审计，发现 2-14B 参数的开放权模型中，76-80% 的间接提示注入攻击失败是因为代理忽略攻击而非拒绝。进一步分析指出，仅改变系统提示词即可使 InjecAgent 上的攻击成功率从 0.2% 飙升至 43%。此外，ATOM 分析显示 21.7% 的 AgentDojo 场景中代理保持安全但任务未完成，揭示低攻击成功率指标存在盲区。研究团队开源了标注语料、评判提示词及分析代码。
AI 根据报道生成 · 6 小时前更新
最新进展10月19日 12:00
审计显示 76-80% 的 IPI 失败攻击被小型工具代理忽略而非拒绝，低 ASR 掩盖任务失败报道时间线
沿着报道，了解事件的不同侧面。
10月19日
- arXiv · NLP审计显示 76-80% 的 IPI 失败攻击被小型工具代理忽略而非拒绝，低 ASR 掩盖任务失败
对 33,000 条轨迹的审计发现，在 2-14B 参数的开放权模型中，76-80% 的间接提示注入攻击失败是因为被忽略而非拒绝。 仅改变系统提示词即可使 InjecAgent 上的 ASR 从 0.2% 飙升至 43%；ATOM 分析显示 21.7% 的 AgentDojo 场景中代理安全但任务未完成，揭示低 ASR 指标存在盲区。
本事件热度走势
- 可比范围当前
- 8
- 可比范围峰值
- 910月19日 14:00
- 近 24 小时变化
- –
02.557.510
14:0015:0016:0017:0018:0019:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。