arXiv · NLP· Farhan Zarif, Kazi Shahid Ahmed Galib, Synthia Akter Promi, Shabnam Sharmin Tarin, Ariyan Hossain, Sadif Ahmed, Farig Yousuf Sadeque·· 16 小时前AI 评分42
审计显示 76-80% 的 IPI 失败攻击被小型工具代理忽略而非拒绝，低 ASR 掩盖任务失败
Ignored, Not Refused: What Low Prompt-Injection Success Rates Hide in Small Tool-Using Agents
AI 导读
对 33,000 条轨迹的审计发现，在 2-14B 参数的开放权模型中，76-80% 的间接提示注入攻击失败是因为被忽略而非拒绝。 仅改变系统提示词即可使 InjecAgent 上的 ASR 从 0.2% 飙升至 43%；ATOM 分析显示 21.7% 的 AgentDojo 场景中代理安全但任务未完成，揭示低 ASR 指标存在盲区。
来源：arXiv · NLP · arxiv.org