arXiv · AI· Yini Huang, Aiwen LU, Zhen Sun, Yi Han, Yuzhi Zhao, Jiaheng Wei·· 5 小时前AI 评分28
ANGLER:基于验证器的 Web Agent 自适应红队测试基准
ANGLER: Verifier-Grounded Benchmarking with an Adaptive Attacker for Web Agents
AI 导读
论文提出 REEF 基准与 ANGLER 自适应攻击框架,用于评估 Web Agent 在真实环境中的安全风险。REEF 覆盖 9 个网站和 5 种攻击类型,通过状态验证器驱动 LLM 生成攻击。 在 8 个基于 VLM 的 Web Agent 测试中,ANGLE 实现 20.36% 的攻击成功率,并将良性任务成功率从 61.9% 降至 44.4%,揭示了现有评测方法的不足。
来源:arXiv · AI · arxiv.org