跳到正文
arXiv · AI· Xinyi Wu, Jiagui Chen, JiaYi Dong, Geng Hong, Xudong Pan, Jiarun Dai, Mingxuan Liu, Min Yang·· 10 天前AI 评分39

WebTrap Farm 揭示 Web 智能体 Harness 的安全韧性

Harness Matters: Measuring and Dissecting Security Resilience in Web Agents

AI 导读

研究发布 WebTrap Farm 评测框架,发现现有 Web 智能体 Harness 即便在无显式攻击内容时仍存在不安全行为。 该框架覆盖恶意用户提示、提示注入及欺骗性网页设计三类攻击,统计显示 Harness 与后端模型共同决定安全结果。 研究定位防御行为出现的工作流阶段,强调 Harness 是 Web 智能体安全的关键边界。

来源:arXiv · AI · arxiv.org