arXiv · AI· Giulio Zingrillo, Hanna Foerster, Ilia Shumailov, Yiren Zhao, Robert Mullins·· 2026-10-05AI 评分31
防护 Computer-Use 智能体免受 Branch Steering 攻击
Securing Computer-Use Agents Against Branch Steering Attacks
AI 导读
研究提出 COBRA 架构以保障 Computer-Use 智能体安全,其在 STEER-Bench 基准上将攻击成功率降至 0% 并保持 97% 的无害任务效用。标准及 vanilla Dual-LLM 智能体在 101 项任务中面临 94.4% 和 89.5% 的高攻击成功率,COBRA 通过预置能力约束严格限制了危险分支。
来源:arXiv · AI · arxiv.org