arXiv · AI· Mina Mohammadmirzaei, Jeffrey Flanigan·· 2026-10-07AI 评分40
OSGuard:评测计算机使用智能体安全性的基准测试
OSGuard: A Benchmark for Safety in Computer-Use Agents
AI 导读
研究团队推出OSGuard基准测试,用于评测计算机使用智能体在完成任务时的安全性,旨在检测智能体在满足用户指令的同时是否违反环境约束。 该基准包含324个人工标注的动作级示例,以及由40个OSWorld任务衍生出的45个增强执行任务,通过引入状态依赖的安全约束来区分安全完成与名义成功。
来源:arXiv · AI · arxiv.org