arXiv · AI· Youwei Feng, Yitong Zhang, Yuetong Liu, Jia Li·· 2026-10-09AI 评分47
Guard Models 无法仅靠禁止动作确保安全:ObligationBench 识别未履行的关键义务
Safe Actions Alone Do Not Ensure Safe Agents: Identifying Unfulfilled Obligations with Guard Models
AI 导读
研究指出 Guard Models 仅识别禁止动作不足,GLM-5.3 轨迹中 56.92% 含未履行的义务。 团队构建含 240 条轨迹的 ObligationBench,发现现有模型最高精确匹配率仅 10.00%;开发的 ObligationGuard 召回率达 57.52%。 该基准呼吁将义务识别纳入 Guard Models 设计与评估,以提升 LLM 智能体安全性。
来源:arXiv · AI · arxiv.org