arXiv · AI· Huihao Jing, Shaojin Chen, Wenbin Hu, Yuxuan Liu, Haochen Shi, Zhongwei Xie, Haoran Li, Yangqiu Song·· 2026-10-14AI 评分30
基准 \bench{} 评估 AI 护栏是否遵循授权
Same Operation, Different Permission: Evaluating Whether Guardrails Honor Authorization
AI 导读
summary_zh: 基准 \bench{} 通过对比自然语言场景与已执行操作,评估 AI 护栏对同一操作的授权决策。 实验发现许多被阻断的操作源于审查失败而非正确拒绝,修复输出格式虽恢复可用性,但会改变被认可的授权请求,增加第二审查员虽减少错误但会拒绝有效授权。
来源:arXiv · AI · arxiv.org