arXiv · AI· Hasan Demirkiran, Jens Ernstberger·· 2026-10-16AI 评分22
智能体安全评估中的捷径敏感性:基于 LinuxArena 和 TS-Bench 的审计框架
Shortcut Sensitivity in Agent-Safety Evaluations
AI 导读
研究发现 AI 智能体安全评估数据存在捷径效应,导致标签可预测且影响守护模型决策。 LinuxArena 中短命令强烈预测标签;AgentDojo-Traj 在跨域留出时 F_1 从 0.901 降至 0.495。改写安全标记使拦截率降低 8.33 个百分点,证明基准表示会实质性改变模型表现。
来源:arXiv · AI · arxiv.org