arXiv · ML· Chuxue Cao, Jingru Zeng, Boqin Yin, Yujin Zhou, Yidan Huang, Sujin Chen, Jinluan Yang, Haoran Li, Yike Guo, Sirui Han·· 11 天前AI 评分35
ADB 揭示 LLM Agent 授权漂移:能力越强漂移率越高
Authorization Drift in LLM Agents: Evaluating Boundary Compliance in Multi-Step Tool Use
AI 导读
新基准 ADB 显示,随着 LLM 能力增强,授权漂移率升至 0.43-0.61。该基准包含 648 个样本及 25,207 条轨迹,86.18% 的任务存在无漂移成功路径。 93.5% 的漂移运行映射至多个司法管辖区的法律风险,突显数据最小化缺失对隐私的影响。
来源:arXiv · ML · arxiv.org