arXiv · AI· Keshav Shenoy, Anthony Zang, Eric Gan, Jacqueline Tay, Amy Ngo, Sebastian Prasanna, Julian Stastny, Vivek Hebbar·· 2 天前AI 评分54
审计者在 AI 安全研究端到端转录中难以发现蓄意破坏
Auditors Struggle to Catch Sabotage In End-to-End Transcripts of AI Safety Research
AI 导读
一项红队蓝队测试显示,人类审计者难以区分被破坏与正常的 AI 安全研究。在获取完整研究转录且允许运行实验的条件下,人类审计者的 AUROC 仅为 0.59,在全部案例中仅准确识别出 17% 的具体破坏内容。
来源:arXiv · AI · arxiv.org