跳到正文
arXiv · AI· Keshav Shenoy, Anthony Zang, Eric Gan, Jacqueline Tay, Amy Ngo, Sebastian Prasanna, Julian Stastny, Vivek Hebbar·· 2 天前AI 评分54

审计者在 AI 安全研究端到端转录中难以发现蓄意破坏

Auditors Struggle to Catch Sabotage In End-to-End Transcripts of AI Safety Research

AI 导读

一项红队蓝队测试显示,人类审计者难以区分被破坏与正常的 AI 安全研究。在获取完整研究转录且允许运行实验的条件下,人类审计者的 AUROC 仅为 0.59,在全部案例中仅准确识别出 17% 的具体破坏内容。

来源:arXiv · AI · arxiv.org