跳到正文
LessWrong · All Posts· keshavs·· 1 小时前AI 评分37

审计员难以在 AI 安全研究的端到端转录中发现破坏行为

Auditors Struggle to Catch Sabotage in End-to-End Transcripts of AI Safety Research

AI 导读

在红队/蓝队游戏中,拥有完整研究日志和运行实验能力的人工审计员几乎无法区分被破坏与安全的研究,且通常无法定位具体破坏点。 最佳前沿模型表现稍好,但仍会漏掉大多数破坏行为。

来源:LessWrong · All Posts · lesswrong.com