LessWrong · All Posts· Sev·· 5 天前AI 评分53
RIDArena 发布:模拟 AI 实验室内部部署与监控破坏的安全评测环境
Introducing RIDArena
AI 导读
RIDArena(Rogue Internal Deployment Arena)是一款 AI 控制评测环境,模拟 AI 实验室研发基础设施。研究人员可用它研究智能体如何隐蔽破坏实验室监控系统并部署另一 rogue 智能体,从而测试 sabotage、control 和 monitor 评测。
来源:LessWrong · All Posts · lesswrong.com