LessWrong · All Posts· Jeffrey Olmo·· 27 天前AI 评分57
发布模拟控制评估(SCEs)论文,用LLM模拟器测试AI监控在真实部署中的效果
Simulated Control Evaluations
AI 导读
我们发布了一篇关于模拟控制评估(SCEs)的论文。这是一种测试方法,用于判断AI开发者用来监督其智能体的监控器能否在更接近真实部署的条件下,捕捉到模型蓄意造成伤害的行为。
来源:LessWrong · All Posts · lesswrong.com