跳到正文
LessWrong · All Posts· Jeffrey Olmo·· 27 天前AI 评分57

发布模拟控制评估(SCEs)论文,用LLM模拟器测试AI监控在真实部署中的效果

Simulated Control Evaluations

AI 导读

我们发布了一篇关于模拟控制评估(SCEs)的论文。这是一种测试方法,用于判断AI开发者用来监督其智能体的监控器能否在更接近真实部署的条件下,捕捉到模型蓄意造成伤害的行为。

来源:LessWrong · All Posts · lesswrong.com