跳到正文
OpenAI (X)· OpenAI·· 28 天前AI 评分58

OpenAI 邀请 METR 和 Redwood Research 对内部监测系统开展嵌入式评估试点

This summer, we invited METR and Redwood Research to pilot an embedded evaluation of our internal monitoring system, providing deep acces...

AI 导读

OpenAI 今年夏天邀请 METR 和 Redwood Research 对其内部监测系统开展为期三周的嵌入式评估试点,团队对其基础设施进行了深度访问,旨在监测内部智能体的失准行为。其发现结果帮助 OpenAI 在系统扩展过程中增强了安全保障措施,并将影响未来与 METR 及其他第三方评估机构的研究合作。一篇关于此次工作的简短报告现已公开。

来源:OpenAI (X) · x.com