OpenAI (X)· OpenAI·· 3 天前精选AI 评分68
OpenAI 联合 Apollo Research 等机构开展嵌入式对齐评估
We’re working with @ApolloResearch, @METR_Evals, @TransluceAI, and @GoodfireAI on embedded assessments: giving outside experts deep acces...
AI 导读
OpenAI 宣布与 Apollo Research、METR、Transluce AI 和 Goodfire AI 合作开展嵌入式评估(embedded assessments),允许外部专家深入访问内部模型和系统以调查对齐问题并测试安全机制。这些评估建立在 OpenAI 现有的对齐与安全研究基础上,旨在通过独立审查来识别和管理系统风险。
推荐理由
原文披露了OpenAI与多家外部机构合作开展嵌入式评估的计划,展示了其引入独立专家审查对齐与安全保障的新机制。
来源:OpenAI (X) · x.com