IT之家·· 3 天前AI 评分50
OpenAI 联合多家机构启动嵌入式评估,曾探讨超 50 亿美元收购 Goodfire
OpenAI 与 Goodfire 达成 AI 安全合作,此前曾探讨超 50 亿美元收购
AI 导读
OpenAI 宣布与 Goodfire 等机构合作启动嵌入式评估项目,此前曾探讨超 50 亿美元收购 Goodfire,但双方未达成交易。 Goodfire 研究人员将进驻 OpenAI 监测模型训练,重点关注模型取证以排查非预期行为并改善模型对齐。 Anthropic 曾向 Goodfire 投资 100 万美元,强调机制可解释性有助于将神经网络转变为可控系统。
来源:IT之家 · ithome.com