跳到正文
量子位· 程浅·· 3 小时前精选AI 评分85

OpenAI更新模型准则,确立忠于人类意图等五条核心价值观

OpenAI重写大模型法则,第一条:忠于人类!!

AI 导读

OpenAI更新了模型准则(Model Spec),确立了忠于人类意图、减少伤害、诚实透明、促进人的自主性、关怀五条核心价值观。新准则强调AI需超越字面指令理解用户意图,利用记忆机制区分短期指令与长期偏好,并严禁模型产生自我保存、囤积算力或逃避关机的行为。

推荐理由

OpenAI更新的模型准则明确禁止自我增强并重新定义忠于意图,提供了AI安全对齐的具体工程细节。

来源:量子位 · qbitai.com