跳到正文
The Decoder· Manuel Uth·· 20 天前AI 评分52

OpenAI 发布新 Model Spec,为难以控制的 AI 模型设定行为准则

OpenAI sets new behavioral guidelines for AI models that have already proven hard to control

AI 导读

OpenAI 将其公开的模型行为准则 Model Spec 重构为五项核心价值:忠于人类意图、减少伤害、诚实与透明、支持人类能动性、关怀。新 Spec 要求 GPT 模型结合记忆与过往对话推断用户需求,并清晰区分用户原话与模型推断,同时披露假设以便用户纠正;对自主执行的 Agent 提高可纠正性要求,规定模型不得阻止监督、纠正或关闭,不得追求自我保存等自身目标。

来源:The Decoder · the-decoder.com