跳到正文
LessWrong · All Posts· Zvi·· 16 天前AI 评分30

OpenAI 更新其模型规范

OpenAI Updates Its Model Spec

AI 导读

OpenAI 发布新版 Model Spec,将核心价值重构为“忠实人类意图、最小化伤害、诚实透明、促进人类能动性、审慎行动”五项。 新版规范采用义务论原则,与 Claude Constitution 的“性格与美德”路径形成对比,移除了“善良”、“热爱人类”等条目。 文章指出新规范中的示例存在答案过度决定的问题,未能有效指导模型在真实困难案例中的决策。

来源:LessWrong · All Posts · lesswrong.com