OpenAI·2017-06-13 15:00· 2017-06-13AI 评分39OpenAI 与 DeepMind 合作开发基于人类偏好推断的算法Learning from human preferencesAI 导读OpenAI 与 DeepMind 安全团队合作开发了一种新算法,该算法通过询问两个行为中哪个更好来推断人类想要什么。这一进展旨在消除人类编写目标函数的需求,从而避免使用简单代理或设定复杂目标出错导致的不利甚至危险行为。来源:OpenAI · openai.comOpenAI / ChatGPT安全对齐论文研究#论文/研究#安全/对齐#OpenAI