OpenAI·2017-08-03 15:00· 2017-08-03AI 评分28OpenAI 开源 RL-Teacher:通过人类反馈训练 AI 而非手工设定奖励函数Gathering human feedbackAI 导读OpenAI 开源了 RL-Teacher,这是一种通过不定期的人类反馈来训练 AI 的接口实现,替代了手工制作的奖励函数。该底层技术最初是为开发安全的 AI 系统而设计的,但也适用于奖励难以明确指定的强化学习问题。来源:OpenAI · openai.comOpenAI / ChatGPT开源生态安全对齐模型发布#模型发布#开源生态#安全/对齐#OpenAI