跳到正文
arXiv · NLP· Shangjian Yin, Yu Fu, Yue Dong, Zhouxing Shi·· 4 小时前AI 评分21

可验证奖励与开放域奖励:强化学习中跨域泛化机制解析

Where and What to Reward? Understanding Generalization Between Verifiable and Open-Ended Domains in Reinforcement Learning

AI 导读

研究解耦了强化学习中提示来源与奖励类型的影响,发现开放域提示结合奖励模型的RLHF能显著提升对话、推理及编程能力。 相比之下,基于规则验证器的RLVR虽能改善推理,但在开放域对话上的增益远低于RLHF,表明跨域泛化更依赖奖励机制。

来源:arXiv · NLP · arxiv.org