arXiv · NLP· Hyun Ryu, Jong-Heon Kim, Yiqing Xie, Seungone Kim, Carolyn Rose, Eunho Yang·· 3 小时前AI 评分48
FORK奖励机制通过精准度目标缓解基于评分标准的强化学习中的奖励黑客现象
Eat Your Precision: Precision Objective Mitigates Reward Hacking in Rubric-based RL
AI 导读
FORK奖励机制通过联合优化召回率与新颖的精准度目标，缓解了基于评分标准强化学习中的奖励黑客问题。该机制要求响应单元既必要又事实正确，使用基于评分标准的必要性信用和事实正确性评分器进行衡量。 实验结果显示，FORK在RubricHub-Medical上将胜率从10.6%提升至68.0%，在HealthBench上从22.1%提升至74.1%，同时保持相似的评分标准覆盖率。
来源：arXiv · NLP · arxiv.org