arXiv · ML· Nathaniel Bottman, Alexei Oblomkov·· 7 天前AI 评分32
诚实是一场竞赛:预测可验证奖励强化学习何时教会模型虚张声势
Honesty Is a Race: Predicting When Verifiable-Reward RL Teaches a Model to Bluff
AI 导读
可验证奖励强化学习中,模型倾向诚实的临界条件为 $\tilde{p}r/b > 1+\kappa$。训练初期 $\kappa$ 较大导致模型短暂趋向虚张声势,随后回升;超过收益上限时模型会将正确程序误判为有缺陷。
来源:arXiv · ML · arxiv.org