arXiv · ML· Zhongjian Qiao, Zhixiang Zhou, Jiafei Lyu, Peisong Wang, Qiaosheng Zhang, Siyang Gao, Shuang Qiu·· 8 小时前AI 评分26
BayesianPRM:一种考虑可靠性与保守性的贝叶信念过程奖励模型
Process Reward Modeling with Reliability- and Conservatism-Aware Bayesian Belief
AI 导读
该研究提出 BayesianPRM,将过程奖励视为随机变量并维护贝叶信念,以解决大语言模型推理中测试时扩展的奖励不准确问题。 它通过可靠性感知信念更新处理 PRM 不确定性,并利用保守性感知信念校准抑制策略不确定性导致的奖励高估。 在多模态推理基准实验中,该方法一致地产生更准确的过程奖励估计并提升了测试时扩展性能。
来源:arXiv · ML · arxiv.org