跳到正文
arXiv · ML· Zhongjian Qiao, Zhixiang Zhou, Jiafei Lyu, Peisong Wang, Qiaosheng Zhang, Siyang Gao, Shuang Qiu·· 8 小时前AI 评分26

BayesianPRM:一种考虑可靠性与保守性的贝叶信念过程奖励模型

Process Reward Modeling with Reliability- and Conservatism-Aware Bayesian Belief

AI 导读

该研究提出 BayesianPRM,将过程奖励视为随机变量并维护贝叶信念,以解决大语言模型推理中测试时扩展的奖励不准确问题。 它通过可靠性感知信念更新处理 PRM 不确定性,并利用保守性感知信念校准抑制策略不确定性导致的奖励高估。 在多模态推理基准实验中,该方法一致地产生更准确的过程奖励估计并提升了测试时扩展性能。

来源:arXiv · ML · arxiv.org