arXiv · AI· Shenghao Ye, Yu Guo, Zhengheng Li, Qiang Huang, Shuangwu Chen, Wang Luo, Qian Rui, Jie Zhang, Tao Zhang, Dong Jin, Xiaobin Tan, Quan Zheng, Jian Yang·· 8 小时前AI 评分31
RoRo:基于评分标准的步骤级模型路由过程奖励框架
Rubric-Guided Process Reward for Stepwise Model Routing
AI 导读
提出RoRo框架,利用基于评分标准的奖励优化大型推理模型(LRM)的步骤级模型路由,解决仅使用结果奖励无法评估中间路由决策的问题。 框架通过交替优化生成查询特定的评估标准并打分,结合结果奖励使用GRPO优化路由策略。 实验显示,RoRo在五项推理基准测试中优于强基线,实现了更优的准确性与成本平衡。
来源:arXiv · AI · arxiv.org