arXiv · AI· Tien-Phat Nguyen, Truong Nguyen, Thanh-Thien Le, Hoang Phan, Thien Huu Nguyen, Linh Ngo Van, Trung Le·· 4 小时前AI 评分31
Route-and-Generate：面向大语言模型推理路由的 KL 正则化路由器改进
Route-and-Generate: KL-Regularized Router Improvement for Reasoning Routing in LLMs
AI 导读
提出 Route-and-Generate 框架，通过解耦推理努力分配与答案生成，实现大语言模型自适应推理。 该方法引入路由策略分配固定采样预算，采用基于 GRPO 的优化及倾向短解的排序奖励，辅以 KL 正则化策略改进。在多个推理基准上实现了准确率与效率的改进。
来源：arXiv · AI · arxiv.org