arXiv · ML· Yunjie Chen, Zihao Chen, Xiaoxin Chen, Fan Wang·· 2026-10-14AI 评分31
REGEN:利用离线强化学习实现专家到通用大模型的知识蒸馏
REGEN: Replay-recycling for Expert-to-Generalist distillation with Offline Reinforcement Learning
AI 导读
研究人员提出REGEN框架,通过回收专家模型强化学习的回放内存并应用离线强化学习算法,训练通用大模型。该方法将采样过程与反向传播解耦,在数学推理、代码生成等任务上以更低成本达到多教师蒸馏的精度。 REGEN可将在线强化学习转化为数据合成过程,降低大规模后训练对计算基础设施的需求,代码已开源。
来源:arXiv · ML · arxiv.org