跳到正文
arXiv · AI· Yuxiang Zhang, Ding Cao, Shuting Cui, Lei Wang, Weijieying Ren, Tianxiang Zhao·· 2026-10-05AI 评分35

Seg-OPD 通过分段在线策略蒸馏改进 LLM 推理修订

Learning to Revise Reasoning with Segment-wise On-Policy Distillation

AI 导读

研究提出分段在线策略蒸馏方法 Seg-OPD,通过教师模型重写学生模型的中间推理片段来监督其修订过程。该方法结合不确定性指标选择片段,保留 token 级监督,在数学推理和竞赛编程任务中使推理准确率平均相对提升 5.22%。代码已开源。

来源:arXiv · AI · arxiv.org