跳到正文
arXiv · NLP· Qiye Cai, Yichuan Ma, Weitao Ma, Peiji Li, Yongkang Chen, Yicheng Zou, Linyang Li, Xiaocheng Feng, Bing Qin·· 2026-10-14AI 评分23

H$^2$SD: Hybrid Hindsight Self-Distillation

H$^2$SD: Hybrid Hindsight Self-Distillation

AI 导读

研究人员提出混合后见之明自蒸馏(H$^2$SD)方法,针对强化学习可验证奖励中奖励信号对token级信用分配指导有限的问题。在Sudoku、数学推理等任务中,H$^2$SD在两个Qwen3模型上实现43.33%的平均准确率,比最强基线高11.43个百分点。

来源:arXiv · NLP · arxiv.org