arXiv · NLP· Haolei Xu, Xiaowen Xu, Haiwen Hong, Zixuan Ni, Hongxing Li, Yiwen Qiu, Weiming Lu, Yongliang Shen·· 3 天前AI 评分26
Relay-OPD:基于轨迹中继的在策略蒸馏
Pass the Baton: Trajectory-Relayed On-Policy Distillation
AI 导读
提出 Relay-OPD 方法解决在策略蒸馏中的前缀失败问题,通过教师在触发点接管生成教师腿并移交给学生。 使用 Qwen3-4B-Instruct-2507 作为教师模型,Relay-OPD 在 8 个基准上平均优于标准 OPD 5.73%,且减少超过 50% 的训练轨迹长度。
来源:arXiv · NLP · arxiv.org