arXiv论文：离线在线策略蒸馏的可学习性方法

2026年9月16日，Yihao Ai等研究者发布论文《Trajectory Learnability for Offline On-Policy Distillation with Imperfect Teachers》。论文提出一种处理离线在线策略蒸馏中不完美教师轨迹的方法。该方法通过教师成功问题定义基准，计算失败轨迹的符号似然变化，为蒸馏提供免生成的轨迹权重信号。 在性能与效率方面，该方法在数学推理和代码生成任务中，较离线在线策略蒸馏基线最高提升2.7个百分点。相比代表性在线方法需3块GPU及36至48 GPU时，该方法仅用2块GPU和约22 GPU时，显著降低了资源消耗。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。