arXiv · AI· Shripad V. Deshmukh, Christian Bock, Kangrui Ruan, Abhijeet Awasthi, Vijay Lingam, Rein Houthooft, Manish Prajapat·· 4 小时前AI 评分33
Projected Distillation：从接近的正确目标中学习解决难题
Projected Distillation: On Learning to Solve Hard Problems from Close, Correct Targets
AI 导读
提出Projected Distillation方法，通过最小化编辑学生失败尝试生成正确目标，实现近on-policy学习。 在Qwen3-8B和OLMo-2-7B模型上验证，该方法在9个对比单元中8个优于GRPO和OPD，7个优于SPOT和SODA。 保留率从0.916降至0.744时，最小修正策略优于通用gold solutions。
来源：arXiv · AI · arxiv.org