arXiv · AI· Harrison Zhao, Lei Huang, Fei Liu, Wen Shi, Zijian Jin·· 12 小时前AI 评分24
Qwen3 系列模型基于正确性过滤的在线策略自蒸馏方法 C-OPSD
Not Every Rollout Needs Distillation: Correctness-Filtered On-Policy Self-Distillation
AI 导读
针对 Qwen3-1.7B 的梯度测量显示，错误响应的相干梯度占比约为正确响应的三倍，且两者群体均值方向高度重叠。 研究人员提出正确性过滤在线策略自蒸馏（C-OPSD），仅对部分错误响应执行蒸馏，在 Qwen3 4B 和 8B 模型及 AIME24、AIME25 评测中性能与全量蒸馏持平。 该实施使执行行数减少约 68%，训练时间缩短 40%，在保持生成过程不变的同时显著提升了计算效率。
来源：arXiv · AI · arxiv.org