arXiv · AI· Zipeng Wang, Xinpeng Dong, Yuefan Wang, Pingchen Lu, Xian Wei, Kun Kuang, Fei Wu, Zhongxiang Dai, Min Zhang·· 2026-10-09AI 评分30
MetaOPD:用于在线策略蒸馏的元学习Token加权
MetaOPD: Meta-Learned Token Weighting for On-Policy Distillation
AI 导读
MetaOPD提出一种双层优化框架,联合训练学生模型与轻量级Token加权网络,提升在线策略蒸馏效果。 该框架通过验证集损失优化加权网络,使预测信号到Token权重的映射随学生模型进化而自适应。 在数学推理等9个数据集上,0.6B学生模型Avg@8/Pass@8较OPD提升1.99/5.97个百分点,1.7B学生模型提升2.25/6.41个百分点。
来源:arXiv · AI · arxiv.org