arXiv · AI· Jiashuo Sun, Hao Zhang, Xueqiang Xu, Heng Wang, Yixuan Xie, Pengcheng Jiang, Zhenrui Yue, Jiajun Fan, Peiran Li, Ge Liu, Shaowen Wang, Jiawei Han·· 4 小时前AI 评分28
Ask-to-Distill：用于在策略知识蒸馏的合成分布式提问框架
Ask to Distill: Learning to Synthesize Data for On-Policy Distillation
AI 导读
研究提出 Ask-to-Distill 框架，将合成问题作为分布提取器，用于优化在策略知识蒸馏过程中的监督信号。 该框架通过结合师生模型分歧与教师模型在学生候选支持集上的概率质量，计算无需参考答案的分布替代奖励来筛选和优化问题。 该方法在数学推理、代码生成和智能体任务上提升了模型平均性能并缩小了师生差距，相关代码与模型已公开提供。
来源：arXiv · AI · arxiv.org