跳到正文
arXiv · ML· Yuran Wang, Zekun Wang, Bohan Zeng, Ruixu Zhang, Wenxuan Liu, Liu Yang, Yifan Dai, Yang Shi, Bozhou Li, Chengzhuo Tong, Daili Hua, Yuanxing Zhang, Wentao Zhang·· 2026-10-14AI 评分35

Flux-OPD:基于演化上下文的在线策略蒸馏方法

Flux-OPD: On-Policy Distillation with Evolving Contexts

AI 导读

Flux-OPD 利用演化上下文作为训练监督信号,通过注入上下文修正信号并依据冲突项加权,解决了大语言模型在开放式领域缺乏可验证奖励导致的蒸馏不稳定问题。 该方法基于 reverse-KL 分解表征上下文蒸馏,证明学生模型向上下文的几何均值教师蒸馏,实验显示其在现有 OPD 范式中获得最佳结果。 该研究展示了将教师监督与演化上下文结合作为训练监督信号的潜力,为形式化任务偏好提供了新思路。

来源:arXiv · ML · arxiv.org