arXiv · ML· Qijia He, Zequn Li, Spencer Luo, Tianle Chen, Pradyumna Narayana, Zixian Ma, Ranjay Krishna, Lan Nie, Sugato Basu·· 2026-10-15AI 评分28
DTDD: 基于偏差触发的动态蒸馏实现可靠的在线策略监督
DTDD: Divergence-Triggered Dynamic Distillation for Reliable On-Policy Supervision
AI 导读
提出自适应在线策略蒸馏框架 DTDD,利用段级师生偏差触发教师接管。 基准测试中,从基础初始化开始,DTDD 比 OPD 少 2.6 倍优化器更新即达到 21.3% 留出数学准确率,且两者最终均接近 22%。 DTDD 将预热后峰值梯度范数降低 8.6 倍,并在 ALFWorld 任务中分别提升 4.8 和 4.1 个百分点。
来源:arXiv · ML · arxiv.org