arXiv · ML· Rui Li, Liyang He, Zheng Zhang, Zhenya Huang, Linbo Zhu, Qi Liu·· 2026-10-05AI 评分33
AIR-OPD 自适应迭代修复框架用于在策略蒸馏
Learning from Evolving Errors: Adaptive Iterative Repair for On-Policy Distillation
AI 导读
AIR-OPD 框架通过自适应迭代修复解决在策略蒸馏中的捷径风险,利用引导生成器为错误提供修复监督。在 DAPO-Math-17K 数据集上训练后,该框架在 Qwen3-4B 和 Qwen3-8B 模型上取得最佳数学推理平均分,较最强基线提升最高 3.6 点,且在 MMLU-Pro 和 GPQA 等分布外基准中保持性能。
来源:arXiv · ML · arxiv.org