跳到正文
arXiv · ML· Rui Li, Liyang He, Zheng Zhang, Zhenya Huang, Linbo Zhu, Qi Liu·· 2026-10-05AI 评分33

AIR-OPD 自适应迭代修复框架用于在策略蒸馏

Learning from Evolving Errors: Adaptive Iterative Repair for On-Policy Distillation

AI 导读

AIR-OPD 框架通过自适应迭代修复解决在策略蒸馏中的捷径风险,利用引导生成器为错误提供修复监督。在 DAPO-Math-17K 数据集上训练后,该框架在 Qwen3-4B 和 Qwen3-8B 模型上取得最佳数学推理平均分,较最强基线提升最高 3.6 点,且在 MMLU-Pro 和 GPQA 等分布外基准中保持性能。

来源:arXiv · ML · arxiv.org