OPD与GRPO计算效率对比研究
热点事件持续更新
OPD与GRPO计算效率对比研究
1 篇报道1 个报道来源23 小时前更新
先了解这件事
AI 综述
2026年11月6日,Zeyu Leo Liu等人在arXiv发布研究,系统对比了On-policy distillation (OPD)与GRPO在任务难度、模型规模及优化选择下的计算效率。 研究数据显示,在通用场景下OPD效率不及GRPO,但当教师模型为同一模型的GRPO检查点时,处理数学任务仅需50倍更少的FLOPs即可复现同等精度。 此外,采用多教师OPD整合领域专家的策略下,蒸馏阶段仅占5.2%至8.0%的训练FLOPs,使双域任务总计算量减少42.0%,优化了跨域多任务场景的整体成本。
AI 根据报道生成 · 22 小时前更新
最新进展11月6日 13:00
OPD 针对 GRPO 的计算效率解析:多教师策略显著降低总 FLOPs报道时间线
沿着报道,了解事件的不同侧面。
11月6日
- arXiv · MLOPD 针对 GRPO 的计算效率解析:多教师策略显著降低总 FLOPs
系统对比显示,通用场景下 OPD 效率不及 GRPO,但在教师为同一模型 GRPO 检查点时,数学任务仅需 50 倍更少的 FLOPs 即可复现同等精度。 采用多教师 OPD 整合各领域专家,蒸馏阶段仅占 5.2% 至 8.0% 训练 FLOPs,使双域任务总计算量减少 42.0%。 该方法在保持同等精度的同时,大幅优化了跨域多任务场景下的整体计算成本。
本事件热度走势
- 可比范围当前
- 5
- 可比范围峰值
- 911月6日 15:00
- 近 24 小时变化
- –
02.557.510
18:0011月7日06:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。