热点事件持续更新

MoEvolve双向蒸馏框架获验证

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

arXiv新论文提出MoEvolve框架，采用“恢复-提升”双向蒸馏策略。该框架通过提升MoE模型每个token的激活预算，以挖掘模型内部潜在的更强教师。在恢复高激活模型的性能后，该框架能将能力反向蒸馏回原始低激活配置，从而保留推理时的低激活预算优势。在多种基准测试中，该方法将初始模型的平均性能最高提升了22.2点，并比相同预算下的强化学习验证奖励（RLVR）基线高出最多6.5点。

AI 根据报道生成 · 6 小时前更新

最新进展10月19日 12:00

MoEvolve 通过策略双向蒸馏增强 MoE 模型

报道时间线

沿着报道，了解事件的不同侧面。

10月19日

12:00
arXiv · ML
MoEvolve 通过策略双向蒸馏增强 MoE 模型
MoEvolve 提出一种双向蒸馏框架，通过提升每个 token 的激活预算来挖掘 MoE 模型内部潜在更强教师模型。该方法在恢复高激活模型性能后，将能力反向蒸馏回原始低激活配置，保留推理时的激活预算。在多种基准测试中，该方法将初始模型平均性能提升最高 22.2 点，并超过相同预算的 RLVR 基线最高 6.5 点。

本事件热度走势

可比范围当前: 8
可比范围峰值: 910月19日 14:00
近 24 小时变化: –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。