MDraft提出多草稿并行蒸馏方法

Petr Molodyk等人于2026年10月30日在arXiv发表研究，提出MDraft多草稿在策略蒸馏方法。该方法针对并行扩散生成器在推测解码中因验证反馈不匹配导致的问题，通过从相同上下文采样多个草稿块，并聚合验证器的全词表条件分布来优化训练过程。 MDraft仅改变训练过程，保持生成器架构和推理流程不变，可直接替换预检查点使用。实验表明，在数学、编码和对话任务中，该方法训练的并行生成器比先前蒸馏方法实现了更长的接受草稿长度，从而提高了推理效率。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。