跳到正文
arXiv · NLP· Yihao Liang, Ze Wang, Ximeng Sun, Jiang Liu, Jialian Wu, Hao Chen, Xiaodong Yu, Emad Barsoum, Zicheng Liu, Niraj K. Jha·· 3 天前AI 评分35

CD4LM:一致性蒸馏与自适应解码加速扩散语言模型

CD4LM: Consistency Distillation and aDaptive Decoding for Diffusion Language Models

AI 导读

CD4LM 提出可组合框架加速扩散语言模型,在 GSM8K 上实现 5.18 倍加速且保持准确率,叠加缓存加速器后达 9.73 倍。 核心组件 Discrete-Space Consistency Distillation (DSCD) 训练轨迹不变学生模型,结合 ConfidenceAdaptive Decoder 解决静态到动态不匹配。

来源:arXiv · NLP · arxiv.org