跳到正文
arXiv · AI· Amir Mann, Jonathan Fhima, Shaked Brody, Or Avitan, Asif Zamir, Shahar Tsiper, Niv Nayman·· 9 天前AI 评分21

B3:重叠块去噪加速扩散语言模型推理

Blurring the Block Boundaries: Overlapping Block Denoising for Efficient Diffusion Language Models

AI 导读

B3 提出重叠块去噪方法,在自编辑扩散语言模型中并行精化两个块,实现 11.5-14.5% 推理加速且生成质量持平。 该方法无需训练和额外超参数,通过动态校准在模型准备好时开启下一块,可无缝集成于任意自编辑块扩散模型。 B3 在 10 个多样化数据集上验证了 SOTA DLM 的延迟-质量帕累托前沿推进。

来源:arXiv · AI · arxiv.org