跳到正文
arXiv · ML· Mathias Ollu, Nikos Komodakis·· 2026-10-07AI 评分31

H-CDLMs:通过层级连续扩散提升语言建模

Denoising Hierarchical Representations: Joint Continuous Diffusion for Language Modeling

AI 导读

该研究提出层级连续扩散语言模型(H-CDLMs),通过并行扩散不同语义粒度的模态提升生成效果。在LM1B上,H-CoBit的GenPPL降至49.4,较基线提升24.2分;GSM8K准确率达27.4%。该框架可推广至流匹配模型,代码将公开。

来源:arXiv · ML · arxiv.org