arXiv · ML· Mathias Ollu, Nikos Komodakis·· 2026-10-07AI 评分31
H-CDLMs:通过层级连续扩散提升语言建模
Denoising Hierarchical Representations: Joint Continuous Diffusion for Language Modeling
AI 导读
该研究提出层级连续扩散语言模型(H-CDLMs),通过并行扩散不同语义粒度的模态提升生成效果。在LM1B上,H-CoBit的GenPPL降至49.4,较基线提升24.2分;GSM8K准确率达27.4%。该框架可推广至流匹配模型,代码将公开。
来源:arXiv · ML · arxiv.org