arXiv · ML· Shaorong Zhang, Shiyuan Li, Longxuan Yu, Greg Ver Steeg·2026-10-20 12:00· 6 小时前AI 评分22

LatLM：采用延迟承诺机制的行并行语言模型

LatLM: Line-Parallel Language Models with Deferred Commitment

AI 导读

summary_zh: LatLM 提出自适应的延迟承诺解码策略，在 482M 参数规模下解决固定承诺调度导致的推理错误。在混合依赖链任务中，LatLM 准确率达 96.5%，优于 LCLM 的 78.5%，且解码轮数少于自回归基线的一半。

来源：arXiv · ML · arxiv.org