跳到正文
arXiv · NLP· Selim Aktas, Yusuf Erdem Erdem, Ahmed Zeer, Himmet Toprak Kesgin, Muzaffer Kaan Yuce, Mehmet Fatih Amasyali·· 11 天前AI 评分38

ChainFlow: 基于少步潜变量流匹配的推测解码方法

ChainFlow: Few-Step Latent Flow Matching for Speculative Decoding

AI 导读

提出首个基于目标隐藏状态条件的流匹配推测解码范式 ChainFlow,只需 1-2 步传输即可生成草案。 在 Qwen3.5 模型上,同规格下 ChainFlow 比 EAGLE-3 和 DFlash 快 39% 和 11%,代码与模型已开源。

来源:arXiv · NLP · arxiv.org