arXiv · NLP· Selim Aktas, Yusuf Erdem Erdem, Ahmed Zeer, Himmet Toprak Kesgin, Muzaffer Kaan Yuce, Mehmet Fatih Amasyali·· 11 天前AI 评分38
ChainFlow: 基于少步潜变量流匹配的推测解码方法
ChainFlow: Few-Step Latent Flow Matching for Speculative Decoding
AI 导读
提出首个基于目标隐藏状态条件的流匹配推测解码范式 ChainFlow,只需 1-2 步传输即可生成草案。 在 Qwen3.5 模型上,同规格下 ChainFlow 比 EAGLE-3 和 DFlash 快 39% 和 11%,代码与模型已开源。
来源:arXiv · NLP · arxiv.org