跳到正文
arXiv · NLP· Zhaoxiang Feng, Lanxiang Hu, Haoran Yuan, Yu-Yang Qian, Jihui Yang, Peng Zhao, Yibo Zhu, Tajana Rosing, Hao Zhang·· 2026-10-15AI 评分40

JetSpec++:结合自精修的预视并行草稿推测解码

JetSpec++: Foresight Parallel Drafting with Self Refinements

AI 导读

summary_zh: JetSpec++ 提出算法与系统协同设计,将推测解码中起草 token 的边际耗时几乎清零。 该框架结合块内自精修、跨块预视起草与流水线化起草验证三个组件。

来源:arXiv · NLP · arxiv.org