跳到正文
arXiv · NLP· Sumin Lee, Sukmin Cho, Seungjae Lim, Youngjin Kwon·· 2026-10-07AI 评分44

AgSpec:在编码智能体流水线中突破基于检索的推测解码极限

AgSpec: Pushing the Limits of Retrieval-Based Speculative Decoding in Coding Agent Pipelines

AI 导读

AgSpec 是一个针对编码智能体流水线优化推测解码的框架,在两项仓库级基准测试中,其生成吞吐量相比自回归解码最高提升 4.37 倍(批处理大小 1)和 4.76 倍(批处理大小 16)。

来源:arXiv · NLP · arxiv.org