FlashMap 流图投机解码发布
热点事件持续更新
FlashMap 流图投机解码发布
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Jeff Shen 等人发布名为 FlashMap 的推测解码加速方法,并开源相关代码。该方法属于连续流起草器,利用流图语言模型基于目标模型的隐藏状态进行条件化预测,能在单次前向传播中生成整个 token 块,同时保留块内各 token 之间的依赖关系。在 Qwen3-8B 模型上,FlashMap 相较匹配的 DFlash 基线在所有测试基准中表现更快,平均加速比高 7%,最高可实现 6.1 倍无损加速,为 LLM 推理加速提供了新路径。
AI 根据报道生成 · 1 小时前更新
最新进展10月20日 12:00
FlashMap:基于流图模型的推测解码加速方法报道时间线
沿着报道,了解事件的不同侧面。
10月20日
- arXiv · NLPFlashMap:基于流图模型的推测解码加速方法
提出连续流起草器 FlashMap,在 Qwen3-8B 上实现最高 6.1 倍无损加速,平均加速比比 DFlash 高 7%。 该方法将流图语言模型条件化于目标模型隐藏状态,单次前向传播生成整个 token 块并捕获块内依赖。 代码已开源,为 LLM 推理加速提供新路径。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。