跳到正文
热点事件持续更新

FlashMap 流图投机解码发布

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Jeff Shen 等人发布名为 FlashMap 的推测解码加速方法,并开源相关代码。该方法属于连续流起草器,利用流图语言模型基于目标模型的隐藏状态进行条件化预测,能在单次前向传播中生成整个 token 块,同时保留块内各 token 之间的依赖关系。在 Qwen3-8B 模型上,FlashMap 相较匹配的 DFlash 基线在所有测试基准中表现更快,平均加速比高 7%,最高可实现 6.1 倍无损加速,为 LLM 推理加速提供了新路径。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. arXiv · NLP
    FlashMap:基于流图模型的推测解码加速方法

    提出连续流起草器 FlashMap,在 Qwen3-8B 上实现最高 6.1 倍无损加速,平均加速比比 DFlash 高 7%。 该方法将流图语言模型条件化于目标模型隐藏状态,单次前向传播生成整个 token 块并捕获块内依赖。 代码已开源,为 LLM 推理加速提供新路径。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。