DeepSeek开源DeepInfer框架并披露集群吞吐数据
先了解这件事
2026年10月20日，DeepSeek官方宣布全面开源内部推理框架DeepInfer及生产级Token编解码组件deepseek-recipe。此举旨在通过分享部署经验，帮助开发者优化大规模推理的吞吐与延迟，是在此前开源大模型及TileLang工具基础上的进一步开放。 据IT之家及智东西报道，DeepInfer集成高性能算子与推理引擎，支持分布式推理、推测解码及SWA Bounded Replay，兼容英伟达与华为昇腾平台。其中KVCache管理与负载均衡组件因与内部基础设施耦合较深，相关代码尚未完整开源。 DeepSeek同时披露运营数据，基于该框架的V4.1 Flash单一集群日均吞吐达155万亿Tokens。整体收入按谷价计算为每卡每小时38美金，展示了该框架在大规模云服务中的实际表现。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- 智东西精选DeepSeek 开源推理框架 DeepInfer 和组件 deepseek-recipe，公布日均 155 万亿 Tokens 吞吐
DeepSeek 开源了内部推理框架 DeepInfer 和生产级 token 编解码组件 deepseek-recipe。DeepInfer 支持分布式推理、推测解码及 SWA Bounded Replay，兼容英伟达与华为昇腾平台。DeepSeek 公布基于该框架的 V4.1 Flash 单一集群日均吞吐达 155 万亿 Tokens，整体收入按谷价计算为每卡每小时 38 美金。
- IT之家精选DeepSeek 将内部推理框架 DeepInfer 及编解码组件全面开源
DeepSeek 宣布全面开源内部推理框架 DeepInfer 及生产级编解码组件 deepseek-recipe。DeepInfer 集成高性能算子与推理引擎，支持分布式推理、推测解码等能力，兼容英伟达与华为昇腾平台，已用于实现 DeepSeek V4.1 Flash 的高吞吐低延迟推理服务。
- DeepSeek精选DeepSeek 开源内部推理框架 DeepInfer 及编解码组件
DeepSeek 官方宣布全面开源内部推理框架 DeepInfer 及生产级 Token 编解码组件 deepseek-recipe，旨在通过分享部署经验帮助开发者优化大规模推理的吞吐与延迟。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。