DeepSeek 开源推理框架 DeepInfer 和组件 deepseek-recipe，公布日均 155 万亿 Tokens 吞吐

DeepSeek 开源了内部推理框架 DeepInfer 和生产级 token 编解码组件 deepseek-recipe。DeepInfer 支持分布式推理、推测解码及 SWA Bounded Replay，兼容英伟达与华为昇腾平台。DeepSeek 公布基于该框架的 V4.1 Flash 单一集群日均吞吐达 155 万亿 Tokens，整体收入按谷价计算为每卡每小时 38 美金。