DeepSeek 开源 DeepInfer：V4.1-Flash 背后的推理引擎

DeepSeek 发布开源推理框架 DeepInfer，该框架用于 V4.1-Flash 的推理服务并采用 Apache 2.0 协议。项目基于 vLLM 构建，内置 FlashMLA、DeepGEMM 和 DeepEP 等内核，支持 MoE 专家并行、draft-token 解码和确定性采样，并适配 Nvidia Blackwell 和华为芯片。