跳到正文
Xiaomi MiMo· 小米大模型·· 2026-06-09精选AI 评分83

Xiaomi MiMo-V2.5-Pro 与 TileRT 联合发布 UltraSpeed 模式实现 1000 tokens/s 推理速度

Xiaomi MiMo 携手 TileRT|1T 模型首次突破 1000 tokens/s 输出速度

AI 导读

Xiaomi MiMo-V2.5-Pro 联合 TileRT 发布 UltraSpeed 模式,首次让 1T 模型在 8 卡通用 GPU 节点上输出速度突破 1000 tokens/s。

推荐理由

万亿参数 MiMo 在通用 GPU 上突破 1000 tokens/s,文中展示了 FP4 量化与 TileRT 协同设计的工程路径。

来源:Xiaomi MiMo · mp.weixin.qq.com