Xiaomi MiMo· 小米大模型·· 2026-06-09精选AI 评分83
Xiaomi MiMo-V2.5-Pro 与 TileRT 联合发布 UltraSpeed 模式实现 1000 tokens/s 推理速度
Xiaomi MiMo 携手 TileRT|1T 模型首次突破 1000 tokens/s 输出速度
AI 导读
Xiaomi MiMo-V2.5-Pro 联合 TileRT 发布 UltraSpeed 模式,首次让 1T 模型在 8 卡通用 GPU 节点上输出速度突破 1000 tokens/s。
推荐理由
万亿参数 MiMo 在通用 GPU 上突破 1000 tokens/s,文中展示了 FP4 量化与 TileRT 协同设计的工程路径。
来源:Xiaomi MiMo · mp.weixin.qq.com