跳到正文
TLDR AI· TLDR·· 2026-10-21AI 评分40

Google 与 Meta 支持 TPU 上的 PyTorch,DeepSeek 发布大规模推理部署方案

DeepSeek DeepInfer 🐋, PyTorch on TPUs ⚡, Ramp’s agent framework 👨‍💻

AI 导读

Google 和 Meta 推出 TorchTPU,这是支持在 TPU 上运行 PyTorch 的开源后端,简化了模型训练与推理的迁移。 DeepSeek V4.1 Flash 通过 DeepInfer 框架实现分布式推理与推测解码,单集群每日处理 155 万亿 token,每 GPU 时产生 38 美元收入。

来源:TLDR AI · tldr.tech