Hugging Face Blog·· 2025-07-22AI 评分42
NVIDIA NIM 加速 Hugging Face 上超 10 万 LLM 部署
Accelerate a World of LLMs on Hugging Face with NVIDIA NIM
AI 导读
NVIDIA 宣布其 NIM 推理微服务现已支持在 Hugging Face 平台上快速部署超过 100,000 个 LLM。NIM 提供单一 Docker 容器,自动识别模型架构与量化格式,并适配 TensorRT-LLM、vLLM 及 SGLang 等推理后端。
来源:Hugging Face Blog · huggingface.co