LLM-D 1.0 开源框架升级，优化 Kubernetes AI 推理性能与成本

LLM-D 1.0 版本发布，该开源 Kubernetes AI 推理框架新增多租户服务质量、高可用操作、稳定 v1 API 及 Agent 感知服务四项特性。实测显示，在混合 TPU 与 GPU 集群中，结合 vLLM 和 SGLang 可显著提升吞吐量并降低成本，多家企业已在生产环境中部署使用。