跳到正文
Hacker News AI· asaiacai·· 2 小时前AI 评分51

Kubernetes 如何重构调度与扩缩容以支持 AI 负载

What's happening in Kubernetes to support AI workloads

AI 导读

Kubernetes 社区正在解决 AI 负载下调度器与自动扩缩容器之间的协同难题。DRA 扩展已为两者建立了关于硬件拓扑和设备共享的通用语言,但 Gang Scheduling 仍需通过 Provisioning Request 等机制进行桥接。SIG-Autoscaling 正在推进集成 API,旨在实现调度与扩缩容决策的原子化同步,以避免加速器资源空闲浪费。

来源:Hacker News AI · cncf.io