arXiv · ML· Ankit Goyal, Santosh Jha, Zhuo Zhi, Youmin Han, Cong Gu, Chen Xie, Animesh Singh·· 10 天前AI 评分40
Firepool: Brokering Warm GPU Capacity for Agentic and RL Workloads at LinkedIn
Firepool: Brokering Warm GPU Capacity for Agentic and RL Workloads at LinkedIn
AI 导读
Firepool 是 LinkedIn 面向 Agent 和强化学习任务的 GPU 执行中介,峰值期间通过热池和待机容量处理了 3206 次 Pod 请求中的 94.7%。
来源:arXiv · ML · arxiv.org