arXiv · AI· Hossein Askari, Wei Sun, Chenguang Zhu, Bin Zan, Sreen Tallam, Keyu Man·· 16 天前AI 评分21
混合供应商加速器集群中的 LEAP:学习型吞吐量预测用于硬件选择
Look Before You Launch: Learned Throughput Prediction for Hardware Selection in a Production Training Fleet
AI 导读
针对混合供应商加速器集群,LEAP 基于提交时配置预测吞吐量并按单位成本排序,日均路由数万次任务,覆盖 20 余种硬件类型。 在 30 次夜间重训练中准确率 77%,优于原有查找表;六个月内覆盖占比由 58% 升至 95%,预计节省约 3% 训练计算成本。
来源:arXiv · AI · arxiv.org