跳到正文
arXiv · ML· Rajat Bisht (Tennessee Technological University), Tevfik Kosar (University at Buffalo), Anthony Skjellum (Tennessee Technological University), Gene Cooperman (Northeastern University), MD S Q Zulkar Nine (Arkansas Tech University)·· 10 天前AI 评分33

动态优化器将 NCCL 集合通信 AllReduce 延迟降低 36%

Network Contention State Aware Dynamic Optimizer for Accelerator Collective Communication Libraries

AI 导读

针对加速器集合通信库静态配置无法适应实时网络拥塞的问题,基于 LSTM 检测器与 D3QN 选择器的双智能体动态优化器显著提升了性能。 在 Chameleon Cloud 裸金属集群测试中,该方法将 AllReduce 延迟较 NCCL 降低 36%,较 AutoCCL 降低 32%;在 A100 GPU 集群上最高带来 65% 加速。

来源:arXiv · ML · arxiv.org