TIDE: 零拷贝集合通信方案提升FSDP2训练效率
热点事件持续更新
TIDE: 零拷贝集合通信方案提升FSDP2训练效率
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
2026年10月30日，Zejian Wang等人发布论文，提出名为TIDE的分布式训练优化方案。TIDE是一套基于NCCL 2.31及以上版本的零拷贝集合通信原语，旨在解决FSDP2中数据布局转换带来的性能开销。 在针对Llama-3.1 70B等大模型的测试中，当部署在64块GPU的集群上时，TIDE方案最高可让单步训练时间相比原生FSDP2框架缩短27.1%。
AI 根据报道生成 · 1 小时前更新
最新进展10月30日 12:00
TIDE：基于零拷贝通信的分布式训练优化方案报道时间线
沿着报道，了解事件的不同侧面。
10月30日
- arXiv · MLTIDE：基于零拷贝通信的分布式训练优化方案
TIDE 提出一套基于 NCCL 2.31+ 的零拷贝集合通信原语，用于解决 FSDP2 中的数据布局转换开销问题。 该方案支持 Llama-3.1 70B 等模型，在 64 GPU 规模下最高可将单步训练时间相对原生 FSDP2 降低 27.1%。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。