跳到正文
arXiv · NLP· Maciej Besta, Leonard Schmidt, Pierre Pang, Patrik Okanovic, Robert Gerstenberger, Torsten Hoefler·· 11 天前AI 评分24

RPEG:可规模化且低成本训练推理语言模型的方法

RPEG: Training Reasoning Language Models Scalably and Cost-Effectively

AI 导读

论文提出数据为中心的图中间表示 RPEG,用于联合优化推理语言模型(RLM)训练流水线的结构与执行。 RPEG 暴露有界异步、actor-critic 共享等结构选择,并结合阶段融合、细粒度调度和多维模型并行优化,配套分析性能模型。在最多 256 块 GH200 GPU 上,其分布式运行时较 ReaL 提速最高 2 倍、较 verl 降低步延迟最高 2.48 倍,硬件利用率提升最高 30%。

来源:arXiv · NLP · arxiv.org