跳到正文
arXiv · ML· Loki Chen, Gregory B. Rehm, Yang Song, Hongye Xie, Ming Lei, Chongyang Bai, Bob Kamma, Mingfu Liang, Kavosh Asadi, Yufei Li, Xi Liu, Jay Xu, Rui Liu, Maziar Sanjabi, Luke Simon, Hamed Firooz·· 7 天前AI 评分23

本地协同 JAX (LoCoJAX) 提升 TPU 上小模型 RL 训练效率

Local Coordination for Efficient Small-Model RL on TPUs

AI 导读

针对 TPU 上小模型强化学习协同开销高的问题,本文提出本地协同 JAX (LoCoJAX)。 在 Qwen3-0.6B 上,LoCoJAX 的共置模式比 Pathways 基线快 1.3-3.6 倍,8 芯片速度超越 64 芯片基线。 非共置模式仅在 rollout 占主导且获得多数主机时,才通过并行计算抵消分片开销。

来源:arXiv · ML · arxiv.org