跳到正文
arXiv · AI· Jia Wei, Ziyi Qiu, Yi Xu, Xuehai Qian·· 14 天前AI 评分23

FlexFloor:面向长尾 MoE RL 训练响应的自适应调度与资源释放系统

AdaFloor: Adaptive Floor Planning and Rank-Time Reuse for Long-Tail MoE RL Rollouts

AI 导读

FlexFloor 通过联合自适应响应调度和活跃 worker 组,在保持专家计算需求的同时实现资源提前释放。 相比 verl 基线,FlexFloor 单位占用计算时间生成多约 65.40% 响应 token,响应生成吞吐量提升 52.74%。 rollout 奖励未见明显波动,从而支持大语言模型及 AI agent 更高效的后训练迭代。

来源:arXiv · AI · arxiv.org