NeMo-RL 实现长上下文 RL 在线草稿协同训练
热点事件持续更新
NeMo-RL 实现长上下文 RL 在线草稿协同训练
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年11月4日，arXiv 发布论文，Zili Wang 等人介绍了 NeMo-RL 中在线草稿协同训练的设计与实现。该方案通过扩展上下文并行（CP）并支持流水线并行（PP）数据传输，在大规模长上下文强化学习后训练中保持策略奖励与准确率接近无草稿基线。 实验覆盖模型规模最高达 122B 参数，结果显示该方案实现了 1.48 至 2.25 倍的 rollout 加速以及 1.19 至 1.88 倍的端到端训练加速。此外，在 256K 序列长度的测试中，该方法展现出强扩展性，并显著降低了内存占用。
AI 根据报道生成 · 1 小时前更新
最新进展11月4日 13:00
NeMo-RL 支持大规模长上下文 RL 后训练中的在线草稿协同训练报道时间线
沿着报道，了解事件的不同侧面。
11月4日
- arXiv · MLNeMo-RL 支持大规模长上下文 RL 后训练中的在线草稿协同训练
NeMo-RL 实现了大规模长上下文强化学习后训练中的在线草稿协同训练，通过扩展 CP 和支持 PP 数据传输，保持策略奖励与准确率接近无草稿基线。 在模型规模最高 122B 的实验中，该方案实现了 1.48–2.25 倍 rollout 加速和 1.19–1.88 倍端到端训练加速，在 256K 序列长度下实现强扩展并显著降低内存占用。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。