ScaleRLT解决循环Transformer强化学习精确性问题

2026年10月，Dezhen Lu等人在arXiv发表ScaleRLT论文。该框架针对循环Transformer（如Ouro）在强化学习中rollout阶段的问题。循环模型复用层块导致密集路径产生浮点误差，影响对数概率计算。ScaleRLT采用混合学习器实现精确对数概率计算，解决了对数概率与快速延迟rollout的矛盾。在FP32和bf16精度下，该方法在167个测试单元格中实现了位级重现，为循环语言模型的强化学习提供了可靠的技术基础。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。