跳到正文
arXiv · ML· Zhaonan Li, Zelei Cheng, Amritansh Mishra, Chia-Hsuan Lee, Mann Patel, Sambit Sahu, Ben Zhou, William M. Campbell·· 7 小时前AI 评分33

面向 Token 高效强化学习的自适应解码方法研究

Adaptive Decoding Methods for Token-Efficient Reinforcement Learning

AI 导读

研究发现 RLVR 训练中的自适应解码调度可提升采样效率,动态扩大候选 token 支持范围优于固定策略。 在 4B 代码 RLVR 场景中,调度策略在 150M token 验证集上的插值分数平均比固定 K=10 策略高 1.80±0.42 分,且与最强的固定 K=20 基线表现相当。 这表明 rollout 支持范围是强化学习中采样效率的重要控制变量,为自适应调度设计提供了实证依据。

来源:arXiv · ML · arxiv.org