跳到正文
arXiv · NLP· Pei-Xi Xie, Che-Yu Lin, Cheng-Lin Yang·· 2026-10-14AI 评分30

在数学 RLVR 中通过分布对齐提示合成与反向提示退火缓解分布锐化

Mitigating Distribution Sharpening in Math RLVR via Distribution-Aligned Hint Synthesis and Backward Hint Annealing

AI 导读

在数学 RLVR 训练中,分布锐化导致难题覆盖范围收窄。DAHS 和 BHA 方法通过条件化提示和长度桶退火,解决了教师-学生分布不匹配及无提示评估适应性问题。 该方法在 Qwen3 模型上提升了 AIME 的 pass@1 和 pass@2048 分数。 它有效缓解了 DAPO 框架下难题覆盖范围的收缩。

来源:arXiv · NLP · arxiv.org