跳到正文
热点事件持续更新

研究揭示RL对Qwen3推理增益主要源于后期决策

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

研究团队针对Qwen3-4B-Base模型,设计生成时间干预方法,测量各干预恢复强化学习模型增益的比例,实验在120道AIME题目上进行。研究发现,仅需在约4%的分歧token位置借用RL模型的生成结果,即可恢复90.5%的pass@1增益。进一步实验表明,强制以“Alright”开头可额外提升35%增益,且稀疏替换策略在k=256时解决了67.5%的问题。结果证实RL对推理能力的贡献主要源于后期决策选择,而非单纯开头引导或整体分布。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. arXiv · NLP
    研究揭示 RL 对 Qwen3-4B 推理增益的关键来源

    研究针对 Qwen3-4B-Base 模型发现,仅需在约 4% 的分歧 token 位置借用 RL 模型的生成结果,即可恢复 90.5% 的 pass@1 增益。 后续研究发现,强制以“Alright”开头可额外提升 35% 增益,且稀疏替换策略在 k=256 时解决了 67.5% 的问题。 结果表明,RL 模型对推理能力的贡献主要源于后期的决策选择,而非单纯的开头引导或整体分布。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。