arXiv · AI· Yunan Zeng, Jinhao Jing, Xi Cheng, Yuwang Wang·· 4 小时前AI 评分29
基于激活空间引导的探索方法提升可验证奖励强化学习
Exploration via Activation-Space Steering for Reinforcement Learning with Verifiable Rewards
AI 导读
提出激活空间探索(ASE)方法,通过聚类正误响应间的激活差异构建潜在探索向量,并应用于后续采样以多样化训练过程。 在 Qwen3-1.7B-Base 和 Qwen3-8B-Base 模型上使用 DAPO-Math-17k 数据集训练,ASE 在相同 rollout 预算下,使六个数学推理基准的平均 Mean@8 分别较 GRPO 提升 4.87 和 1.87 个百分点。
来源:arXiv · AI · arxiv.org