跳到正文
arXiv · ML· Ziheng Cheng, Yixiao Huang, Hanlin Zhu, Somayeh Sojoudi·· 2026-10-06AI 评分42

强化学习如何重塑大语言模型推理:迁移性、覆盖率与缩放定律

How RL Reshapes LLM Reasoning: Transferability, Coverage, and Scaling Laws

AI 导读

研究在 Qwen 和 Gemma 模型族上发现,强化学习在提升数学领域 Pass@1 性能的同时,可能导致 Pass@$N$ 低于基座模型。 分析表明 RL 隐式偏见重塑了策略偏好,证明了对数 sigmoid 和对数线性缩放定律,解释了推理覆盖率的扩张或收窄机制。

来源:arXiv · ML · arxiv.org