arXiv · NLP· Jingyan Shen, Ang Li, Salman Rahman, Yifan Sun, Micah Goldblum, Matus Telgarsky, Pavel Izmailov·· 8 小时前AI 评分38
国际象棋作为 LLM 推理研究的受控测试床：从预训练到 RL 后训练的影响
Understanding Reasoning from Pretraining to Post-Training
AI 导读
研究使用国际象棋作为测试床，探讨 LLM 预训练与 RL 后训练间的关系。 预训练 5M 至 1B 参数的模型，发现预训练损失能预测 RL 后性能，且 RL 奖励曲线斜率随预训练 token 数近似线性提升。 该机制在 1B 参数的数学领域模型上也得到验证。
来源：arXiv · NLP · arxiv.org