跳到正文
arXiv · ML· Xiaoxian Duan·· 2026-10-06AI 评分32

研究揭示后训练增益预测规律:现有检查点优于先验信号

What Will Post-Training Fix? Per-Problem Gains Are Shared Across Independent RL Runs, and Existing Checkpoints Predict Them Better Than A Priori Signals

AI 导读

针对 DeepSeek-R1-Distill-Qwen-1.5B 和 Qwen2.5-Math-1.5B 的 18 次后训练运行显示,单一检查点的每问题增益预测准确率(0.52)显著高于先验信号(0.34)。

来源:arXiv · ML · arxiv.org