arXiv · ML· Yunlong Hou, Fengzhuo Zhang, Yuan Cheng, Jiachun Pan, Xingyao Li, Zhuoran Yang·· 7 天前AI 评分26
基于 SFT 数据视角重审“RL 泛化 SFT 记忆”:Qwen 模型下的数据源与规模作用
Rethinking "RL Generalizes, SFT Memorizes": The Role of SFT Data
AI 导读
Qwen2.5 和 Qwen3 系列模型研究表明,匹配 SFT 与 RL 的正确 rollout 数量及总预算可显著提升 SFT 泛化能力,结合数据混合与规模优势可使 SFT 泛化表现优于 RL。
来源:arXiv · ML · arxiv.org