跳到正文
arXiv · ML· Yunlong Hou, Fengzhuo Zhang, Yuan Cheng, Jiachun Pan, Xingyao Li, Zhuoran Yang·· 7 天前AI 评分26

基于 SFT 数据视角重审“RL 泛化 SFT 记忆”:Qwen 模型下的数据源与规模作用

Rethinking "RL Generalizes, SFT Memorizes": The Role of SFT Data

AI 导读

Qwen2.5 和 Qwen3 系列模型研究表明,匹配 SFT 与 RL 的正确 rollout 数量及总预算可显著提升 SFT 泛化能力,结合数据混合与规模优势可使 SFT 泛化表现优于 RL。

来源:arXiv · ML · arxiv.org