arXiv · AI· Alexandra Yakovleva, Luat Gia Khoi Nguyen, Juho Kannala, Harri Valpola, Alexander Ilin·· 17 小时前AI 评分24
提出编辑式训练方法:Qwen3-32B 遵循推理指令效果显著提升
Training LLMs to Follow Reasoning Instructions with Minimal Edits
AI 导读
针对大语言模型推理训练信号粗糙问题,提出“编辑式训练”框架,通过定位最小错误区间进行局部文本修正监督。在 Qwen3-32B 模型上,该方法在 ReasonIF 基准测试中大幅提升了推理指令遵循度,同时保留未指定任务能力。该方法可作为全轨迹模仿与强化学习的有效补充,优化 LLM 推理能力。
来源:arXiv · AI · arxiv.org