arXiv · ML· Nathaniel S. Woodward, Zhiqi Gao, Yurii Kvasiuk, Kendrick M. Smith, Frederic Sala, Moritz M\"unchmeyer·· 16 小时前AI 评分23
微调小型推理模型以解决量子场论问题
Fine-Tuning Small Reasoning Models for Quantum Field Theory
AI 导读
该研究首次比较了强化学习（RL）与监督微调（SFT）在理论物理可验证任务中对大语言模型的影响。 实验基于开源数据稀缺背景，构建了包含2500+合成问题和人工改编问题的数据生成管线。结果显示SFT提升集中在分布内合成任务，而RL在人工数据及TPBench上泛化能力更强。 公开发布了数据管线、可验证QFT训练数据及约200M tokens的QFT推理痕迹。
来源：arXiv · ML · arxiv.org