arXiv · NLP· Zhizhuo Kou, Sizai Hou, Long Chen, Jian Yang, Junyu Luo, Jingshu Peng, Wenkai Zhang, Sirui Han, Yike Guo·· 4 小时前AI 评分37
推理模型中 wait 标记的来源追溯：继承而非发明
Inherited, Not Invented: Tracing the Provenance of Wait in Reasoning Models
AI 导读
研究表明，推理模型中的 wait 标记主要继承自训练数据而非由强化学习（RL）新发明。在缺乏该词的基础模型上，RL 显著提升 MATH-500 准确率，但 wait 保持近零；该词通过中期训练（如 OLMo-3）或微调植入。 RL 并不改变已使用该词模型的行为，且仅凭标记频率无法指示 RL 诱导的推理能力。
来源：arXiv · NLP · arxiv.org