arXiv · ML· Charilaos Pipis, Shivam Garg, Vasilis Kontonis, Vaishnavi Shrivastava, Akshay Krishnamurthy, Dimitris Papailiopoulos·· 2026-10-14AI 评分38
推理模型为何陷入循环?温度与学习误差的深层机制
Wait, Wait, Wait... Why Do Reasoning Models Loop?
AI 导读
研究揭示 DeepSeek-R1 等推理模型在低温下易产生循环,核心源于训练分布与模型学习间的误差。 大模型循环更少,而蒸馏学生模型即便教师模型表现良好仍显著循环。高温虽能减少循环但无法根治误差,导致生成冗长,需训练时干预。
来源:arXiv · ML · arxiv.org