arXiv · AI· William L. Tong, Ege Cakar, Cengiz Pehlevan·· 10 天前AI 评分31
PITA 基准揭示推理模型在长程任务中的长度泛化差异
Boule or Baguette? A Study on Task Topology, Length Generalization, and the Benefit of Reasoning Traces
AI 导读
研究引入含 2300 万条命题逻辑语句的 PITA 数据集,发现含推理痕迹的模型在广度大而深度浅的子集上泛化良好,但在深度大且广度窄的子集上表现劣于基线模型。 研究通过受控传递推理任务验证了广度利于推理模型而深度暴露长上下文弱点的机制,解释了观察到的标度规律。 该发表于 NeurIPS 2026 的研究明确了证明式推理痕迹在受控长度泛化场景下的显著优势与局限。
来源:arXiv · AI · arxiv.org