跳到正文
arXiv · NLP· Xu Zou, Jie Tang·· 2026-10-14AI 评分26

Trace as State: 推理轨迹作为长上下文 Transformer 的条件状态

Trace as State: Reasoning Traces as Conditional States for Long-Context Transformers

AI 导读

研究提出 Trace as State 方法,将收集的推理轨迹作为条件状态置于长上下文之前,以提升因果 Transformer 的长文本推理能力。 该方法在 27 组模型、任务和指标中的 26 组胜过将轨迹置于上下文之后的 Trace Append 对照组,保留了因果结构优势。

来源:arXiv · NLP · arxiv.org