计算分离视角下推理时脚手架的收益分析

研究发现，即使使用简单脚手架和小模型，推理时脚手架的推理能力也显著优于通过蒸馏学生模型获得的性能。 理论证明该差距源于根本性的表示限制：推理时脚手架可计算 $\NL$-完全闭包，而固定深度前向传播无法表示，除非 $\NL\not\subseteq\TC^0$ 猜想不成立。 实验表明，扩大学生模型的表示能力（如增大模型、简化任务或延长思维链）是缩小差距的必要条件。