arXiv · NLP· Dicong Yu, Wenhua Wang, Tian Wang·2026-11-02 13:00· 2 小时前AI 评分31

Stepwise-Querying：无需访问教师思维链的推理蒸馏方法

Stepwise-Querying: Distilling Reasoning without Access to Teacher Chain-of-Thought

AI 导读

提出 Stepwise-Querying 方法，通过独立查询获取步骤级解释，无需访问教师内部思维链（CoT），用于推理蒸馏。在两个教师模型、两个学生模型及四个数学/代码基准测试中，该方法在16次对比中14次取得最高分。引入 SEIG 诊断指标分析逐步解释的信息增益。

来源：arXiv · NLP · arxiv.org