arXiv · NLP· Shaoang Li, Yanhang Shi, Yufei Li, Mingfu Liang, Frank Shyu, Sandeep Pandey, Luke Simon, Xi Liu, Jian Li·· 8 小时前AI 评分35
ReDiST：面向推理蒸馏的学生条件化轨迹构建框架
Beyond the Answer: Student-Conditioned Trace Construction for Reasoning Distillation
AI 导读
ReDiST提出一种学生条件化轨迹构建与蒸馏框架，通过冻结的学生匹配读者筛选并排序轨迹候选，同时平衡轨迹与最终答案的监督信号。 该框架在问答基准实验中优于仅答案监督、原始轨迹及基线方法，且在源任务与跨基准测试中均提升了性能，强调了在分布间评估轨迹教学效用的重要性。
来源：arXiv · NLP · arxiv.org