跳到正文
arXiv · NLP· Jiannan Guan, Youxin Jiang, Yutai Hou, Qiguang Chen, Yirong Zeng, Haitao Wang, Dengyun Peng, Zheng Yan, Jinhao Liu, Tao Ye, Dandan Tu, Wanxiang Che·· 21 天前AI 评分33

ATI-OPD:一种用于稳定长序列在线策略蒸馏的自适应教师干预方法

ATI-OPD: Adaptive Teacher Intervention for Stable Long-Sequence On-Policy Distillation

AI 导读

ATI-OPD 通过修正学生推理前缀以解决长序列在线策略蒸馏中的训练不稳定问题。该方法将早期高分歧片段替换为教师片段,并剔除持续分歧的后缀。在五个数学推理基准测试上,ATI-OPD 的平均准确率优于标准 OPD。

来源:arXiv · NLP · arxiv.org