arXiv · NLP· Zhaoyi Li, Deyang Kong, Yuan Wei, Evan Yang, Ranran Shen, Mahardika Krisna Ihsani, Ming Yang, Wei Zhang, Chuan Hao, Jian Yang, Ran Tao, Bryan Dai, Shikun Zhang, Wei Ye, Ying Wei, Defu Lian·· 5 小时前AI 评分26
语言模型在线策略蒸馏中的泛化双重性质研究
Every Coin Has Two Sides: On the Dual Nature of Generalization in On-Policy Distillation of Large Language Models
AI 导读
针对在线策略蒸馏（OPD）泛化行为研究不足的问题，研究通过控制变量分析揭示了其双重性质。 OPD主要迁移教师的推理行为而非特定答案，训练难度影响较小。 同系教师 - 学生对的跨域转移效果显著，而异系对多集中在训练分布内；多教师混合会导致能力间的摆动效应。
来源：arXiv · NLP · arxiv.org