arXiv · ML· Mathieu Blondel, Micha\"el E. Sander, Germain Vivier-Ardisson, Tianlin Liu, Vincent Roulet·· 7 天前AI 评分33
自回归语言模型序列级监督学习的困难
On the Difficulty of Sequence-Level Supervised Learning for Autoregressive Language Models
AI 导读
自回归语言模型序列级监督学习存在根本性缺陷,两种自然尝试导致损失函数无下界。 通过自回归 Gumbel 技巧,基于采样的损失是 Gumbel 扰动下贪婪损失的期望。尽管停止梯度推导的矩匹配方向是有效下降方向,但其高方差使得教师强制可能仍是最佳选择。
来源:arXiv · ML · arxiv.org