跳到正文
arXiv · ML· Penghui Yang, Long Xing, Xuanlang Dai, Ziyu Liu, Kai Chen, Yuhang Zang·· 2026-10-06AI 评分20

ResOPD:稀疏在线策略蒸馏中的尾部残差化方法

ResOPD: Tail Residualization for Sparse On-Policy Distillation

AI 导读

论文提出 ResOPD 方法,通过尾部残差化提供无偏的全词汇反向 KL 梯度估计。该方法将未观测词汇聚合为可观测的尾部事件,仅采样尾部内细粒度残差,无需额外教师查询。实验表明 ResOPD 显著降低梯度方差,稳定训练动态并提升下游性能。

来源:arXiv · ML · arxiv.org