Reverse-KL策略蒸馏：统计保证与局限

该研究阐明了在线与离线Reverse-KL蒸馏的样本复杂性差异。 在线蒸馏中，仅观察学生动作概率比获取教师全分布需更多数据；离线蒸馏在两种反馈模式下均能达到相同极小极大率。 通过轨迹损失和重要性比率截断技术，实现了最优在线蒸馏保证，揭示了在线目标的统计挑战。