arXiv · ML· Yiqiao Qiu·· 17 天前AI 评分31
MOPD 在 LLM 持续学习中的重放策略:基于多教师在线策略蒸馏
Replay for LLM Continual Learning with Multi-Teacher On-Policy Distillation
AI 导读
多教师在线策略蒸馏(MOPD)在 LLM 持续学习中,利用前一阶段学生模型对早期领域进行重放,以应对专家模型不可用的场景。 在 1.5B 学生模型和 5 个领域测试中,无重放的顺序蒸馏比联合 MOPD 低 6.2 分;重放可弥补 3.8 至 5.8 分的差距。 重放步骤数量随阶段数呈二次方增长。
来源:arXiv · ML · arxiv.org