arXiv · NLP· Youngrok Park, Sangmin Bae, Hojung Jung, Jongwoo Ko, Yunseon Choi, Young Jin Kim, Pashmina Cameron, Aaron Courville, Se-Young Yun·· 6 小时前AI 评分20
提出 OPD 方法实现从弱到强的泛化
Eliciting Weak-to-Strong Generalization with On-Policy Reverse Distillation
AI 导读
研究人员提出 On-Policy Reverse Distillation（OPRD）方法，用于解决弱到强泛化问题，使更强模型从较弱教师中学习并超越教师。 该方法通过评估教师策略偏移并放大学生验证器驱动的策略梯度，在数学推理、代码生成等任务上，以更少的学生更新次数实现比现有强化学习和蒸馏方法更高的性能。
来源：arXiv · NLP · arxiv.org