跳到正文
arXiv · ML· Rong Wu, Daocheng Fu, Yu Yang, Xuemeng Yang, Siqi Li, Shu Zou, Yao Zhu, Botian Shi, Bo Zhang, Cong Zhang, Pinlong Cai, Jianbiao Mei·· 2026-10-12AI 评分23

重新思考在线策略蒸馏中相对策略差异的迁移

Rethinking Relative Policy Differences Transfer of On-Policy Distillation

AI 导读

研究发现强化学习或微调产生的策略差异比单纯模型规模差异更有效。 该论文提出统一视图,将代理专家与参考策略的对数概率比定义为隐式奖励。 这种机制支持跨规模、训练阶段或代际模型的任意到任意迁移。

来源:arXiv · ML · arxiv.org