arXiv · ML· Zhepei Hong, Yukai Wang, Mao Zheng, Mingyang Song, Gengsheng Li, Houcheng Jiang, Dan Zhang, Haiyun Guo, Junfeng Fang, Tat-Seng Chua·· 9 天前AI 评分31
基于评分标准的黑盒 On-Policy Distillation 分析:ROPD 方法
Rethinking Black-Box On-Policy Distillation: A Rubric-based Analysis
AI 导读
ROPD 采用仅文本反馈实现黑盒 On-Policy Distillation,在 4 个竞赛数学基准上优于 Logit 方法,使用 9.6 倍更少样本达到最佳 AIME24 准确率。
来源:arXiv · ML · arxiv.org