arXiv · NLP· Zhi Xu, Yinqi Wu, Feng Zhang, Xiaotong Zhang, Hong Yu, Han Liu·· 3 天前AI 评分27
B-OPSD:基于自生成问题简述的在线策略自蒸馏
B-OPSD: On-Policy Self-Distillation with Self-Generated Problem Briefs
AI 导读
B-OPSD 提出利用自生成问题简述替代真值解法,在 AIME 2024、AIME 2025 和 HMMT 2025 上,其在 Qwen3 三种规模下的平均准确率均高于 OPSD。 该方法通过提示词生成包含原则与陷阱的问题简述,冻结教师模型以此作为特权上下文指导当前学生策略,训练全程无需真值解法。
来源:arXiv · NLP · arxiv.org