arXiv · NLP· Jongwoo Ko, Sara Abdali, Young Jin Kim, Tianyi Chen, Pashmina Cameron·· 5 小时前AI 评分23
REOPOLD 框架实现高效推理蒸馏，样本效率提升最高 12 倍
Scaling Reasoning Efficiently via Relaxed On-Policy Distillation
AI 导读
针对 On-Policy Distillation 中的熵坍缩与负迁移问题，REOPOLD 框架通过放宽均匀信用分配机制，实现了高效推理能力转移。 该框架在多样化推理任务中，将采样 token 的 OPD 样本效率提升至最近基线的 12 倍，并支持跨词汇蒸馏及测试时扩展。
来源：arXiv · NLP · arxiv.org