arXiv · AI· Leon Sick, Lukas Hoyer, Yannick Str\"umpler, Christian Reisswig, Timo Ropinski, Federico Tombari·· 4 小时前AI 评分42
On-Policy Self-Training：大语言模型的无数据自改进方法
On-Policy Self-Training: Data-Free Self-Improvement in Large Language Models
AI 导读
论文提出一种基于策略自我蒸馏的自训练框架，利用自生成问答对和特权推理演示实现模型后训练，无需依赖更强外部教师或人工标注信号。 该方法仅凭高层级主题描述，引导模型合成自身查询和推理轨迹，在文本和多模态领域实现一致性能提升，且保留未自训练领域的原有能力。 研究证明了基础模型具备丰富的潜在能力，无需外部任务监督即可在标准语言基准和视觉问答任务上持续自我改进。
来源：arXiv · AI · arxiv.org