跳到正文
热点事件持续更新

On-Policy Self-Training:大语言模型无数据自改进方法

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

arXiv cs.AI 领域最新研究显示,提出了一种基于策略自我蒸馏的自训练框架 On-Policy Self-Training。该框架允许大语言模型在不依赖更强外部教师或人工标注信号的情况下,实现模型后训练。 该方法仅凭高层级主题描述引导,让模型自主合成查询问题和推理轨迹。研究显示,这种自训练方式在文本和多模态领域均实现了一致的性能提升,同时保留了模型在未经过自训练领域的原有能力,证明了基础模型具备无需外部监督即可自我改进的丰富潜在能力。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. arXiv · AI
    On-Policy Self-Training:大语言模型的无数据自改进方法

    论文提出一种基于策略自我蒸馏的自训练框架,利用自生成问答对和特权推理演示实现模型后训练,无需依赖更强外部教师或人工标注信号。 该方法仅凭高层级主题描述,引导模型合成自身查询和推理轨迹,在文本和多模态领域实现一致性能提升,且保留未自训练领域的原有能力。 研究证明了基础模型具备丰富的潜在能力,无需外部任务监督即可在标准语言基准和视觉问答任务上持续自我改进。

本事件热度走势

可比范围当前
9
可比范围峰值
1010月26日 13:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。