arXiv · ML· Yuda Song, Alvin Zhang, Fahim Tajwar, Daman Arora, Jeff Schneider, Daniel Khashabi, Ruslan Salakhutdinov, J. Andrew Bagnell, Aarti Singh, Andrea Zanette·· 9 小时前AI 评分29
统一训练框架：单一算法驱动基础模型全生命周期训练
Training Foundation Models with a Single Algorithm
AI 导读
summary_zh: 研究人员提出“统一训练”框架，通过单一基于似然的训练算法整合基础模型的预训练、监督微调（SFT）和强化学习（RL）阶段。 该框架将RL目标推导为对模型生成目标分布的最大似然拟合，在单一训练器中混合静态数据与RL生成数据。
来源：arXiv · ML · arxiv.org