arXiv · AI· Junying Chen, Xinyuan Xie, Ziniu Li, Wenyuan Gu, Jianquan Li, Xiang Wan, Guangjun Yu, Ruoyu Sun, Haizhou Li, Benyou Wang·· 13 天前精选AI 评分62
HuatuoGPT-3：从基座模型出发的纯 RL 领域适配
HuatuoGPT-3: RL-Only Domain Adaptation from Base Models
AI 导读
论文提出 One-stage Policy Optimization（OnePO），把教师输出当作策略改进的临时引导，通过 Adaptive Objective Evolution 加强对低概率教师 token 的学习。
推荐理由
论文提出 OnePO 单阶段策略优化，用 20K 样本在 HealthBench 上超过 SFT+RL 与纯 RL，并开源 HuatuoGPT-3 系列。
来源：arXiv · AI · arxiv.org