跳到正文
arXiv · ML· Yuelin Hu, Wei Liu, Zhenbo Yu, Zhengxue Cheng, Li Song·· 2026-10-14AI 评分30

GAC:用于混合 SFT-RL 后训练的噪声感知自适应混合方法

GAC: Noise-Aware Adaptive Mixing for Hybrid SFT-RL Post-Training

AI 导读

研究人员提出 GAC 噪声感知自适应混合控制器,在数学、代码、科学和逻辑基准上比 HPT 提升 3.8 分,并将 KL-漂移面积减少 28%。 该方法基于 CHORD 的逐 token 重新加权,引入 EMA 平滑和调度先验,计算开销低于 1%;性能增益随模型从 1.5B 到 14B 增大而提升。

来源:arXiv · ML · arxiv.org