arXiv · NLP· Zheyu Zhang, Shuo Yang, Gjergji Kasneci·· 11 天前AI 评分26
整合奖励扰动用于 LLM 后训练:CoRP 方法
Consolidating Rewarded Perturbations for LLM Post-Training
AI 导读
CoRP 提出一种免梯度的奖励扰动整合方法,将后训练推断时的集成替换为单次前向传播。在 0.5B 至 8B 语言模型及数学、代码等任务上,CoRP 平均提升 8.1 分,超过 RandOpt 单步推断 6.5 分。
来源:arXiv · NLP · arxiv.org