跳到正文
arXiv · NLP· Zheyu Zhang, Shuo Yang, Gjergji Kasneci·· 11 天前AI 评分26

整合奖励扰动用于 LLM 后训练:CoRP 方法

Consolidating Rewarded Perturbations for LLM Post-Training

AI 导读

CoRP 提出一种免梯度的奖励扰动整合方法,将后训练推断时的集成替换为单次前向传播。在 0.5B 至 8B 语言模型及数学、代码等任务上,CoRP 平均提升 8.1 分,超过 RandOpt 单步推断 6.5 分。

来源:arXiv · NLP · arxiv.org