arXiv · AI· Lunjun Zhang, Jimmy Ba·· 16 小时前AI 评分34
EMA Policy Gradient:通过 EMA 锚点与 Top-k KL 优化 LLM 强化学习
EMA Policy Gradient: Taming Reinforcement Learning for LLMs with EMA Anchor and Top-k KL
AI 导读
研究提出 EMA Policy Gradient(EMA-PG)方法,结合指数移动平均锚点与 Top-k KL 估计器,显著提升 LLM 强化学习中的策略梯度算法性能。
来源:arXiv · AI · arxiv.org