跳到正文
热点事件持续更新

EMA-PG提升大语言模型强化学习训练

1 篇报道1 个报道来源16 小时前更新

先了解这件事

AI 综述

2026年11月20日,Lunjun Zhang与Jimmy Ba在arXiv发布研究论文,提出EMA Policy Gradient(EMA-PG)方法,旨在改进大语言模型强化学习中的策略梯度算法。 该方法引入两项技术:一是将强化学习过程中固定的锚点策略替换为指数移动平均(EMA)策略,类似深度Q学习中的目标网络机制;二是提出Top-k KL估计器,可在精确KL散度与采样KL散度之间灵活插值,优化策略梯度估计的稳定性与效率。

AI 根据报道生成 · 11 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. arXiv · AI
    EMA Policy Gradient:通过 EMA 锚点与 Top-k KL 优化 LLM 强化学习

    研究提出 EMA Policy Gradient(EMA-PG)方法,结合指数移动平均锚点与 Top-k KL 估计器,显著提升 LLM 强化学习中的策略梯度算法性能。

本事件热度走势

可比范围当前
6
可比范围峰值
911月20日 18:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。