EMA-PG提升大语言模型强化学习训练
热点事件持续更新
EMA-PG提升大语言模型强化学习训练
1 篇报道1 个报道来源16 小时前更新
先了解这件事
AI 综述
2026年11月20日,Lunjun Zhang与Jimmy Ba在arXiv发布研究论文,提出EMA Policy Gradient(EMA-PG)方法,旨在改进大语言模型强化学习中的策略梯度算法。 该方法引入两项技术:一是将强化学习过程中固定的锚点策略替换为指数移动平均(EMA)策略,类似深度Q学习中的目标网络机制;二是提出Top-k KL估计器,可在精确KL散度与采样KL散度之间灵活插值,优化策略梯度估计的稳定性与效率。
AI 根据报道生成 · 11 小时前更新
最新进展11月20日 13:00
EMA Policy Gradient:通过 EMA 锚点与 Top-k KL 优化 LLM 强化学习报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- arXiv · AIEMA Policy Gradient:通过 EMA 锚点与 Top-k KL 优化 LLM 强化学习
研究提出 EMA Policy Gradient(EMA-PG)方法,结合指数移动平均锚点与 Top-k KL 估计器,显著提升 LLM 强化学习中的策略梯度算法性能。
本事件热度走势
- 可比范围当前
- 6
- 可比范围峰值
- 911月20日 18:00
- 近 24 小时变化
- –
02.557.510
18:0020:0022:0011月21日02:0004:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。