跳到正文
arXiv · NLP· Yunan Wang, Minghui Song, Zihan Zhang, Shaohan Huang, Haizhen Huang, Furu Wei, Weiwei Deng, Feng Sun, Qi Zhang·· 8 小时前AI 评分26

G2PO:面向长时程智能体强化学习的群体图策略优化

Group-Graph Policy Optimization for Long-Horizon Agentic Reinforcement Learning

AI 导读

G2PO提出群体图策略优化算法,解决长时程智能体强化学习中奖励稀疏和延迟问题。 该算法将线性交互轨迹转化为全局状态转移图,采用组聚合状态值估计和以边为中心的优势估计,降低采样方差。 在WebShop等基准测试中,G2PO成功率先于GRPO提升高达22.2%。

来源:arXiv · NLP · arxiv.org