跳到正文
arXiv · NLP· Junxing Hu, Zicheng Zhang, Zhiqian Zhang, Ai Han, Yifeng Zhang, Pengzhang Liu, Ling Li·· 3 小时前AI 评分42

Info-GRPO:基于相关性探索的长轨迹推理优化框架

Correlation-Aware Exploration for Long-Trace Reasoning

AI 导读

Info-GRPO 提出信息论框架解决 GRPO 训练中的策略崩溃与熵衰减冲突,通过潜变量相关探索实现多样性。 该框架利用潜种子增强提示以探索多样化策略,在 AIME24 上 Avg@8 较 GRPO 提升 3.75% 至 4.17%。 代码和模型将公开发布,该研究已被 NeurIPS 2026 LCFM 研讨会接收。

来源:arXiv · NLP · arxiv.org