跳到正文
arXiv · NLP· Jihao Huang, Guangjia Chai, Zhirui Chen, Lei Wang, Yao Liu, Liu Qi, Pengjie Ding, Xinyang Liu, Chengxun Jia, Ling Shao, Hongyu Chen, Junchen Wan·· 8 小时前AI 评分23

MGE-PO:基于熵感知信用分配优化数学推理

MGE-PO: Entropy-Aware Credit Assignment for Mathematical Reasoning

AI 导读

MGE-PO 引入四象限优势整形,结合验证正确性与生成熵进行信用分配,低熵成功获得更大奖励,高熵失败受到更重惩罚。 在 Qwen3-8B-Base 上训练八轮后,六项基准宏观平均准确率提升 3.23%-3.69%,通过率达到 4.24%-11.06%;在 Qwen2.5-7B-Base 上,四项基准宏观平均准确率从 41.5% 提升至 45.4%。

来源:arXiv · NLP · arxiv.org