跳到正文
arXiv · ML· Xiaoliang Fu, Jiaye Lin, Yangyi Fang, Cong Qin, Binbin Zheng, Chaowen Hu, Zekai Shao·· 7 天前AI 评分42

引入“有效熵”对齐 LLM 探索:VEPO 方法提升 DeepSeek-R1 数学推理准确性

The Illusion of Diversity: Aligning LLM Exploration via Effective Entropy

AI 导读

针对 RLVR 中“盲目”熵指标无法区分有效推理与幻觉的问题,研究者提出有效性感知熵概念,并实现 VEPO(Validity-aware Entropy Policy Optimization)方法,将有效熵直接融入训练以过滤噪声。

来源:arXiv · ML · arxiv.org