arXiv · NLP· Yujun Zhou, Zhenwen Liang, Haolin Liu, Wenhao Yu, Kishan Panaganti, Linfeng Song, Dian Yu, Xiangliang Zhang, Haitao Mi, Dong Yu·· 4 小时前AI 评分31
EVOL-RL:无标签强化学习提升大模型多样性与性能
Evolving Language Models without Labels: Majority Drives Selection, Novelty Promotes Variation
AI 导读
EVOL-RL 通过结合多数投票与新颖性机制,有效解决了无标签自我改进中的多样性坍缩问题,显著提升 pass@n 性能。 在 AIME24 无标签训练 Qwen3-4B-Base 后,其在 AIME25 上的 pass@1 从 4.6% 提升至 17.1%,pass@16 从 18.5% 提升至 42.0%,超越 TTRL 基线。
来源:arXiv · NLP · arxiv.org