跳到正文
arXiv · ML· Zhishen Sun, Hongzhan Wang, Sizhe Dang, Guang Dai, Haishan Ye·· 2026-10-07AI 评分40

DART-ES:面向大语言模型进化策略微调的难度感知重加权与目标重放方法

DART-ES: Difficulty-Aware Reweighting and Targeted Replay for Fine-Tuning LLMs with Evolution Strategies

AI 导读

DART-ES 通过难度感知重加权和目标重放,在五个基础模型上将平均准确率从 72.07% 提升至 73.53%,超过 GRPO 在 GSM8K 上的 73.26%。 该方法仅用前向计算实现全参数微调,无需额外难度模型或反向传播。相比 GRPO,单步运行时间减少 15.2%–50.2%,单 GPU 峰值显存降低 21.1%–51.1%。

来源:arXiv · ML · arxiv.org