跳到正文
arXiv · NLP· Xiaoyue Xu, Sikui Zhang, Xiaorong Wang, Xu Han, Chaojun Xiao·· 2026-10-14AI 评分35

超越奖励工程:长上下文强化学习的数据配方

Beyond Reward Engineering: A Data Recipe for Long-Context Reinforcement Learning

AI 导读

该研究证明,结合极简 GRPO 设置与针对检索、多证据合成及推理三类任务构建的 8 个数据集(约 14K 样本),可显著提升长上下文推理能力。 在 Qwen3-4B/8B/30B-A3B 模型上,该方法在 7 个长上下文基准测试中平均提升 +7.2/+3.2/+6.4 分,且效果可迁移至智能体任务。

来源:arXiv · NLP · arxiv.org