arXiv · NLP· Nhat Minh Pham, Duy Tung Doan, Quang Huy Phung, Thi Duyen Ngo, Vinh Van Nguyen, Khac-Hoai Nam Bui·· 2026-10-15AI 评分30
SPARK:在投机 GRPO 推理中利用验证信号进行自适应性草稿模型优化
SPARK: Learning from Verification in Speculative GRPO Rollouts
AI 导读
SPARK 提出一种轻量级自适应机制,利用目标模型的验证反馈优化草稿模型,提升大语言模型 GRPO 训练效率。 在 21 个模型-数据集设置中,SPARK 相比 EAGLE3 和 DFlash 基线,分别提升生成加速比 32.7% 和 11.4%,端到端 GRPO 训练加速比 32.2% 和 8.5%。
来源:arXiv · NLP · arxiv.org