arXiv · NLP· Amarsaikhan Batjargal, Noriko Tomuro·· 4 小时前AI 评分21
SPARK 与 Qwen2.5-Coder-3B-Instruct 在代码生成中的单适配器漂移:机制研究
Co-Evolving Policy and Reward for Code Generation: A Mechanistic Study of Single-Adapter Drift
AI 导读
使用 Qwen2.5-Coder-3B-Instruct 测试 SPARK 策略-奖励协同演化未提升代码生成的泛化能力。 SPARK 导致相对 GRPO 约 34 倍 KL 散度,训练 token 数从 185 降至 86,留出集性能未保持早期增益。 训练奖励提升不代表可泛化的代码自我改进,需关注留出集评估与漂移诊断。
来源:arXiv · NLP · arxiv.org