跳到正文
arXiv · ML· Anas Barakat, Souradip Chakraborty, Khushbu Pahwa, Amrit Singh Bedi·· 2026-10-14AI 评分31

LLM后训练中提示词干扰导致Pass@k优化降低Pass@1

Prompt Interference in LLM Post-Training: Why Pass@k Optimization Can Degrade Pass@1

AI 导读

LLM后训练中,直接优化Pass@k指标会导致Pass@1性能下降。这种权衡源于提示词干扰引起的梯度冲突:共享模型参数将不同提示词耦合,优化Pass@k会隐式增加低成功率提示词的权重,进而偏离Pass@1的优化方向。该理论结果已在数学推理和代码任务实验中验证。

来源:arXiv · ML · arxiv.org