arXiv · AI· Christophe Khalil, Aya Mourad·· 4 小时前AI 评分25
指令微调导致模型事实回忆能力下降：基础模型表现优于指令微调版本
The Instruction Tax on Factual Recall: Base Models Can Beat Their Instruction-Tuned Counterparts
AI 导读
研究团队在AKBC LM-KBC 2026竞赛中得分0.6836，远超0.2964基线，发现指令微调会降低模型事实回忆能力。 他们证明使用基础模型配合文本补全提示法，得分0.6836，高于指令微调模型的0.5681，提出“指令税”概念。 该方法仅使用生成输出并筛选重复项，结合两种专门方法优化答案，验证了提示方法对表现的决定性作用。
来源：arXiv · AI · arxiv.org