实证研究称响应比率优于困惑度预测指令微调效用

2026年10月25日，Vladimir Necula等人发表实证研究，探讨早期指令微调中的数据质量指标。研究指出，在固定微调预算下，响应比率是预测微调效用的更强且更可移植指标，优于验证困惑度和LLM评分等常用替代代理。实验通过将指令-响应样本按分数排序分桶微调，证实答案密集的监督信号具有更高预测力。该发现澄清了“数据质量”的操作定义，为高效数据选择提供了实证依据。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。