arXiv · NLP· Lorenzo Jaime Yu Flores, Cesare Spinoso Di-Piano, Jackie Chi Kit Cheung·· 8 小时前AI 评分28
SFT 对置信度评分敏感度的影响：现有 NLG 置信度指标无法直接部署
Confident in a Confidence Score: Investigating the Sensitivity of Confidence Scores to Supervised Fine-Tuning
AI 导读
研究发现监督微调（SFT）会显著改变自然语言生成任务的置信度校准，在 216 种配置中 112 种降级、104 种改进。 校准变化受训练分布接近度等非质量因素影响，且无法从微调前模型预判方向，导致置信度识别正确答案的实用性大幅下降。 现有置信度指标在微调后无法直接可靠部署，突显了开发校准鲁棒不确定性量化方法的必要性。
来源：arXiv · NLP · arxiv.org