arXiv · NLP· Davide Baldelli, Sruthi Kuriakose, Maryam Hashemzadeh, Amal Zouaq, Sarath Chandar·· 2026-10-12AI 评分36
语言模型中的概率校准是一项可训练能力
Probabilistic Calibration Is a Trainable Capability in Language Models
AI 导读
通过微调可显著提升语言模型的概率校准能力。在12个模型上测试,两种校准微调方法均能大幅改善未见分布下的采样保真度,微调后模型首次token支持度扩大1至2个数量级。 部分能力如算术推理可能受损,成本因模型而异。
来源:arXiv · NLP · arxiv.org