arXiv · NLP· Plawan Kumar Rath·· 4 小时前AI 评分40
拒答选项衡量什么：蒸馏小型语言模型中的拒答丢失、采样波动与选项捕获
What the Abstention Option Measures: Refusal Loss, Sampling Churn, and Option Capture in Distilled Small Language Models
AI 导读
研究揭示蒸馏小型语言模型拒答评估的三个机制：拒答丢失、采样波动及选项捕获。 重采样显示10%-27%的拒答转为刻板印象答案；仅条件于已提交答案可防止误判公平性。 学生模型在科学问题中捕获拒答选项达95%，自由形式评估证实多选遗漏并非刻板化主要位置。
来源：arXiv · NLP · arxiv.org