跳到正文
arXiv · NLP· Sophia Hager, Simon Zeng, Nicholas Andrews·· 3 天前AI 评分23

在语言模型中诱导人工不确定性以提升真实不确定性识别

Inducing Artificial Uncertainty in Language Models

AI 导读

该研究提出在语言模型中诱导人工不确定性,以解决缺乏挑战性数据训练监督式不确定性量化方法的问题。 通过探针识别原始模型中的人工不确定性,结果显示此类探针在识别真实不确定性时优于未使用人工不确定性的探针,且在困难数据上校准效果更佳,易处理数据性能损失极小。 该成果已发表于 TMLR,有助于提升关键安全应用中语言模型的不确定性表征能力。

来源:arXiv · NLP · arxiv.org