arXiv · ML· Mohamad Amin Mohamadi, Tianhao Wang, Zhiyuan Li·· 2026-10-07AI 评分42
通过强化犹豫提升语言模型的可信度:Reinforced Hesitation 方法
Honesty over Accuracy: Trustworthy Language Models through Reinforced Hesitation
AI 导读
提出强化犹豫(Reinforced Hesitation)方法,通过修改 RLVR 引入三元奖励,使模型在低置信度时主动选择弃答。 在 GSM8K、MedQA 和 GPQA 等基准上,前沿模型极少弃答;实验表明调节惩罚系数 λ 可生成不同风险偏好的模型,覆盖激进到保守的帕累托前沿。 该方法将弃答转化为协调信号,通过级联策略降低计算成本并优于多数投票,提升模型在高风险场景中的可信度。
来源:arXiv · ML · arxiv.org