跳到正文
arXiv · AI· Litian Liu, Qiqi Hou, Yubing Jian, Reza Pourreza, Mohammad Ghavamzadeh, Roland Memisevic, Yao Qin, Hong Cai·· 10 天前AI 评分38

USteer:一种无训练推理时不确定性引导的模型激活调整方法

Alleviating Hallucination in Reasoning Tasks with Training-Free Uncertainty-Guided Steering

AI 导读

提出无训练框架 USteer,利用置信度度量对模型层激活值的梯度,在推理时动态调整模型行为,从而系统性降低大语言模型在推理任务中的幻觉率。 该方法无需修改模型参数或额外监督,仅通过引导生成过程降低不确定性。 已被 NeurIPS 2026 主会接收。

来源:arXiv · AI · arxiv.org