跳到正文
arXiv · NLP· Mina Gabriel, Pei Wang·· 3 天前AI 评分20

首个 Token 置信度检测幻觉:单次解码的可行性研究

The First Token Knows: Single-Decode Confidence for Hallucination Detection

AI 导读

研究提出首个 Token 置信度(phi_first)指标,利用单次贪心解码检测幻觉,在 PopQA 和 TriviaQA 基准上匹配或略超语义自一致性。该指标基于前 K 个 Token 的归一化熵,仅需一次解码,避免传统方法所需的十次采样生成及 NLI 聚类,作为低成本的部署基线。

来源:arXiv · NLP · arxiv.org