arXiv · NLP· Richard Zhe Wang·· 2026-10-15AI 评分30
通过大语言模型内部状态检测金融问答中的自信幻觉
Confidently Wrong: Detecting Hallucinations in Financial Question Answering from LLM Internal States
AI 导读
研究发现 Qwen3-8B、Llama-3.1-8B 和 Gemma-2-9B 在 FinQA 数据集上,15-23% 的完全一致回答是错误的。 在 8 次重采样答案全一致的自信回答中,内部激活线性探测检测幻觉的 AUROC 达 0.68-0.77,优于 0.55-0.63 的输出层基线。 该方法可作为高效分流机制,将高风险金融答案路由至人工复核,文章已被 ICAIF '26 会议接收。
来源:arXiv · NLP · arxiv.org