跳到正文
arXiv · NLP· Michael Rathmayr, \'Ad\'am Kov\'acs, G\'abor Recski·· 2026-10-06AI 评分35

Grounding Probes: 生成器无关的观察者模型幻觉检测

Grounding Probes: Generator-Independent Hallucination Detection from Observer Model Hidden States

AI 导读

提出Grounding Probe,通过观察者模型中间层隐状态检测幻觉,无需生成器配合。在RAGTruth测试集上,单个探针跨六个生成器达到0.879-0.894 AUROC,且无评估提示污染控制下移除生成器仅损失约0.02 AUROC。该探针已与监督跨度检测器融合,平均F1@0.5达0.820,优于单用检测器0.060。

来源:arXiv · NLP · arxiv.org