arXiv · NLP· Rajeel Ahmad Ansari, Tautik Agrahari·· 8 小时前AI 评分30
不确定性能否衡量 RAG 幻觉风险？
When Does Uncertainty Measure RAG Hallucination Risk?
AI 导读
研究显示，仅当检索证据能约束答案时，不确定性指标才能有效衡量 RAG 幻觉风险。证据缺失时模型依赖内部知识，导致不确定性度量失效。 在四个指令微调模型上测试发现，困惑度在检测不支持的编辑时 AUROC 达 0.81-0.91，而长度分类器接近随机水平。 结果支持将不确定性视为 RAG 幻觉风险的有条件度量工具，该研究已被 ICNLSP 2026 接收为口头报告。
来源：arXiv · NLP · arxiv.org