arXiv · NLP· Renato Vukovic, Hsien-chin Lin, Carel van Niekerk, Benjamin Ruppik, Michael Heck, Shutong Feng, Nurul Lubis, Milica Gasic·· 6 小时前AI 评分22
利用低层符号能力进行无监督幻觉检测：基于 SQL 的神经符号方法
Leveraging Low-Level Symbolic Competences for Unsupervised Grounding in Hallucination Detection
AI 导读
该研究让大语言模型从参考文档构建 SQL 数据库，以此在无监督条件下检测幻觉，在 RAGTruth 和 DiaHalu 数据集上表现优于直接预测并媲美最先进方法。 方法不依赖领域特定微调，而是利用 LLM 已有的低层通用符号能力，为高维任务提供基于数据库推理的神经符号验证。 这项工作验证了挖掘 LLM 低层能力在神经符号方法中的潜力，推动了无需额外训练的幻觉检测研究。
来源：arXiv · NLP · arxiv.org