arXiv · NLP· Qianchi Zhang, Hainan Zhang, Liang Pang, Hongwei Zheng, Zhiming Zheng·· 3 小时前AI 评分32
CalibraRL: Confidence-Calibrated Reinforcement Learning for Mitigating Hallucinations in RAG
CalibraRL: Confidence-Calibrated Reinforcement Learning for Mitigating Hallucinations in RAG
AI 导读
CalibraRL 提出一种融合响应置信度与查询级回答证据的强化学习框架，旨在缓解 RAG 中的幻觉。 该框架利用 Brier 惩罚项校准置信度与正确性的匹配，并通过 Beta 后验估计弃答奖励。实验显示 CalibraRL 在两个骨干模型和三个数据集上将平均期望校准误差（ECE）降低了 30.8%。
来源：arXiv · NLP · arxiv.org