VLM内部信号幻觉检测鲁棒性研究

2026年10月21日，arXiv发布新研究。Allison Chen等团队发表论文，针对视觉-语言模型（VLM）内部信号在幻觉检测中的鲁棒性展开分析。 研究发现，使用内部信号进行幻觉检测存在显著局限，仅凭生成词的token位置这一简单基线，其性能便已具备竞争力。部分检测方法及集成策略对语言模态敏感，且视觉接地能力较弱，在早期幻觉出现时鲁棒性会降低。 该研究指出，不同检测方法的互补性有助于提升集成性能。当前依赖内部信号的方法在实际应用中面临稳定性挑战，可能影响安全关键场景的可靠性。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。