arXiv · AI· Federico Felizzi, Francesco Andrea Causio, Bianca Destro Castaniti, Olivia Riccomi, Michele Ferramola, Vittorio De Vita, Alessandro Tosi, Antonio Cristiano, Alessia Longo, Lorenzo De Mori, Chiara Battipaglia, Melissa Sawaya, Luigi De Angelis, Marcello Di Pumpo, Alessandra Piscitelli, Pietro Eric Risuleo, Giulia Vojvodic, Mariapia Vassalli, Nicolo Scarsi, Manuel Del Medico·· 24 天前AI 评分32
无证据的坚定:医学视觉语言模型判决稳定性独立于视觉 grounding
Conviction Without Evidence: Verdict Stability Is Independent of Visual Grounding in Medical Vision--Language Models
AI 导读
研究发现医学视觉语言模型在缺乏诊断图像时,其判决的坚定程度与有图像时并无差异。 在 60 道测试题中,对抗性压力导致无图判决翻覆率(98.1%)略高于有图(94.4%),且模型在内容空洞的怀疑下未稳定,平均发生 7.4 次变更。 表明用户无法通过认知信号区分基于证据的诊断与虚构结论,模型即使识别缺失证据也无法在压力下维持弃权。
来源:arXiv · AI · arxiv.org