arXiv · NLP· Reza Khanmohammadi, Erfan Miahi, Ivan Brugere, Simerjot Kaur, Charese H. Smiley, Kundan Thind, Mohammad M. Ghassemi·· 2026-10-06AI 评分32
视觉语言模型置信度并非答案固有属性
Vision-Language Model Confidence Is Not a Property of the Answer
AI 导读
视觉语言模型置信度受输入扰动可被操控,L∞预算8/255下保持答案不变时,可逆转置信度排名。 在4个模型和3个问答基准测试中,83/84个读数配置低于随机水平;基于冻结隐藏状态的探针无法修复该漏洞。 部署中该攻击可致系统接受本应拦截的错误答案,甚至劣于无门控情况。
来源:arXiv · NLP · arxiv.org