跳到正文
arXiv · AI· Yiheng Zhao, Runze Ji, Chenyu Yi, Yi Yu, Bingquan Shen, Alex Kot, Xudong Jiang·· 7 天前AI 评分26

视觉提示注入中规模诱发的语义漂移对视觉语言模型及Web智能体的影响

Scale-Induced Semantic Shift in Visual Prompt Injection Against VLMs and Web Agents

AI 导读

研究揭示视觉内容重采样可致文本指令语义漂移,在四个闭源视觉语言模型上,SISS框架第三轮攻击成功率达58.75%。 下游Web智能体行为妥协率约4%,ScaleGuard检测器将非自适应攻击成功率从61.4%降至24.3%。

来源:arXiv · AI · arxiv.org