arXiv · ML· Binchi Zhang, Apurva Narayan, Atrisha Sarkar·· 2026-10-05AI 评分50
视觉语言模型在极低扰动下的目标语义替换攻击
It Takes Little to Rewrite Perception: Targeted Semantic Substitution in Vision-Language Models at $\epsilon \leq 4/255$
AI 导读
视觉语言模型(VLM)在 ε≤4/255 的低扰动范围内并非完全鲁棒,目标语义替换攻击已成功突破该限制。在白色盒威胁模型下,图像中目标语义在 ε=2/255 时出现,完整替换率在 ε=4/255 时达到 38%,视频完整替换率则在 ε=1/255 时达到 35.9%。 研究还观察到语义融合现象,即大型语言模型(LLM)会将相互矛盾视觉信号合理化为连贯叙述。
来源:arXiv · ML · arxiv.org