arXiv · ML· Shuailong Wang, Xinyu Lyu, Shengming Yuan, Jingkuan Song, Heng Tao Shen, Lianli Gao·· 2026-10-08AI 评分41
研究发现视觉语言模型中的 Token 剪枝导致安全漏洞,并提出安全感知剪枝机制
Understanding and Mitigating Token-Pruning-Induced Vulnerabilities in VLMs
AI 导读
首次全面评估视觉语言模型 Token 剪枝的安全性,发现多数策略降低安全,而基于查询的压缩在 99.8% 剪枝率下反而提升安全。 揭示“剪枝诱导的恶意放大”机制:移除背景 Token 迫使注意力坍缩至前景恶意锚点,从而放大越狱下的毒性语义。 提出即插即用的安全感知剪枝(SAP)机制,在三个安全和四个效用基准上测试,最多将攻击成功率(ASR)降低 62%,且不损害效率或效用。
来源:arXiv · ML · arxiv.org