arXiv · AI· Tongxi Wu, Yuyang Cheng, Jiacheng Xian, Menglin Yang, Kai Chen, Jian Zhang, Yang Gao·· 2 天前AI 评分29
视觉语言模型场景状态安全漏洞:SceneSafetyBench与S3TA攻击研究
Reading Scene States: Uncovering Safety Failures in Vision-Language Models
AI 导读
研究揭示视觉语言模型存在“场景状态安全漏洞”,提出SceneSafetyBench基准与S3TA攻击方法。在8个VLM测试中,场景状态输入导致45.6%至72.3%的有害协助成功率。 S3TA在7个MM-SafetyBench类别上平均攻击成功率为71.2%,比最强基线高6.1个百分点。文本过滤和视觉审查防护有限,需加强场景推理层安全防护。
来源:arXiv · AI · arxiv.org