arXiv · NLP· Ziqi Miao, Yi Ding, Chen Qian, Yongyao Wang, Zaoying Huang, Yuan Xiong, Ken Deng, Lijun Li, Jing Shao·· 2 天前AI 评分35
VisCo 攻击:通过图像驱动上下文注入实现多模态大模型越狱
Visual Contextual Attack: Jailbreaking MLLMs with Image-Driven Context Injection
AI 导读
VisCo 攻击在 MM-SafetyBench 上对 GPT-4o 实现 85% 攻击成功率,毒性评分达 4.78。 该攻击利用四种视觉策略构建越狱场景,并结合自动毒性混淆与语义精炼优化提示词。 研究揭示了视觉模态在开放环境中部署 MLLMs 面临的安全漏洞。
来源:arXiv · NLP · arxiv.org