跳到正文
arXiv · NLP· Ziqi Miao, Yi Ding, Chen Qian, Yongyao Wang, Zaoying Huang, Yuan Xiong, Ken Deng, Lijun Li, Jing Shao·· 2 天前AI 评分35

VisCo 攻击:通过图像驱动上下文注入实现多模态大模型越狱

Visual Contextual Attack: Jailbreaking MLLMs with Image-Driven Context Injection

AI 导读

VisCo 攻击在 MM-SafetyBench 上对 GPT-4o 实现 85% 攻击成功率,毒性评分达 4.78。 该攻击利用四种视觉策略构建越狱场景,并结合自动毒性混淆与语义精炼优化提示词。 研究揭示了视觉模态在开放环境中部署 MLLMs 面临的安全漏洞。

来源:arXiv · NLP · arxiv.org