Qwen3-VL-4B 视觉层安全几何研究发布

研究团队提出了一种轻量级推理时框架，旨在冻结视觉语言模型（VLM）中定位并操纵安全敏感表征。该框架无需重新训练或修改模型参数即可实现安全控制，为理解 VLM 内部的安全机制提供了新的白盒视角。 基于 Qwen3-VL-4B 模型的实验显示，其视觉层存在非均匀的安全几何特性。因果干预结果表明，早期视觉层通过沿学习到的安全方向进行激活引导，具备双向拒绝控制能力。数据显示，该机制下不安全内容的拒绝率跨度极大，在 6% 至 96% 之间波动。 研究发现不同层级的安全选择性存在权衡，深层网络对引导不敏感。此外，InternVL2.5-4B 模型也呈现出类似的深度依赖激活几何特性，尽管具体的层位置和幅度存在差异。这一结果揭示了视觉编码器层面的白盒拒绝绕过攻击面，推动了推理时安全表征稳定化的研究方向。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。