JRS-Rem 方法用于防御 VLM 越狱

一项新研究指出，视觉语言模型（VLM）的越狱现象并非源于识别失败，而是由于视觉模态将表示空间向特定越狱状态发生偏移。研究团队量化了这一越狱相关偏移（JRS），并提出在推理阶段移除该偏移的防御方法 JRS-Rem。 实验结果表明，JRS-Rem 在多种场景下均能提供较强的防御效果，同时保持良性任务的性能不受影响。该方法基于 VLM 在表示空间中能够清晰区分良性输入与有害输入的特性，通过消除越狱导致的表示偏移来增强模型安全性，为防御 VLM 越狱攻击提供了一种新的推理时干预手段。

AI 根据报道生成 · 2 小时前更新