arXiv · AI· Shuo Hong, Jiaxin Ma, Xidi Cai, Qianli Ma·· 4 小时前AI 评分41
ERASE：基于在线策略自蒸馏的多模态提示注入防御方法
Erase the Injected Region: Multimodal Prompt-Injection Defense with On-Policy Self-Distillation
AI 导读
ERASE 提出一种在线策略自蒸馏方法，通过在原地擦除注入区域构建参考，在图像、音频和视频模型上实现近乎零攻击成功率且保留任务效用。在 3B 音频模型上，ERASE 被攻击输入准确率达 60.1%，将注入依赖度从 6.26 降至 0.0095。该方法弥合了攻击防御与任务保留之间的差距。
来源：arXiv · AI · arxiv.org