arXiv发布ERASE多模态提示注入防御方法

arXiv发布新论文，提出ERASE多模态提示注入防御方法。该方法基于在线策略自蒸馏，通过原地擦除注入区域构建参考基准，旨在解决AI模型安全问题。 在3B音频模型测试中，ERASE被攻击输入准确率达60.1%，将注入依赖度从6.26降至0.0095。该方法在图像、音频和视频模型上实现近乎零攻击成功率，同时保留了任务效用，有效弥合了安全防御与功能保留之间的差距。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。