arXiv · NLP· Wonjun Lee, Vaidehi Patil, Zaid Khan, Yue Zhang, Hyunji Lee, Suhyun Kim, Mohit Bansal·· 6 小时前AI 评分32
LookAhead Defense 抵御语言与多模态智能体的休眠投毒攻击
Defending Against Dormant Poisoning Attacks Across Language and Multimodal Agents
AI 导读
LookAhead Defense 提出利用模型自身安全响应构建 Safety Buffer，通过预览微调更新并仅惩罚削弱安全的更新，解决现有防御依赖外部响应的难题。 该防御在语言模型及多模态智能体上，将有害行为比例最高从 93.9% 降至 14.2%，语言模型有害响应从 92.5% 降至 2.0%，同时保持低过度拒绝。
来源：arXiv · NLP · arxiv.org