arXiv · ML· Yuchen Zeng, Giorgio Severi, Blake Bullwinkel, Eric Horvitz, Dimitris Papailiopoulos·· 7 天前同新闻AI 评分70
Lazarus:通过重编程休眠神经元对 AI Agent 植入后门
Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents
AI 导读
Lazarus 方法无需训练模型,仅通过编辑最终前馈块中少于 10 个休眠神经元,即可让 AI Agent 在特定触发词出现时执行恶意指令。在 Nemotron-Terminal-8B 上,该方法使用 7 个神经元实现了 98.8% 的触发率且无良性场景泄漏。研究指出该结构也可用于检测,Agent 在无参考模型情况下可识别 91.4% 的被编辑检查点,假正率仅为 9.7%。
同一新闻,精选展示《Lazarus:重新编程休眠神经元以植入 AI 智能体后门》
来源:arXiv · ML · arxiv.org