Microsoft Research· Dimitris Papailiopoulos·· 9 天前精选AI 评分83
Lazarus:重新编程休眠神经元以植入 AI 智能体后门
Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents
AI 导读
Microsoft 研究人员发现名为 Lazarus 的技术,通过重新编程 LLM 中少于 10 个休眠神经元即可在无重新训练情况下植入后门,并让 AI 智能体执行恶意命令。被植入后门的模型能正常通过标准安全评估,但当隐藏触发器出现时,会静默执行窃取数据或运行恶意代码的指令,这对拥有工具或终端访问权限的 AI 智能体威胁尤其严重。
推荐理由
揭示了通过操纵休眠神经元植入后门的新攻击面,提供了验证模型权重完整性的关键安全视角。
来源:Microsoft Research · microsoft.com