R/ArtificialInteligence· /u/VectorWireAI·· 7 天前AI 评分69
Lazarus研究揭示权重文件是Agent系统中最高风险资产
Lazarus Backdoor Turns the Weights File Into the Agent Stack's Most Dangerous Artifact
AI 导读
Lazarus研究指出,通过编辑开放权重模型中不到10个极少被触发的神经元,即可植入在正常交互中完全隐蔽的后门。当特定触发条件出现时,该后门会让Agent以其自身权限执行攻击者预定义的命令。该演示无需对模型进行再训练、修改其代码或更改任何周边基础设施,从而将Agent AI的威胁面从框架、记忆系统、控制平面等广泛组件,具体化到权重文件这一单一资产上。
来源:R/ArtificialInteligence · reddit.com