跳到正文
arXiv · ML· Zhaojia Wang, Jiucui Lu, Zheng Li·· 4 天前AI 评分22

研究揭示 LLM 权重空间编程可注入后门

Can LLMs Write Backdoors? An Empirical Security Study of Weight-Space Programming

AI 导读

LLM 驱动的权重空间编程能成功向神经网络注入后门,且保持干净性能,仅修改 MLP 的 6 个参数或 Qwen 模型 0.02% 权重即可实现。 在 3 种目标架构测试中,通用 LLM 均可直接修改权重,但 GPT-6 Astra 是唯一在三个目标上均成功的模型。 这一发现凸显了权重空间编程的安全风险。

来源:arXiv · ML · arxiv.org