跳到正文
arXiv · NLP· Xinyan Hu, Pingbang Hu, Chloe Loughridge, Xuanli He, Nicholas Carlini, Matthew Jagielski, Javier Rando, Yiming Zhang·· 21 天前AI 评分47

Agentic Backdoors via Pretraining Poisoning 研究:在 Qwen3 模型中植入远程代码执行后门

Agentic Backdoors via Pretraining Poisoning

AI 导读

研究首次证明 LLM 预训练数据投毒可在 AI 智能体中植入远程代码执行后门。实验从零预训练 0.6B、1.7B 和 4B 的 Qwen3 模型并后训练为 CLI 智能体,仅投毒 0.1% 语料即可植入后门。 4B 模型在 0.1% 投毒率下攻击成功率约 92%,投毒率降至 0.0005% 时仍有效,且代码已开源。 该研究揭示了大规模网络爬取语料在模型安全层面的脆弱性。

来源:arXiv · NLP · arxiv.org