跳到正文
arXiv · ML· Charalampos Koilakos, Kimon-Antonios Provatas, Michail Patsakis, Candace SY Chan, Georgios A. Pavlopoulos, Ilias Georgakopoulos-Soares·· 2026-10-16AI 评分25

蛋白质设计系统预训练与检索语料的投毒攻击

Poisoning the corpora of protein design systems during pre-training and retrieval

AI 导读

研究证实针对ProtGPT2和ProGen2的纯数据投毒攻击能可靠植入触发器。3亿参数模型在统一投毒下约需5000个样本激活,而渐进式投毒仅需200个样本。 针对检索语料的攻击通过插入记录实现,单条感知查询的记录可捕获58%模板请求的前16位,并导致62%请求生成序列改变。 研究证明蛋白质序列数据的完整性是生成式蛋白质设计系统的关键安全保障。

来源:arXiv · ML · arxiv.org