跳到正文
arXiv · AI· Qian Ma, Chen Wu, Prasenjit Mitra, Sencun Zhu·· 7 小时前AI 评分30

图像知识蒸馏中的后门攻击:数据集投毒可绕过干净教师模型

How to Backdoor Image Knowledge Distillation

AI 导读

研究揭示图像知识蒸馏存在新安全漏洞:即使教师模型保持干净,投毒的蒸馏数据集仍可向学生学习后门。 攻击采用触发图像和对抗扰动,在10%投毒率下依然有效。学生模型在干净图像上保持竞争力的表现,但已被植入后门。 结果表明数据完整性是数据密集型知识蒸馏管道的安全边界,仅信任教师模型不足以防备此威胁。

来源:arXiv · AI · arxiv.org