arXiv · AI· Qian Ma, Chen Wu, Prasenjit Mitra, Sencun Zhu·· 7 小时前AI 评分30
图像知识蒸馏中的后门攻击:数据集投毒可绕过干净教师模型
How to Backdoor Image Knowledge Distillation
AI 导读
研究揭示图像知识蒸馏存在新安全漏洞:即使教师模型保持干净,投毒的蒸馏数据集仍可向学生学习后门。 攻击采用触发图像和对抗扰动,在10%投毒率下依然有效。学生模型在干净图像上保持竞争力的表现,但已被植入后门。 结果表明数据完整性是数据密集型知识蒸馏管道的安全边界,仅信任教师模型不足以防备此威胁。
来源:arXiv · AI · arxiv.org