图像知识蒸馏中发现数据投毒后门漏洞

研究人员 Qian Ma 等团队提出了一种针对图像知识蒸馏管道的后门攻击方法，并发布了相关论文。该研究揭示了一个新的安全漏洞，表明即使教师模型保持干净，投毒的蒸馏数据集仍可向学生学习后门。 在具体实现上，攻击采用触发图像和对抗扰动。实验结果指出，在 10% 投毒率下该攻击依然有效，受攻击的学生模型在干净图像上仍保持竞争力表现，但已被植入了后门。 该发现表明数据完整性是数据密集型知识蒸馏管道的安全边界。研究强调，仅信任教师模型是不足以防备此类威胁的，验证了现有防御假设的局限性。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。