跳到正文
arXiv · AI· Zane Fu, Yanzhao Zheng, Jinze Liu, Ziting Qin, Qianshan Wei, Jihuai Zhu, Yipeng Yu, Baohua Dong, Hangcheng Zhu, Ruohui Huang·· 2 天前AI 评分25

视觉语言模型 On-Policy Distillation 中视觉后门传播机制研究

As Student Rollouts Continue, Visual Backdoors Keep Growing

AI 导读

研究发现 On-Policy Distillation 在低投毒率下难触发视觉后门,但超过临界阈值后攻击成功率迅速接近 100%。传播依赖教师模型异常概率质量的持续积累,而非显式恶意响应,并提出了零显式触发注入的新触发器设计。这些结果揭示了 OPD 中被忽视的后门传播机制及潜在安全风险。

来源:arXiv · AI · arxiv.org