arXiv · AI· Ji Guo, Xiaolong Qin, Jin Jiang, Yijing Liu, Pei Ke, Aiguo Chen, Wenbo Jiang·· 3 天前AI 评分23
HalluProbe:利用VLM幻觉进行后门检测
HalluProbe: Exploiting VLM Hallucinations for Backdoor Detection
AI 导读
研究提出HalluProbe方法,通过增强并分析视觉语言模型(VLM)解码过程中的幻觉分布一致性来识别后门攻击。 核心依据是受毒化数据训练的VLM会高频幻觉特定目标token,而干净模型的幻觉缺乏稳定偏差。该方法在三个模型上对抗六种代表性VLM后门攻击测试,检测准确率超过90%。 实验结果证明HalluProbe有效检测后门VLM,性能优于现有后门检测技术。
来源:arXiv · AI · arxiv.org