跳到正文
arXiv · ML· Damien Lo, Hong Kyu Lee, Ruixuan Liu, Li Xiong·· 2026-10-14AI 评分23

COMPASS:通过自适应噪声校准对视觉大语言模型发起成员推断攻击

COMPASS: Membership Inference Attack Against Vision Large Language Models via Adaptive Noise Calibration

AI 导读

COMPASS 是一种自适应灰色框成员推断攻击方法,利用分布匹配的已知非成员参考集校准扰动幅度和成员分数方向。 该方法在 LLaVA v1.5-7B、MiniGPT-4 和 HuluMed-32B 上验证,基于 Renyi 归一化 KL 散度实现。 在通用领域数据上 AUC 高达 0.88,分布匹配的医疗评估中达到 0.64 AUC,优于基线模型。

来源:arXiv · ML · arxiv.org