跳到正文
arXiv · AI· Faezeh Dehghan Tarzjani, Mevan Wijewardena, Alexander Romanus, Sampad Mohanty·· 2026-10-07AI 评分33

视觉语言模型安全判定中的因果追踪

From Local Evidence to Safety Verdicts: Causal Tracing in Vision-Language Models

AI 导读

研究提出 SSU-Bench 数据集,通过对比安全与不安全图文组合来定位视觉语言模型内部的安全判定机制。 利用三组模型进行反事实干预,发现早期解码层对输入变化敏感,最终 token 的线性读出可预测模型判决,但准确的安全判断与可读的模型决策存在本质区别。

来源:arXiv · AI · arxiv.org