arXiv · ML· Samuel Tetteh, Cody Fleming·· 2026-10-08AI 评分23
CLIP 提示词间隔安全分数控制评估:仅追踪场景相似性
It Is Not Seeing the Hazard: A Frozen Vision-Language Safety Score Measures Its Caption Bank
AI 导读
针对冻结 VLM 安全信号的幻觉问题,研究对 CLIP 提示词间隔安全分数进行受控评估,指出其未能真正感知危险。 该分数在接触前约 20 步内下降,但机制测试表明主要追踪提示词共享的场景相似性。 常置信控制保留低灾难率点估计,说明策略增益无法确立危险感知能力。
来源:arXiv · ML · arxiv.org