arXiv · AI· Tina Khezresmaeilzadeh, Seyedarmin Azizi, Mehdi Kamal, Massoud Pedram·· 11 天前AI 评分31
VLM 现实监控探究:概念注入下识别注入思维的能力
Did I See It or Think It? Probing Reality Monitoring in Vision-Language Models with Concept Injection
AI 导读
在六个视觉语言模型(VLMs)测试中,仅 Gemma-3-27B 能可靠识别注入概念,识别率达 35%(单独 steering 为 3%)且几乎无误报。 但报告源脆弱,强注入或视觉路径注入被误报为“看到”,且 87% 真实照片描述中注入物体被错误归因。
来源:arXiv · AI · arxiv.org