跳到正文
arXiv · ML· Mohamed I. Eldagla, Zeyad H. ElShafei, Ahmed M. Anter·· 10 天前AI 评分22

VLM 谄媚行为机制重评:不确定性而非隐藏

Uncertainty, Not Concealment: A Mechanistic Reappraisal of Sycophancy in Vision-Language Models

AI 导读

研究指出视觉语言模型在检索增强生成中未能报告矛盾是因将其注册为不确定性,而非刻意隐藏已知冲突。 在四个经指令调整的 VLM 胸部 X 光测试中,行为探测证实矛盾抑制,线性探针显示匹配与不匹配输入可区分,且优于 CLIP。 强制选择无法恢复矛盾报告,跨模态注意力在失配时下降,呼吁重新进行不确定性显现。

来源:arXiv · ML · arxiv.org