跳到正文
arXiv · ML· Enhao Cui, Junzhi Yang, Yaoshun Lin, Yuhan Feng, Zijian Chen·· 9 天前AI 评分25

Qwen2.5-VL、Qwen3-VL 与 InternVL3 视觉语言模型左右方向性溯源分析

Where Do Vision-Language Models Get Left and Right? Position-Code Counterfactuals in Qwen2.5-VL, Qwen3-VL and InternVL3

AI 导读

消融实验表明 ViT 位置编码是 Qwen2.5-VL、Qwen3-VL 和 InternVL3 模型左右方向判断的必要条件。镜像宽度位置后,CV-Bench 上 84.3%-93.2% 的反转图像答案得以复现,主要影响集中在 Qwen2.5-VL-7B 的全局注意力层。

来源:arXiv · ML · arxiv.org