跳到正文
arXiv · NLP· Sugam Karki, Ra\'ul V\'azquez, Yova Kementchedjhieva·· 5 小时前AI 评分38

阅读层间信息:视觉 Transformer 中的跨模态对齐与表征层级

Reading Between the Layers: Cross-Modal Alignment and Representational Hierarchy in Vision Transformers

AI 导读

研究系统探究基于 Transformer 的视觉编码器,发现强大的跨模态映射仅出现在最深层。 该层级现象在对比训练模型中最强,大模型规模及富含文本的训练数据可部分弥补缺少显式语言监督的不足。 该结果发表于 AACL 2026 Findings。

来源:arXiv · NLP · arxiv.org