跳到正文
arXiv · AI· Qi Zhang, Bohan Wang, Qianru Sun, Hanwang Zhang·· 7 天前AI 评分31

多模态训练如何塑造纯文本推理中的视觉化思维

Emergent Vision-Shaped Thinking in Text-Only Reasoning through Multimodal Training

AI 导读

跨6个模型族的因果消融实验发现,多模态训练会在纯文本推理中形成“视觉化思维”(EVT),改变隐藏状态几何结构。 在Chameleon-7B模型中,视觉-语言轴消融使BBH导航准确率下降27.6个百分点,而布尔表达式准确率提升5.6个百分点,双重分离度达33.2个百分点。

来源:arXiv · AI · arxiv.org