arXiv · AI· Zujing Liu, Junwen Pan, Qi She, Yuan Gao, Guisong Xia·· 4 小时前AI 评分32
多模态思维链视觉推理的忠实性测量与增强:提出 SCCM 方法
On the Faithfulness of Visual Thinking: Measurement and Enhancement
AI 导读
研究发现强化微调后的视觉语言模型在多模态思维链(MCoT)中,视觉信息往往不忠实于正确答案,即使视觉内容被破坏,任务准确率也几乎不变。 论文指出这是由于 RFT 的 RL 奖励设计仅激励视觉文本交替格式,未考量视觉正确性。
来源:arXiv · AI · arxiv.org