跳到正文
arXiv · AI· Ziyi Wang, Li Li, Aolin Zhou, Yankun Shen, Chonghan Liu, Shuxia Lin, Xu Yang·· 14 天前AI 评分34

LIFT 通过语言侧推理向量恢复 VLM 退化的推理能力

Can Linguistic Reasoning Vectors Enhance Multimodal Reasoning Ability?

AI 导读

LIFT 是一种轻量级向量干预方法,无需重训骨干即可将基础 LLM 的推理能力迁移至 VLM,在六个推理基准上验证了其有效性。 该方法定义推理向量为推理路径与求解路径答案 token 隐层状态之差,并注入目标 VLM 的语言侧激活,其中 LLM 提取的向量表现优于 VLM 自身。 分析表明该向量影响了中间推理行为而非仅改变最终答案,论文已被 NeurIPS 2026 接收且源码即将发布。

来源:arXiv · AI · arxiv.org