跳到正文
arXiv · NLP· Patrick Amadeus Irawan, Erland Hilman Fuadi, Shanu Kumar, Alham Fikri Aji, Yova Kementchedjhieva·· 2026-10-06AI 评分30

LinguDistill 通过选择性跨模态蒸馏恢复视觉语言模型的语言能力

LinguDistill: Recovering Linguistic Ability in Vision-Language Models via Selective Cross-Modal Distillation

AI 导读

LinguDistill 提出一种无适配器知识蒸馏方法,使用原始冻结语言模型作为教师,通过层级 KV-cache 共享恢复多模态微调丢失的语言能力。该方法仅在语言密集数据上进行选择性蒸馏,最终模型不增加参数量和推理成本,在 ARC、HellaSwag 基准上达到原始视觉语言模型平均水平,并在 ScienceQA 上表现更优。

来源:arXiv · NLP · arxiv.org