arXiv · NLP· Seonghoon Yu, Dongjun Nam, Byung-Kwan Lee, Jeany Son·· 11 天前AI 评分34
Hide to See:基于前缀掩码的 VLM 蒸馏框架
Hide to See: Reasoning-prefix Masking for Visual-anchored Thinking in VLM Distillation
AI 导读
研究提出针对 VLM 蒸馏的 Hide to See 框架,通过掩码技术解决长思维链中的视觉遗忘问题。 该框架包含 token 级显著前缀掩码和自适应性掩码预算调度策略,实验结果显示其在多模态推理基准测试中优于近期开源 VLM 及自蒸馏方法,有效增强了视觉信息利用率。
来源:arXiv · NLP · arxiv.org