跳到正文
arXiv · AI· Xiaolin Lin, Kai-Chiang Wu, Bing Li, Grace Li Zhang·· 12 小时前AI 评分31

SkimPrefill 利用小模型预读加速长图文输入的 Prefill 阶段

Let a Small Model Read First: Faster Prefill for Long Interleaved Image-Text Inputs

AI 导读

研究提出 SkimPrefill 方法,利用 Qwen3.5-0.8B 等小模型在低分辨率下快速定位关键图文单元,加速视觉语言模型(VLM)处理 100K token 长输入的 Prefill 阶段。

来源:arXiv · AI · arxiv.org