arXiv · AI· Rinyoichi Takezoe, Yaqian Li, Weiren Wang, Zihao Bo, Huihong Shi, Anzhou Hou, Mo Guang, Jiale Yan, Kaiwen Long·· 5 小时前AI 评分32
LearnPrunerV2：面向视觉-语言模型的可学习渐进式 Token 剪枝
LearnPrunerV2: Learnable Progressive Token Pruning for Vision-Language Models
AI 导读
该论文提出 LearnPrunerV2，通过引入可学习模块与影子 token，解决现有 Token 剪枝中判据不可靠及调度僵化的问题，在 LLaVA-v1.5 上剪枝 77.8% 视觉 token 仍保留 99.8% 性能。模型通过 Budget-Deterministic Pruning 建立硬件友好的固定每层预算调度，并在多个基准测试中持续超越先前最先进方法。
来源：arXiv · AI · arxiv.org