arXiv · AI· Zihao Qi, Zhibo Zhang, Miaoxin Zhang, Jincheng Cai, Zengqiang Yan·· 13 小时前AI 评分24
BtsPruner：面向大型视觉语言模型的角色感知视觉Token剪枝框架
BtsPruner: Role-Aware Visual Token Pruning for Large Vision-Language Models
AI 导读
BtsPruner 提出免训练的视觉 token 剪枝框架，在 LLaVA-1.5-7B 中仅保留 5.6% 的 token 即维持 91.6% 性能。 该方法通过识别角色转换点并递归检索局部细节，在 LLaVA-NeXT-7B 高分辨率场景下实现 5.95 倍 CUDA 延迟加速。 该框架在 LLaVA、Qwen-VL 等 5 类模型实验中展现了激进的 token 压缩能力与高性能保持。
来源：arXiv · AI · arxiv.org