跳到正文
arXiv · AI· Shuhong Zheng, Michael Oechsle, Erik Sandstr\"om, Marie-Julie Rakotosaona, Federico Tombari, Igor Gilitschenski·· 10 天前AI 评分21

Good Token Hunting: 视觉几何 Transformer 的 Token 选择指南

Good Token Hunting: A Hitchhiker's Guide to Token Selection for Visual Geometry Transformers

AI 导读

Good Token Hunting 提出通过限制全局注意力中键值(key/value)交互的 Token 数量,为视觉几何 Transformer 加速超过 85%。 该方案采用两级筛选框架,在帧间使用基于多样性的策略保留关键帧,在帧内通过熵引导的层感知稀疏化进一步剔除冗余。 实验表明该方法在 500 张图像场景下保持甚至提升了基线性能,为未来视觉几何应用提供了高效的 Token 选择策略。

来源:arXiv · AI · arxiv.org