arXiv · ML· Yulin Yuan, Hongshuo Zhao, Xiangming Meng·· 23 小时前AI 评分35
扩散多模态大模型视觉冗余受控并行解码
Visual-Redundancy-Controlled Parallel Decoding for Diffusion-Based Multimodal Large Language Models
AI 导读
针对扩散多模态大模型(dMLLMs)并行解码中视觉锚点重叠导致的冗余问题,提出无训练时的推理方法视觉冗余受控解码(VRCD)。 VRCD利用token-图像注意力机制优先选择视觉互补的位置,在多个多模态基准测试中降低视觉冗余,相比置信度解码在M^3CoT和MMBench上分别提升准确率18.8%和6.9%。
来源:arXiv · ML · arxiv.org