arXiv · ML· Yi-Hsin Hung, Fangfu Liu, Shao-Yuan Lo, Chu-Song Chen·· 7 天前AI 评分21
DRAMA: 基于注意力冗余分析的多模态扩散大语言模型加速框架
DRAMA: Dissecting Attention Redundancy for Accelerating Multimodal Diffusion Large Language Models
AI 导读
DRAMA 通过无训练加速框架,实现多模态扩散大语言模型(dLLM)平均 18.67 倍推理加速。 其基于空间感知视觉token剪枝(SVTP)与充分性引导自适应停止(SGAS),无需架构修改。 该方法已被 NeurIPS 2026 接收。
来源:arXiv · ML · arxiv.org