arXiv · AI· Wei Cai, Jian Zhao, Yuchen Yuan, Xuelong Li·· 4 小时前AI 评分36
CoRAL:一种用于高效多模态推理的混合扩散-自回归框架
Beyond the Sequentiality Bottleneck: A Hybrid Diffusion-Autoregressive Framework for Efficient Multimodal Reasoning
AI 导读
针对自回归模型推理瓶颈,提出混合框架CoRAL。该框架采用非对称规划-执行架构,由扩散模型并行生成K条轨迹,自回归模型筛选并合成答案。 引入奖励引导去噪(RDC)训练规划器。视觉语言基准测试显示,CoRAL性能显著优于先前扩散方法,且在效率和质量上媲美强自回归模型。
来源:arXiv · AI · arxiv.org