跳到正文
arXiv · AI· Hyundong Jin, Yo-Sub Han·· 2026-10-06AI 评分28

EPIC:面向扩散语言模型的 CFG 约束高效并行推理框架

EPIC: Efficient and Parallel Inference under CFG Constraints for Diffusion Language Models

AI 导读

EPIC 是一个面向扩散语言模型的 CFG 约束解码框架,相比此前的 CFG 约束解码器,最佳情况下推理时间减少 67.2%,运行时间接近无约束解码水平。 它通过词法记忆化、放宽兼容子集选择以支持并行提交,以及用 Earley 风格解析替代确定性自动机进行验证,从而避免重复词法分析和昂贵校验。

来源:arXiv · AI · arxiv.org