arXiv · AI· Shidong Cao, Jing Ma, Wenhao Chai, Yuchen Tian, Lun Du, Da Zheng·· 4 小时前AI 评分31
DConstrain 通过编译上下文参数化转移实现扩散语言模型约束解码
DConstrain: Compiling Context-Parameterized Transitions for Diffusion Language Model Constrained Decoding
AI 导读
DConstrain 将模式编译为上下文参数化转移程序，解决了扩散语言模型解码中联合推断的兼容性难题。 在 3 个基准测试中，DConstrain 以 100% 模式有效率支持任意属性顺序，将 BFCL 端到端解码延迟降低 6.65-46.26 倍，并把 DiffusionGemma 的 BFCL 准确率从 37.27% 提升至 81.56%。
来源：arXiv · AI · arxiv.org