跳到正文
arXiv · AI· Xinsong Feng, Chenan Wang, Leshu Tang, Johnny Liu, Dong Li, Da Li, Haipeng Chen·· 2 小时前AI 评分20

DELA: 扩散语言模型可控编辑学习框架

DELA: Learning Controllable Edits for Diffusion Language Models

AI 导读

扩散语言模型(DLMs)引入 DELA 插件框架,实现冻结 DLM 上的可控草稿精炼。 DELA 使用插入、删除、重掩码和停止四个显式编辑动作,配合两阶段解码(KV-cache 复用草稿阶段 + 全局精炼阶段)。 在数学推理和代码生成任务中,DELA 相比直接扩散解码最多提升 5.5 个百分点,保持主干模型冻结。

来源:arXiv · AI · arxiv.org