跳到正文
arXiv · ML· Rabimba Karanjai, Linsey Pang, Hemanth Hegadehalli Madhavarao, Richard Williamson, Uma Kona, Prakhar Mehrotra·· 16 小时前AI 评分20

TCDA 自适应推理调度用于扩散语言模型

One Schedule Does Not Fit All: Adaptive Inference Schedules for Diffusion Language Models

AI 导读

研究提出 TCDA 部署规则,通过误差保证认证最廉价调度。 TCDA 利用单侧 Bootstrap 边界,在保持质量前提下减少 denoiser 评估次数。 在 XSum 上评估减少 3.4 倍,WMT14 上减少 8.0 倍。

来源:arXiv · ML · arxiv.org