跳到正文
arXiv · ML· Aaron Zorel, Guy Van den Broeck, Aditya Grover, Daniel Israel·· 5 小时前AI 评分21

Speculative Diffusion 中扩散努力度与解码宽容度的双重权衡

Speculative Diffusion is a Tale of Two Tradeoffs

AI 导读

Speculative Diffusion 利用扩散 LLM 作为草稿模型加速自回归推理,通过联合调节扩散努力度(diffusion effort)和验收宽容度(acceptance leniency)两个参数,探索并扩展了完整的性能-质量帕累托前沿(Pareto frontier)。

来源:arXiv · ML · arxiv.org