arXiv · ML· Aaron Zorel, Guy Van den Broeck, Aditya Grover, Daniel Israel·· 5 小时前AI 评分21
Speculative Diffusion 中扩散努力度与解码宽容度的双重权衡
Speculative Diffusion is a Tale of Two Tradeoffs
AI 导读
Speculative Diffusion 利用扩散 LLM 作为草稿模型加速自回归推理,通过联合调节扩散努力度(diffusion effort)和验收宽容度(acceptance leniency)两个参数,探索并扩展了完整的性能-质量帕累托前沿(Pareto frontier)。
来源:arXiv · ML · arxiv.org