arXiv · ML· Ruurd J. A. Kuiper, Robert A. Bagheri·· 1 天前AI 评分35
BYOD:仅需 LoRA 的高效自回归转扩散语言模型转换方法
BYOD: Build Your Own DLM - Efficient Autoregressive-to-Diffusion Language Model Conversion
AI 导读
论文提出 BYOD,一种通用的 LoRA 参数高效 AR-to-DLM 转换方法,在 Gemma 2 9B、Llama 3.1 8B、Qwen2.5 7B 和 Ministral 8B 上实现了扩散生成。
来源:arXiv · ML · arxiv.org