arXiv · ML· Amin Najafgholizadeh·· 17 天前AI 评分31
混合似然微调如何让 LLaDA-8B 以更少步数生成更优文本
Train the Sampler You Run: Few-Step Masked Diffusion Language Models via Mixture-Likelihood Fine-Tuning
AI 导读
混合似然微调(Mix-FT)通过重要性加权优化掩码扩散语言模型的采样过程,无需改变架构或引入教师模型。在 LLaDA-8B 上,LoRA 微调仅用 0.002% 预训练算力,以 16 步生成质量超越 32 步原始模型及对比方法。双模型家族评审显示,69% 和 71% 的成对比较中 Mix-FT 结果更优;约四分之三的似然提升归因于对各揭示计划的加权。
来源:arXiv · ML · arxiv.org