arXiv · ML· Jaihoon Kim, Taehoon Yoon, Prin Phunyaphibarn, Seungjun Kim, Morteza Mardani, Minhyuk Sung·· 11 天前AI 评分41
对比分布匹配:离散扩散中摊销序贯蒙特卡洛推理
Contrastive Distribution Matching for Amortized Sequential Monte Carlo in Discrete Diffusion
AI 导读
针对离散扩散模型采样奖励倾斜分布时序贯蒙特卡洛推理计算成本高的问题,提出对比分布匹配(CDM)框架。 CDM 通过正负样本学习参数化扭转函数,利用离散扩散模型的闭式正向核重构梯度估计器。 评估学习到的扭转函数的计算开销比基础模型单次前向传播增加不足 5%,在等耗时下性能优于现有基线。
来源:arXiv · ML · arxiv.org