跳到正文
arXiv · ML· Stanislas Strasman (SU, LPSM), Sobihan Surendran (SU, LPSM), Sylvain Le Corff (SU, LPSM)·· 2026-10-08AI 评分36

SGM 中随机梯度下降的非渐近收敛性分析

Non-asymptotic Convergence of Stochastic Gradient Descent in Score-based Generative Models

AI 导读

研究随机梯度下降在 Score-based Generative Models 中的非渐近收敛性。 针对一般得分参数化,推导出加权去噪得分匹配目标的非凸分析,明确优化界限对损失加权和时间采样分布的依赖。 对于过参数化两层 ReLU 网络,开发了定制扩散训练的神经切空间核分析,量化重加权因子在得分近似误差界中的作用,提供加权选择的理论特征。

来源:arXiv · ML · arxiv.org