跳到正文
arXiv · AI· Ruinan Jin, Difei Cheng, Ling Chen, Jun Luo, Hao Zhou, Youzhi Zhang·· 2026-10-06AI 评分22

Adam 在广义光滑性下的收敛性:仅需二阶矩随机梯度信息

Adam under Generalized Smoothness with Second-Moment-Type Stochastic Gradients

AI 导读

该论文证明 Adam 在广义光滑目标下仅依赖随机梯度的二阶矩信息即可收敛,无需几乎必然有界或次高斯等强尾部假设,正面回答了 Li et al. (2023) 提出的开放问题。

来源:arXiv · AI · arxiv.org