arXiv · AI· Ruinan Jin, Difei Cheng, Ling Chen, Jun Luo, Hao Zhou, Youzhi Zhang·· 2026-10-06AI 评分22
Adam 在广义光滑性下的收敛性:仅需二阶矩随机梯度信息
Adam under Generalized Smoothness with Second-Moment-Type Stochastic Gradients
AI 导读
该论文证明 Adam 在广义光滑目标下仅依赖随机梯度的二阶矩信息即可收敛,无需几乎必然有界或次高斯等强尾部假设,正面回答了 Li et al. (2023) 提出的开放问题。
来源:arXiv · AI · arxiv.org