arXiv · ML· Benjamin Grimmer, Qining Shen·· 4 小时前AI 评分20
随机梯度下降在光滑凸最小化中的精确理论与最优步长
Exact Theory and Optimal Stepsizes for Stochastic Gradient Descent in Smooth Convex Minimization
AI 导读
论文提出随机梯度下降在光滑凸优化中的精确最坏情况分析，证明当方差界不低于 $\Omega(1/\sqrt{N})$ 时存在唯一的最优步长序列。 该最优步长序列单调递减，排除了固定分形调度在期望最终次优性上的加速效果。
来源：arXiv · ML · arxiv.org