SGD光滑凸优化最优步长理论突破

2026年11月，研究者B. Grimmer和Q. Shen在arXiv发布论文，针对随机梯度下降（SGD）在光滑凸最小化问题提出精确的最坏情况分析。该理论证明，当梯度方差界不低于Ω(1/√N)时，存在唯一的最优步长序列。该序列呈单调递减趋势，这一结论从数学上排除了使用固定分形调度对期望最终次优性产生加速效果的可行性，为SGD调参提供了理论依据。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。