arXiv · ML· Kevin Kurian Thomas Vaidyan, Ahmet Alacaoglu, Michael P. Friedlander·· 23 小时前AI 评分23
无界问题随机梯度方法最后迭代收敛性的分析
Last-Iterate Convergence of Stochastic Gradient Methods for Unbounded Problems
AI 导读
本文研究近端和投影随机梯度方法在无有界域或有界方差假设下的最后迭代收敛性。在放松有界方差的两个相关假设下，证明了最后迭代达到近乎最优的 $\widetilde{\mathcal{O}}(1/\sqrt{T})$ anytime 速率。
来源：arXiv · ML · arxiv.org