arXiv · ML· Matia Bojovic, Saverio Salzo, Massimiliano Pontil·· 5 小时前AI 评分21
AdaGrad-Diff: 针对复合优化的自适应梯度算法修正版
AdaGrad-Diff: a Corrected Version of the Adaptive Gradient Algorithm for Composite Optimization
AI 导读
AdaGrad-Diff 提出了一种基于梯度差异累积的修正算法,旨在解决 AdaGrad 在复合凸优化中步长衰减过快的问题,从而避免收敛速率退化为 $O(n^{-1/2})$。
来源:arXiv · ML · arxiv.org