跳到正文
arXiv · ML· Matia Bojovic, Saverio Salzo, Massimiliano Pontil·· 5 小时前AI 评分21

AdaGrad-Diff: 针对复合优化的自适应梯度算法修正版

AdaGrad-Diff: a Corrected Version of the Adaptive Gradient Algorithm for Composite Optimization

AI 导读

AdaGrad-Diff 提出了一种基于梯度差异累积的修正算法,旨在解决 AdaGrad 在复合凸优化中步长衰减过快的问题,从而避免收敛速率退化为 $O(n^{-1/2})$。

来源:arXiv · ML · arxiv.org