arXiv · ML· Zimeng Wang, Ali Dadras, Alp Yurtsever·· 9 小时前AI 评分21
联邦优化方法 AdaFed 实现光滑与非光滑区域的自适应
Adaptive Federated Optimization Across Smooth and Nonsmooth Regimes
AI 导读
AdaFed 是一种联邦优化方法，可在单一参数选择下适应多种优化区域。 它在确定性设置下，对光滑非凸和光滑凸目标函数取得 $O(1/T)$ 收敛率，对 Lipschitz 非光滑凸目标函数取得 $O(1/\sqrt{T})$ 收敛率（含对数因子）。在弱尾随机梯度噪声假设下，这些保证扩展至随机设置。
来源：arXiv · ML · arxiv.org