跳到正文
arXiv · ML· Pavle Tepav\v{c}evi\'{c}, Du\v{s}an Jakoveti\'{c}, Milo\v{s} Savi\'{c}·· 5 小时前AI 评分24

基于服务端信息的单次分布式学习加权平均方法

One-shot Distributed Learning via Weighted Averaging with Server-side Information

AI 导读

提出结合服务端数据的单次分布式学习加权平均策略,解决工作者数量激增导致的本地估计偏置问题。 在局部偏置为 O(n^(-alpha)) 时,样本量加权平均仅在 m=O(n^(2alpha-1)) 时达到池化数据 MSE 阶数;超出此规模需满足特定 p 条件,否则仅服务端估计可达目标。 CIFAR-10 实验对比了线性与非线性分类器下的聚合策略,验证了该方法的理论边界。

来源:arXiv · ML · arxiv.org