arXiv · ML· Pavle Tepav\v{c}evi\'{c}, Du\v{s}an Jakoveti\'{c}, Milo\v{s} Savi\'{c}·· 5 小时前AI 评分24
基于服务端信息的单次分布式学习加权平均方法
One-shot Distributed Learning via Weighted Averaging with Server-side Information
AI 导读
提出结合服务端数据的单次分布式学习加权平均策略,解决工作者数量激增导致的本地估计偏置问题。 在局部偏置为 O(n^(-alpha)) 时,样本量加权平均仅在 m=O(n^(2alpha-1)) 时达到池化数据 MSE 阶数;超出此规模需满足特定 p 条件,否则仅服务端估计可达目标。 CIFAR-10 实验对比了线性与非线性分类器下的聚合策略,验证了该方法的理论边界。
来源:arXiv · ML · arxiv.org