arXiv · ML· Swann Bessa, Pierre-Emmanuel Mazar\'e, Gergely Szilvasy, Hugo Touvron, David Picard, Matthijs Douze, Herv\'e J\'egou·· 11 天前AI 评分32
e-means:在十分之一轮次内超越 k-means
e-means: outperforming k-means (in one-tenth the epochs)
AI 导读
论文提出 e-means 算法,采用指数移动平均优化 k-means 小批量更新。该算法在 1.4 至 2.6 个 epoch 内达到 Lloyd k-means 25 个 epoch 的损失水平,实现 10-45 倍 GPU 加速。 示例显示 e-means 仅需 2.5 个 epoch 即可将 100 亿个 DINO embedding 划分为 1600 万个簇。
来源:arXiv · ML · arxiv.org