arXiv · AI· Momin Abbas, Sadia Asif, Asad Ul Haq, Kaoutar El Maghraoui·· 8 小时前AI 评分21
Turbo-GMM:FlashAttention 启发的高斯混合模型 GPU 加速内核
Turbo-GMM: FlashAttention-Inspired GPU-Accelerated Gaussian Mixture Model
AI 导读
Turbo-GMM 提出单扫描融合 EM 内核,避免二次计算责任矩阵,实现中位数 2.15 倍加速。 该方案受限于寄存器压力与组件维度,适用于大数据集小组件场景;在 A100 上比 PyTorch 快 9.9 倍。
来源:arXiv · AI · arxiv.org