跳到正文
arXiv · AI· Momin Abbas, Sadia Asif, Asad Ul Haq, Kaoutar El Maghraoui·· 8 小时前AI 评分21

Turbo-GMM:FlashAttention 启发的高斯混合模型 GPU 加速内核

Turbo-GMM: FlashAttention-Inspired GPU-Accelerated Gaussian Mixture Model

AI 导读

Turbo-GMM 提出单扫描融合 EM 内核,避免二次计算责任矩阵,实现中位数 2.15 倍加速。 该方案受限于寄存器压力与组件维度,适用于大数据集小组件场景;在 A100 上比 PyTorch 快 9.9 倍。

来源:arXiv · AI · arxiv.org