跳到正文
Berkeley AI Research·· 2026-07-29AI 评分55

K-Search 实现 CUDA 到 MLX 内核优化迁移,加速 Apple Silicon 推理

From CUDA to MLX: How K-Search Brings Decades of Kernel Expertise to Apple Silicon

AI 导读

研究团队扩展 K-Search 框架,通过结构化 CUDA-MLX 翻译层将 NVIDIA 内核优化知识迁移至 Apple Silicon。在 Attention 内核上实现原生 MLX 内核 0.97 倍加速,Mamba SSM 内核预填充较社区版本提速 20 倍,并开源了 MLX 后端代码。

来源:Berkeley AI Research · bair.berkeley.edu