Berkeley AI Research·· 2026-07-29AI 评分55
K-Search 实现 CUDA 到 MLX 内核优化迁移,加速 Apple Silicon 推理
From CUDA to MLX: How K-Search Brings Decades of Kernel Expertise to Apple Silicon
AI 导读
研究团队扩展 K-Search 框架,通过结构化 CUDA-MLX 翻译层将 NVIDIA 内核优化知识迁移至 Apple Silicon。在 Attention 内核上实现原生 MLX 内核 0.97 倍加速,Mamba SSM 内核预填充较社区版本提速 20 倍,并开源了 MLX 后端代码。
来源:Berkeley AI Research · bair.berkeley.edu