跳到正文
Hugging Face Blog·· 2025-06-12AI 评分51

Hugging Face 发布 Kernel Hub:一行代码加载预优化内核

Learn the Hugging Face Kernel Hub in 5 Minutes

AI 导读

Hugging Face 推出 Kernel Hub,允许通过 kernels 库一行代码加载预编译的优化计算内核,免去本地编译和依赖管理。文章演示了如何用 Triton 优化 RMSNorm 层,在 L4 GPU 上,大 batch 场景下内核版本比 PyTorch 基线快约 1.86 倍,且该库已被 TGI 和 Transformers 项目集成使用。

来源:Hugging Face Blog · huggingface.co