跳到正文
Hugging Face Blog·· 21 小时前精选AI 评分73

TorchNeuron 让 HF 模型在 AWS Trainium 上运行更易

TorchNeuron: running HF models on AWS Trainium is easier than ever

AI 导读

TorchNeuron 为 PyTorch 在 AWS Trainium 上提供新的原生后端,让 Transformers、Diffusers 和 Kernels 原生支持该后端,使在 Trainium 上运行与共享 HF 模型比以往更容易。

推荐理由

原文介绍了原生后端与兼容性提升,读者可据此评估 AWS Trainium 上运行 HF 模型的开发成本。

来源:Hugging Face Blog · huggingface.co