跳到正文
Hugging Face Blog·· 2023-01-02AI 评分40

利用 Intel Sapphire Rapids 加速 PyTorch 训练 Hugging Face Transformers

Accelerating PyTorch Transformers with Intel Sapphire Rapids - part 1

AI 导读

Hugging Face 展示如何利用 Intel Sapphire Rapids CPU 集群通过 IPEX 和 CCL 库加速 PyTorch 训练任务。该方案利用 AMX 指令集加速矩阵乘法,支持 BF16 和 INT8 数据格式,且无需修改现有 Hugging Face 代码即可运行。

来源:Hugging Face Blog · huggingface.co