跳到正文
Hugging Face Blog·· 2023-02-06AI 评分37

Hugging Face Optimum Intel 在 Sapphire Rapids 上加速 PyTorch Transformers 推理

Accelerating PyTorch Transformers with Intel Sapphire Rapids - part 2

AI 导读

本文通过基准测试验证了 Hugging Face Optimum Intel 在 Intel Sapphire Rapids CPU 上加速 PyTorch 模型推理的效果。测试涵盖 distilbert-base-uncased、bert-base-uncased 和 roberta-base 等 NLP 模型,结果显示使用 Optimum Intel 库能显著提升短长序列的分类任务预测性能。

来源:Hugging Face Blog · huggingface.co