Hugging Face Blog·· 2022-05-10精选AI 评分62
使用 Optimum 和 Transformers pipelines 加速推理教程
Accelerated Inference with Optimum and Transformers Pipelines
AI 导读
Hugging Face 开源库 Optimum 1.2 新增推理与 transformers pipelines 支持，开发者可直接将 AutoModelForXxx 类替换为 ORTModelForXxx 类并在 ONNX Runtime 上运行。
推荐理由
通过加速问答模型的全流程实操，展示了如何将优化方法迁移至现有的 BERT 级 NLP 任务。
来源：Hugging Face Blog · huggingface.co