跳到正文
Hugging Face Blog·· 2021-09-14AI 评分34

Hugging Face 开源发布 Optimum:针对大规模 Transformer 的优化工具包

Introducing Optimum: The Optimization Toolkit for Transformers at Scale

AI 导读

Hugging Face 推出开源库 Optimum,旨在简化 Transformer 模型在特定硬件上的训练与推理性能优化。该工具包支持与 Intel 等硬件合作伙伴协作,通过集成 Intel Neural Compressor,简化了模型量化、低精度推理部署等复杂流程,帮助工程师更高效地利用硬件加速特性。

来源:Hugging Face Blog · huggingface.co