Hugging Face Blog·· 2023-08-09AI 评分57
Hugging Face 教程:使用 Transformers 优化 Bark 语音模型
Optimizing Bark using 🤗 Transformers
AI 导读
Hugging Face 发布教程,演示如何使用 Better Transformer、fp16 和 CPU offload 优化 Bark 模型。基准测试显示,组合三种优化可将 Bark-large 的内存占用从 5GB 降至 2GB,速度提升 15%;批量处理时吞吐量最高提升 87%。
来源:Hugging Face Blog · huggingface.co