跳到正文
Hugging Face Blog·· 2023-08-09AI 评分57

Hugging Face 教程:使用 Transformers 优化 Bark 语音模型

Optimizing Bark using 🤗 Transformers

AI 导读

Hugging Face 发布教程,演示如何使用 Better Transformer、fp16 和 CPU offload 优化 Bark 模型。基准测试显示,组合三种优化可将 Bark-large 的内存占用从 5GB 降至 2GB,速度提升 15%;批量处理时吞吐量最高提升 87%。

来源:Hugging Face Blog · huggingface.co