跳到正文
Hugging Face Blog·· 2022-09-27AI 评分55

Hugging Face 详解 Accelerate 如何借助 PyTorch 运行超大模型

How 🤗 Accelerate runs very large models thanks to PyTorch

AI 导读

Hugging Face 发布教程,解释 Accelerate 如何利用 PyTorch 的 meta device 机制和分片检查点格式,解决超大模型(如 BLOOM、OPT)因内存不足无法加载的问题。

来源:Hugging Face Blog · huggingface.co