跳到正文
原文
Hugging Face Blog·· 2023-10-24AI 评分42

Hugging Face 探索 SDXL 简单优化技巧

Exploring simple optimizations for SDXL

AI 导读

Hugging Face 测试了提升 SDXL 推理速度与降低内存占用的优化方案。在 A100 GPU 上,结合 fp16、SDPA 及 torch.compile,推理时间从 72.2 秒缩短至 10.2 秒,内存占用从 28GB 降至 21.7GB。

来源:Hugging Face Blog · huggingface.co