Hugging Face Blog·· 2023-10-24AI 评分42
Hugging Face 探索 SDXL 简单优化技巧
Exploring simple optimizations for SDXL
AI 导读
Hugging Face 测试了提升 SDXL 推理速度与降低内存占用的优化方案。在 A100 GPU 上,结合 fp16、SDPA 及 torch.compile,推理时间从 72.2 秒缩短至 10.2 秒,内存占用从 28GB 降至 21.7GB。
来源:Hugging Face Blog · huggingface.co