跳到正文
Hugging Face Blog·· 2023-12-05精选AI 评分65

AMD 与 Hugging Face 合作实现 AMD GPU 开箱即用的大语言模型加速

AMD + 🤗: Large Language Models Out-of-the-Box Acceleration with AMD GPU

AI 导读

Hugging Face 宣布现已支持在 AMD Instinct GPU 上开箱即用地运行所有 Transformers 模型和任务,无需修改任何代码即可替换 NVIDIA GPU 的部署流程。

推荐理由

Hugging Face 和 AMD 给出了在 AMD Instinct GPU 上直接运行 Transformers 模型和部署 TGI 的入口,读者可以据此把现有 NVIDIA 工作流迁移过去。

来源:Hugging Face Blog · huggingface.co