Hugging Face Blog·· 2023-12-05精选AI 评分65
AMD 与 Hugging Face 合作实现 AMD GPU 开箱即用的大语言模型加速
AMD + 🤗: Large Language Models Out-of-the-Box Acceleration with AMD GPU
AI 导读
Hugging Face 宣布现已支持在 AMD Instinct GPU 上开箱即用地运行所有 Transformers 模型和任务,无需修改任何代码即可替换 NVIDIA GPU 的部署流程。
推荐理由
Hugging Face 和 AMD 给出了在 AMD Instinct GPU 上直接运行 Transformers 模型和部署 TGI 的入口,读者可以据此把现有 NVIDIA 工作流迁移过去。
来源:Hugging Face Blog · huggingface.co