Hugging Face Blog·· 2024-04-02精选AI 评分65
Hugging Face 上线 Cloudflare Workers AI 无服务器 GPU 推理功能
Bringing serverless GPU inference to Hugging Face users
AI 导读
Hugging Face 推出与 Cloudflare Workers AI 的新集成,开发者可通过按请求付费的方式,在全球边缘 GPU 上运行热门开源模型。该功能支持 Meta Llama 2 7B、Mistral 7B 等模型,用户可在模型页面直接选择部署并通过 REST API 或 Cloudflare AI SDK 发起请求。
推荐理由
将热门开源模型集成至 Cloudflare 无服务器推理平台,开发者可按请求付费运行。
来源:Hugging Face Blog · huggingface.co