Hugging Face Blog·· 2023-09-22精选AI 评分64
Hugging Face 上线 Inference for PROs：PRO 用户可加速调用 Llama 3、Mixtral 等模型 API
Inference for PROs
AI 导读
Hugging Face 推出面向 PRO 订阅用户的 Inference API 服务，通过基于 text-generation-inference 的专属端点，为精选模型提供更高速率限制和更快的推理体验。
推荐理由
Hugging Face 将 Llama 3 和 Mixtral 等热门模型的 API 接入纳入付费订阅，并兼容 OpenAI 调用规范，便于用户直接替换现有代码。
来源：Hugging Face Blog · huggingface.co