Hugging Face Blog·· 2024-02-08精选AI 评分72
Hugging Face 发布 Messages API，支持 TGI 与 Inference Endpoints 兼容 OpenAI 客户端
From OpenAI to Open LLMs with Messages API on Hugging Face
AI 导读
Hugging Face 为 Text Generation Inference 推出 Messages API，使 TGI 1.4.0 起兼容 OpenAI Chat Completion API。
推荐理由
提供 TGI 对齐 OpenAI 的接入细节与示例，读者可据此把现有客户端代码迁移到自托管开源 LLM。
来源：Hugging Face Blog · huggingface.co