跳到正文
Hugging Face Blog·· 2022-08-11AI 评分40

使用 TF Serving 在 Kubernetes 上部署 ViT 模型

Deploying 🤗 ViT on Kubernetes with TF Serving

AI 导读

文章介绍如何利用 Docker 和 Kubernetes 扩展本地部署的 Vision Transformer (ViT) 模型。通过基于 TensorFlow Serving 基础镜像容器化应用逻辑,并结合 Google Kubernetes Engine (GKE) 管理集群,实现支持多用户的规模化部署。该流程支持 gRPC 和 HTTP/REST 端点,便于处理原始图像输入并返回预测结果。

来源:Hugging Face Blog · huggingface.co