跳到正文
AWS Machine Learning Blog· Apoorva Chandra·· 21 小时前AI 评分51

Salesforce 如何使用 Amazon SageMaker AI 跨区推理路由实现全球模型服务

How Salesforce is advancing global-scale model serving with cross-Region inference routing in Amazon SageMaker AI

AI 导读

Salesforce 利用 Amazon SageMaker AI 的跨区推理路由解决了全球 30+ 区域的模型容量碎片化问题,实现了在保障数据驻留的同时灵活扩展算力。该功能将容量感知与故障转移逻辑从应用层解耦,支持在 30 秒内完成区域间的流量切换,显著降低了维护成本。

来源:AWS Machine Learning Blog · aws.amazon.com