AWS Machine Learning Blog· Belair Albahagwi·· 6 天前AI 评分30
AssemblyAI 利用 Amazon EC2 Spot 在 AWS 上优化语音转文本推理成本
Cost-optimizing AssemblyAI speech-to-text inference on AWS with Amazon EC2 Spot
AI 导读
AssemblyAI 采用 Amazon EC2 Spot 与按需实例混合架构,在保持 SLA 的前提下大幅降低大规模 GPU 推理成本。 架构基于 Amazon ECS 多容量提供者策略,分散使用 g4dn、g5、g6 实例族,并通过 Amazon SQS 实现中断任务自动重试。 该方案满足医疗、金融等行业的欧洲数据驻留合规要求,已在 AWS Marketplace 提供 API 服务。
来源:AWS Machine Learning Blog · aws.amazon.com