Deepgram 将 Nova-3 模型移植至 AWS Trainium2
热点事件持续更新
Deepgram 将 Nova-3 模型移植至 AWS Trainium2
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Deepgram 与 AWS 团队将 Nova-3 语音转写模型移植到 AWS Trainium2 芯片上，采用 PyTorch 架构并针对新硬件进行调优。该方案通过 TorchNeuron 编译消除 CPU 回退，并替换 NKI 内核及微调相关层，在单实例中运行 8 个模型副本。在离线高吞吐批量处理场景下，该配置相比 Deepgram 原有计算方案，每美元可多处理 11–70% 的音频，实现显著的成本优化。
AI 根据报道生成 · 2 小时前更新
最新进展10月20日 00:23
Deepgram 如何利用 AWS Trainium 实现规模化语音 AI 优化报道时间线
沿着报道，了解事件的不同侧面。
10月20日
- AWS Machine Learning BlogDeepgram 如何利用 AWS Trainium 实现规模化语音 AI 优化
Deepgram 将 Nova-3 语音转写模型移植至 AWS Trainium2，单实例运行 8 个模型副本，批量处理音频成本降低 11–70%。 采用 TorchNeuron 编译消除 CPU 回退，替换 NKI 内核并微调 FFN 与卷积层，在 batch size 96 时实现 2.0 倍至 50 倍速度提升。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。