跳到正文
arXiv · ML· Stefan Siegert·· 11 天前AI 评分23

AI 气象模型 fp16 半精度推理:速度提升 1.3-3.5 倍,精度损失可忽略

Half-precision inference of AI weather prediction models: negligible loss of skill at a fraction of the cost

AI 导读

在单张 16GB GPU 上,Aurora 等 5 个公开 AI 气象模型将网络权重转为 fp16 半精度推理,全球 RMSE 变化不超过 1.4%。 相比 fp32,fp16 推理速度提升 1.3-3.5 倍,能耗降低 1.4-3.7 倍,且数值无溢出。 物理状态需保持 fp32,bf16 精度低于 fp16,8-bit 量化则损失过大。

来源:arXiv · ML · arxiv.org