跳到正文
Hacker News AI· gmays·· 29 天前AI 评分70

Google 开源端侧 GPU 推理引擎 ML Drift,统一边缘设备上的 AI 与 LLM 加速

ML Drift: Next-Gen GPU AI/ML Inference at the Edge

AI 导读

Google AI Edge Team 在 Apache 2.0 许可下开源 ML Drift,一个面向端侧 GPU 的高性能跨平台 AI/ML 推理引擎,作为 LiteRT 的核心 GPU 加速组件。

来源:Hacker News AI · developers.googleblog.com