Hacker News AI· gmays·· 29 天前AI 评分70
Google 开源端侧 GPU 推理引擎 ML Drift,统一边缘设备上的 AI 与 LLM 加速
ML Drift: Next-Gen GPU AI/ML Inference at the Edge
AI 导读
Google AI Edge Team 在 Apache 2.0 许可下开源 ML Drift,一个面向端侧 GPU 的高性能跨平台 AI/ML 推理引擎,作为 LiteRT 的核心 GPU 加速组件。
来源:Hacker News AI · developers.googleblog.com