跳到正文
IT之家·· 14 天前AI 评分71

淘宝 MNN 团队开源 0.3B 端侧模型,iPhone 18 Pro 离线解码达 350 token/s

淘宝 MNN 团队开源 0.3B 手机模型,苹果 iPhone 18 Pro 离线跑出 350 token/s

AI 导读

淘宝 MNN 团队开源 MNN-Pocket-0.3B 模型,在 iPhone 18 Pro 离线实现平均 350 token/s 解码速度。该模型部署文件体积 173MB,峰值内存低于 300MB,综合评测平均分 50.00,超过 Qwen3-0.6B 等对比模型。

来源:IT之家 · ithome.com