跳到正文
IT之家·· 7 天前AI 评分73

面壁智能发布 MiniCPM-V 4.7:3GB 内存实现 13+ token/s 解码速度

面壁智能发布新一代端侧多模态大模型 MiniCPM-V 4.7,仅 3GB 内存可实现 13+ token/s 解码速度

AI 导读

面壁智能发布新一代端侧多模态模型 MiniCPM-V 4.7,提供 35B-A3B 和 1B 两种规格。其中 35B-A3B 基于 LES 推理加速技术,是首个支持端侧无损流畅运行的开源 MoE 模型,在 iPhone 17 Pro Max 上以 3GB 内存实现 13+ token/s 的解码速度。

来源:IT之家 · ithome.com