跳到正文
量子位· 十三·· 6 天前同新闻AI 评分80

面壁智能与OpenBMB开源MiniCPM-V 4.7:3G内存运行35B多模态MoE模型

iPhone断网跑35B多模态!国产开源新模型,只占3G内存

AI 导读

面壁智能与OpenBMB正式开源多模态模型MiniCPM-V 4.7,提供35B-A3B和1.3B两个版本,其中35B总参数MoE模型仅占3G内存即可在iOS、安卓端侧流畅运行。该模型支持前瞻专家调度与自回放微调技术,在iPad M4上解码速度提升5倍,并兼容SGLang、vLLM及Ollama等主流推理框架。

同一新闻,精选展示《面壁智能开源 MiniCPM-V 4.7:350 亿参数 MoE 端侧多模态新上限》

来源:量子位 · qbitai.com