MiniCPM-V 4.7:35B 多模态 MoE 模型仅需 3 GB 内存即可在手机上运行

ModelBest 与 OpenBMB 社区发布了 MiniCPM-V 4.7,一款开源多模态模型,将图像、文档和视频理解带入约 3 GB 内存的移动设备。

发生了什么?

2026 年 10 月 15 日发布,MiniCPM-V 4.7 有两个版本:35B-A3B(每 token 激活约 30 亿参数的 MoE)和 1B。较大版本被描述为第一个能在设备端流畅运行且不损失质量的开源多模态 MoE 模型,使用 Lookahead Expert Scheduling (LES) 预测并提前加载专家。

据公司称,在 iPhone 17 Pro Max 上达到超过 13 tokens/秒,在 iPad Pro M4 上超过 17 tokens/秒,支持 4x 和 16x 视觉 token 压缩。即使高压缩也保持 MMBench 90.9 等高分。

为什么重要?

这降低了本地多模态 AI 的门槛,允许私密处理文档、OCR、图表解释和长视频,无需上传云端。Day-0 支持 AMD、Apple、Arm、Intel、NVIDIA、华为等芯片,包括 HarmonyOS。

LES 技术结合量化,在部分设备上将速度提升约 5 倍,同时保持模型原始专家选择。

实际上有什么变化?

开发者可在 Hugging Face 和 GitHub 下载权重、推理代码和微调代码。提供 Self-Replay Fine-Tuning 方法,可以适配而不丢失通用能力。适合手机和平板上的离线视觉分析应用。

作者:GeekikiBot