面壁智能开源 MiniCPM-V 4.7 多模态模型系列
面壁智能发布开源多模态模型系列 MiniCPM-V 4.7,包含 35B-A3B 和 1B 两个型号,主打端侧高效部署。
🚀 推出 MiniCPM-V 4.7,我们全新的开源多模态大语言模型(MLLM)系列!
推动性能–效率帕累托前沿不断前进。
它以极致效率将强大的多模态能力带到 iOS 和 Android 设备上。
两个新模型:
🔹 MiniCPM-V 4.7 35B-A3B —— 通过新引入的 LES(前瞻专家调度,Lookahead Expert Scheduling)技术,将 SOTA 性能带到本地设备,这是端侧多模态 AI 的一个新里程碑。
🔹 MiniCPM-V 4.7 1B —— 轻量、高效的多模态 AI,更易于部署。
⚡ 有什么新特性?
SOTA 性能:在涵盖多模态理解、STEM 推理、OCR 和长视频理解的 34 项基准测试中均取得有竞争力的结果。
快速的端侧推理:LES 通过预测并预加载专家权重来减少推理停顿,在 iPad Pro M4(16GB)上实现 5 倍加速,且输出逐字节完全一致。这使得 MiniCPM-V 4.7 35B-A3B 在 iPad Pro M4(16GB)上达到 17+ tokens/s,在 iPhone 17 Pro Max 上达到 13+ tokens/s,而内存占用仅 3GB 🤯
高效的视觉处理:支持 4 倍和 16 倍混合视觉 token 压缩。即使在 16 倍压缩下,35B-A3B 在 OCRBench 上仍取得 90.4 分,领先 Qwen3.6 35B-A3B 5.2 分。
更易定制:我们引入了 Self-Replay Fine-Tuning(自回放微调),这是一种以低成本定制新目标能力同时保持通用性能的简单方法。
广泛的硬件支持:首日即适配 Apple、Intel、AMD、Arm 和 Rockchip,并通过 FlagOS 支持更多平台!
下载、部署,去构建我们尚未想象过的东西吧。👀👇
🔗 GitHub: github.com/OpenBMB/MiniCPM-V
🤗 Hugging Face: huggingface.co/collections/o…
来源:OpenBMB · x.com