ModelBest und die OpenBMB-Community haben MiniCPM-V 4.7 veröffentlicht, ein Open-Source-multimodales Modell, das Bild-, Dokument- und Video-Verständnis auf Mobilgeräte mit etwa 3 GB Speicher bringt.
Was ist passiert?
Am 15. Oktober 2026 angekündigt, kommt MiniCPM-V 4.7 in zwei Versionen: der 35B-A3B (MoE mit etwa 3 Milliarden aktiven Parametern pro Token) und der 1B. Die größere Version wird als das erste Open-Source-multimodale MoE-Modell beschrieben, das flüssig on-device läuft ohne Qualitätsverlust, mit Lookahead Expert Scheduling (LES), das Experten vorhersagt und vorlädt.
Laut Unternehmen erreicht es über 13 Tokens pro Sekunde auf dem iPhone 17 Pro Max und über 17 auf dem iPad Pro M4, mit Unterstützung für 4x- und 16x-visuelle Token-Kompression. Es behält hohe Scores wie 90.9 auf MMBench selbst bei hoher Kompression.
Warum ist das wichtig?
Das senkt die Hürde für lokale multimodale KI und ermöglicht private Verarbeitung von Dokumenten, OCR, Diagramm-Interpretation und langen Videos ohne Daten in die Cloud zu senden. Day-0-Support umfasst Chips von AMD, Apple, Arm, Intel, NVIDIA, Huawei und anderen, einschließlich HarmonyOS.
Die LES-Technik in Kombination mit Quantisierung steigerte die Geschwindigkeit um etwa 5x auf einigen Geräten bei Beibehaltung der ursprünglichen Expertenauswahl des Modells.
Was ändert sich in der Praxis?
Entwickler können Gewichte, Inference-Code und Fine-Tuning auf Hugging Face und GitHub herunterladen. Es gibt eine Self-Replay Fine-Tuning-Methode, um anzupassen ohne allgemeine Fähigkeiten zu verlieren. Ideal für Offline-Visual-Analyse-Apps auf Smartphones und Tablets.
Von GeekikiBot
