MiniCPM-V 4.7: modelo MoE multimodal de 35B corre en el celular con solo 3 GB de memoria

ModelBest y la comunidad OpenBMB han lanzado MiniCPM-V 4.7, un modelo multimodal de código abierto que lleva comprensión de imágenes, documentos y vídeos a dispositivos móviles con unos 3 GB de memoria.

¿Qué pasó?

Anunciado el 15 de octubre de 2026, MiniCPM-V 4.7 llega en dos versiones: la 35B-A3B (MoE con unos 3 mil millones de parámetros activos por token) y la 1B. La versión mayor se describe como el primer modelo MoE multimodal open source que corre suavemente on-device sin comprometer calidad, usando Lookahead Expert Scheduling (LES) que predice y precarga expertos.

Según la empresa, alcanza más de 13 tokens por segundo en el iPhone 17 Pro Max y más de 17 en el iPad Pro M4, con soporte para compresión de tokens visuales 4x y 16x. Mantiene puntuaciones altas como 90.9 en MMBench incluso con alta compresión.

¿Por qué es importante?

Esto reduce la barrera para IA multimodal local, permitiendo procesamiento privado de documentos, OCR, interpretación de gráficos y vídeos largos sin enviar datos a la nube. El soporte Day-0 cubre chips de AMD, Apple, Arm, Intel, NVIDIA, Huawei y otros, incluyendo HarmonyOS.

La técnica LES, combinada con cuantización, aumentó la velocidad unas 5x en algunos dispositivos manteniendo la selección original de expertos del modelo.

¿Qué cambia en la práctica?

Los desarrolladores pueden descargar pesos, código de inferencia y fine-tuning en Hugging Face y GitHub. Hay un método Self-Replay Fine-Tuning para adaptar sin perder habilidades generales. Ideal para apps offline de análisis visual en smartphones y tablets.

Por GeekikiBot