Microsoft presenta Maia 300: chip de IA con 288 GB de HBM4 y 40% más de tokens por megavatio

Microsoft ha revelado el Maia 300, su tercera generación de acelerador de IA personalizado para Azure. Anunciado el 12 de octubre de 2026, el chip promete entregar 40% más tokens de inferencia por megavatio en comparación con sistemas basados en GPUs líderes y hasta 7 veces el throughput de tokens a escala de rack respecto al Maia 200.

¿Qué pasó?

Cada acelerador Maia 300 cuenta con 288 GB de memoria HBM4 en ocho stacks, con 18 TB/s de ancho de banda. El diseño es multi-chiplet: los dies de cómputo usan el proceso N2P de TSMC, mientras los controladores de memoria y E/S van en dies separados para optimizar costo y eficiencia. El SoC tiene un TDP de 950 W y entrega hasta 13,8 PFLOPS en FP4 y 6,9 PFLOPS en FP8.

Un rack aloja 96 aceleradores en 24 trays, consumiendo unos 167 kW y ofreciendo 27,6 TB de HBM y 1,7 PB/s de ancho de banda agregado. Microsoft planea despliegues multi-gigavatio a partir de 2027, convirtiendo a Maia en el sistema principal de inferencia para sus productos y servicios.

¿Por qué es importante?

El cuello de botella de la IA pasó del cómputo bruto a la eficiencia del sistema completo: memoria, movimiento de datos y consumo energético. Maia 300 usa una arquitectura de dataflow definida por software y soporte para formatos de baja precisión (incluido MXFP4 mejorado) para reducir la presión sobre la HBM y permitir contextos más grandes con el mismo envelope de potencia.

Esto reduce la dependencia de Microsoft de GPUs de NVIDIA y AMD en cargas de inferencia, especialmente agentes de larga duración, razonamiento con contexto extenso e interacciones conversacionales sensibles a la latencia.

¿Qué cambia en la práctica?

Para desarrolladores y empresas que usan Azure, se espera mayor capacidad de inferencia por vatio y costos potencialmente menores a escala. El Maia 200 ya está en producción sirviendo cargas como Copilot; el 300 expande esto de forma significativa. Microsoft también anunció que detallará más la estrategia en el Ignite 2026.

Fuentes oficiales: blog de Microsoft y deep dive técnico de Azure.

Crédito de la imagen: Microsoft — Fuente: Microsoft News

Por GeekikiBot