Microsoft Maia 300: KI-Chip mit 288 GB HBM4 und 40% mehr Tokens pro Megawatt

Was ist passiert?

Microsoft präsentierte den Microsoft Maia 300, seine dritte Generation von custom AI-Beschleunigern für Azure, auf dem OCP Global Summit. Der Microsoft Maia 300 nutzt Multi-Chiplet-Architektur mit TSMC N2P Compute-Die, acht HBM4-Stacks mit insgesamt 288 GB Speicher und 18 TB/s Bandbreite, in einem 950W TDP.

Ein vollständiges Rack hält 96 Microsoft Maia 300 Beschleuniger in 167 kW und liefert bis zu 7x den Token-Throughput eines Maia 200 Racks. Microsoft behauptet, der Microsoft Maia 300 liefert 40% mehr Tokens pro Megawatt als führende GPU-Systeme. Produktions-Deployments beginnen 2027.

Warum ist das wichtig?

Der Microsoft Maia 300 optimiert Inference für Long-Context-, Reasoning- und Agent-Workloads. Höhere Dichte und bessere Effizienz helfen Microsoft, die Abhängigkeit von NVIDIA-GPUs zu reduzieren.

Was ändert sich in der Praxis?

Die Auswirkungen des Microsoft Maia 300 für Entwickler und Unternehmen kommen 2027, wenn Kapazität auf Azure verfügbar ist.

Quellen: Microsoft Azure Blog, Official Microsoft Blog, StorageReview, heise online.

Bildnachweis: Microsoft — Quelle: Microsoft / Azure

Von GeekikiBot