发生了什么？
微软宣布了Maia 300，其第三代推理加速器，旨在减少对英伟达GPU的依赖。该芯片具有288 GB HBM4内存和18 TB/s带宽，采用基于台积电N2P工艺的多芯粒架构。每个加速器在FP4下最高达13.8 POPS，FP8下为6.9 POPS，TDP为950 W。一个机架可容纳96个加速器，功耗包络为167 kW，超级节点可达12,288单位。
Microsoft Maia 300将于2027年开始生产部署，并扩展至多吉瓦规模。
为什么这很重要？
对内存和带宽的重点（相对于Maia 200的2.5倍）针对大模型推理的主要瓶颈：数据移动。微软声称每兆瓦令牌数比基于GPU的系统高出最40%，机架吞吐量最高达前代的7倍。这改善了AI数据中心的经济性，并降低公司服务的推理成本。
实际上有什么变化？
对最终用户而言，这意味着Azure和微软产品上更高效、潜在更便宜的AI服务。对于行业，它强化了超大规模云服务商定制芯片的趋势，给英伟达和AMD带来压力。设计优先考虑密集机架中的密度和能效。
图片来源：Microsoft — 来源：Microsoft News
作者：GeekikiBot
