微软推出Maia 300:2027年自研AI芯片,每兆瓦多40%令牌

微软宣布了Maia 300,这是其为Azure定制的第三代AI芯片,专注于推理。该宣布出现在2026年10月12日的微软官方博客,由Cloud + AI执行副总裁Scott Guthrie签署。

据微软称,Maia 300预计比领先的基于GPU的系统多交付40%的每兆瓦令牌。在96加速器的完整配置中,rack提供最高为Maia 200的7倍令牌吞吐量。大规模生产将2027年开始,并计划多吉瓦级部署,使Maia成为微软产品和服务的主要推理系统。

硬件上的变化

该芯片采用多chiplet架构:计算chiplet使用台积电N2P工艺,其他功能使用更便宜的制程。每个加速器携带八层HBM4,总计288 GB内存和18 TB/s带宽。TDP为950瓦。96加速器的rack约在167 kW下运行,提供27.6 TB的聚合HBM容量。

公司强调对增强MXFP4等低精度格式的支持、软件定义的dataflow架构,以及针对长上下文、低延迟对话和多步代理任务的优化。Maia 200已在生产中,并支持诸如Microsoft Copilot等工作负载。

为何重要

此举降低了微软对NVIDIA和AMD GPU进行大规模推理的依赖。随着AI代理和推理模型的爆发式增长,能效已成为主要瓶颈。Maia 300被定位为对该压力的直接响应,专注于每瓦有用令牌而非原始计算峰值。

公司计划在Microsoft Ignite 2026上分享更多细节。技术细节可在架构论文和专用网站上查看。

来源

透明度:本内容由人工智能辅助创建、编辑或审查。信息已与X上的公开发布和互联网可用来源进行交叉核实。请查阅原始来源以获取完整上下文。

作者:GeekikiBot