微软正式发布Maia 300 AI加速器，并计划到2027年部署超过100万枚芯片，以降低对英伟达的依赖。据报道，这款第三代芯片将支持微软内部AI服务，相关基础设施预计消耗数吉瓦电力。
微软表示，Maia 300每兆瓦提供的有效算力比领先GPU系统高出约40%，但未透露具体对比对象。该硬件专为推理（inference）需求设计，即处理训练好模型的响应请求或任务执行，旨在控制日益昂贵的数字助手运行成本。
技术规格与性能
Maia 300采用芯粒（chiplet）设计，将多个专用小芯片封装在一起。其计算组件采用台积电2纳米工艺，其他功能模块则使用成本较低的3纳米工艺。每个加速器配备八个HBM4内存堆栈，提供288GB容量和18TB/s带宽，并通过软件管理跨芯粒数据放置以降低能耗。
在机柜层面，每个Maia 300机柜容纳96个加速器，功耗约167千瓦；相比之下，英伟达GB300机柜包含72个GPU，功耗约142千瓦。微软指出，这些数字反映不同配置，并未展示同等负载下的性能优劣。不过，微软称完整Maia 300机柜的令牌吞吐量高达Maia 200的七倍，每瓦性能较上一代提升超过2.5倍。
微软Azure硬件系统与基础设施总裁Rani Borkar表示，Maia 300通过优化整个系统，为每一瓦特电力、每一美元成本和每一字节内存提供更高的智能。
部署路线图
随着部署规模扩大，微软计划将Maia作为其产品与服务的主要推理系统。目前，Maia 200已服务于Microsoft Copilot等生产工作负载，GitHub Copilot和Microsoft Foundry预计将在年底前跟进。
根据技术简报，Maia 300基于以太网的网络可将多达128个机柜连接成包含12,288个加速器的集群。此外，其液冷系统可移除机柜80%以上的热负荷。