Azure Maia 300：为LLM推理重造架构

Deep dive into Azure Maia 300 architecture

Azure Maia 300 代表了 Azure 在 LLM 推理领域的最新架构哲学，旨在让每一瓦特电力和每一美元投入都转化为更多智能。作为第三代产品，Maia 300 将软件、硅芯片、机架基础设施、网络与数据中心深度协同，打造为应对云规模 Agent 推理需求的统一平台。通过引入软件定义数据流架构（SDLA）和片上非均匀内存访问（NUMA）组织，Maia 300 显著优化了数据移动与局部性。其多芯片let架构将计算核心置于 TSMC N2P 工艺，同时分离内存控制器与I/O功能，实现了每瓦性能提升2.5倍，机架级 token 吞吐量提升高达7倍。从单机架96个加速器到超大规模 Superpod 的无缝扩展，Maia 300 正重新定义 AI 基础设施的效率边界。