Azure Maia 300: 7-facher Token-Durchsatz pro Rack bei 2,5-facher Energieeffizienz

Deep dive into Azure Maia 300 architecture

Microsoft hat die dritte Generation seiner Azure Maia KI-Beschleuniger vorgestellt. Maia 300 wurde als komplettes System aus Software, Silizium, Rack-Infrastruktur, Netzwerk und Rechenzentren konzipiert, um cloud-scale agentic Inference zu optimieren. Der neue Chip setzt auf eine Multi-Chiplet-Architektur, NUMA-Speicherorganisation, MXFP4- und Sub-3-Bit-Formate sowie ein zweistufiges Scale-up-Netzwerk mit bis zu 12.288 Beschleunigern pro Superpod. Im Vergleich zu Maia 200 liefert Maia 300 bis zu siebenmal mehr Token-Durchsatz pro Rack und mehr als die 2,5-fache Leistung pro Watt.