Azure Maia 300 multiplica por 7 el rendimiento por rack para inferencia agéntica
Deep dive into Azure Maia 300 architecture
Microsoft presenta Maia 300, su tercera generación de aceleradores para inferencia de LLM, diseñada para cargas agénticas de contexto largo. Con 96 aceleradores por rack, 288 GB de HBM4 y 18 TB/s de ancho de banda, ofrece 7 veces más throughput por rack y 2,5 veces más rendimiento por vatio que Maia 200. La arquitectura SDLA y una red de escala única con hasta 12.288 aceleradores optimizan la localidad y el movimiento de datos.
Maia 300 aporta 2,5 veces el ancho de banda de memoria, un 33% más de capacidad y aproximadamente el doble de ancho de banda HBM por vatio en comparación con Maia 200.