Grace Blackwell necesita un nuevo scheduler: un 27% más de GPUs utilizables en los mismos racks
Grace Blackwell needs a new scheduler: 27% more usable GPUs from the same racks
En NVL72, la unidad atómica de cómputo es el rack de 72 GPUs, lo que multiplica por 18 el impacto de cualquier fallo. Con una tasa de indisponibilidad del 2% medida en producción, NVIDIA calcula que los slices de 16 nodos con dos nodos de repuesto por rack ofrecen un 27% más de capacidad utilizable que los de 18 nodos. SkyPilot lo lleva a la práctica con colocación consciente de la topología, recuperación in situ y desfragmentación automática.
Con slices de 9 nodos, cada fallo cuesta medio rack, mientras que con slices de 16 nodos los dos primeros fallos de un rack se absorben por completo.