Grace Blackwell, 스케줄러만 바꿔 같은 랙에서 GPU 27% 더 뽑아낸다

Grace Blackwell needs a new scheduler: 27% more usable GPUs from the same racks

NVL72는 랙 안 72개 GPU를 NVLink 하나로 묶어 InfiniBand로 넘어갈 때 생기는 최대 43%의 성능 손실을 없앤다. 하지만 랙 전체를 작업에 통째로 배정하면 노드 하나만 고장 나도 랙 전체가 멈춘다. SkyPilot은 3만 개 넘는 고객 GPU를 운영하며 측정한 약 2%의 불가용률을 바탕으로, 랙마다 예비 노드 2개를 남긴 16노드 슬라이스가 18노드 슬라이스보다 사용 가능한 용량을 27% 더 확보한다는 점을 보여준다. 토폴로지 인식 배치와 즉석 복구, 자동 단편화 해소가 이를 뒷받침한다.