Grace Blackwellは新しいスケジューラを必要とする——同じラックから使えるGPUが27%増える
Grace Blackwell needs a new scheduler: 27% more usable GPUs from the same racks
NVL72はラック内の72基のGPUをNVLinkで結び、ノードをまたぐ通信のボトルネックを解消する。ただしその利点を活かすには、ジョブをラック内に収める配置が不可欠だ。SkyPilotは3万基超のGPUを運用する中で約2%のノード停止率を計測。ラックあたり2ノードを予備として確保し16ノード単位でスライスすると、18ノード単位より使える容量が27%増えるという。
ラックあたり2ノードを予備として残すことで、実際にはクラスタからより多くの使用可能な容量を引き出せる。