SkyPilot нашёл способ выжать на 27% больше GPU из тех же стоек Grace Blackwell
Grace Blackwell needs a new scheduler: 27% more usable GPUs from the same racks
NVLink внутри стойки NVL72 в 18 раз быстрее InfiniBand, но планировщики по-прежнему разбрасывают многоузловые задачи по разным стойкам. SkyPilot предлагает нарезать задачи на блоки по 16 узлов и держать по два запасных узла в каждой стойке: при реальном уровне отказов около 2% это даёт 2 037 доступных узлов против 1 602 у полных 18-узловых стоек. Плюс топологически осведомлённое размещение и восстановление на месте.
При таком уровне отказов модель NVIDIA показывает, что 16-узловые блоки дают на 27% больше доступной ёмкости, чем 18-узловые (2 037 против 1 602 узлов).