Meta, 1기가와트 규모 슈퍼클러스터 Prometheus로 Muse 모델 훈련

Meta's GB{2,3}00 Cluster

Meta가 오하이오주 뉴올버니에 구축한 1기가와트급 슈퍼클러스터 Prometheus의 1단계를 완료했다. 수십만 개의 GPU가 단일 머신처럼 작동하며, 최종적으로 약 100만 개 GPU 규모로 확장될 예정이다. Muse Wonder 사전학습에서 85% 이상, 강화학습에서 90% 이상의 goodput을 달성했고, GPU 시간 기준 평균 무중단 시간(MTBI)은 약 4만 7천 시간에서 5만 4천 시간 이상으로 늘었다. NVIDIA GB200과 GB300 플랫폼, 전용 백엔드 네트워크, 72-GPU 장애 도메인 대응 설계가 핵심이다.