NVLink, 정말 살 가치가 있을까? RTX 3090 2개로 직접 테스트해봤다

When Is NVLink Worth It?

NVIDIA가 소비자용 GPU에서 NVLink를 더 이상 지원하지 않지만, RTX 3090은 예외다. 저자는 3090 2개를 보유하고 있어 NVLink 브리지의 실제 효과를 AI 워크로드로 측정했다. 추론(레이어 분할, 텐서 병렬), 학습(DDP, FSDP) 등 다양한 시나리오를 테스트했고, NVLink 없이 P2P 통신을 활성화하는 드라이버 패치를 적용해 비교했다. 결과적으로 NVLink는 PCIe 레인 수가 제한된 소비자 플랫폼에서 FSDP 학습과 텐서 병렬 프롬프트 처리에 큰 이점을 제공하지만, 서버급 CPU/메인보드를 사용하는 저자의 환경에서는 거의 차이가 없었다. NVLink 구매 전에 자신의 시스템과 워크로드를 먼저 점검하라는 실용적인 조언을 담았다.