V100 SXM2의 800개 핀맵과 NVLink 연결도, 오픈소스 캐리어 보드로 공개되다
V100 SXM2 pinout and NVLink reference
NVIDIA V100 SXM2 모듈을 위한 오픈소스 캐리어 보드 프로젝트가 핀 매핑과 NVLink 연결 계획, KiCad 리소스를 선공개했다. 커넥터 A와 B 각각 400개씩 총 800개 접점의 신호명과 근거를 정리했고, 2-GPU 및 4-GPU NVLink 연결표와 세 가지 편집 가능한 KiCad 스타터를 제공한다. 단, NVLink 스타터는 데이터 배선만 보여줄 뿐 완전한 동작 구현은 아니며, 각 V100에는 156.25MHz 차동 NVHS 클럭이 별도로 필요하다. 라우팅된 보드와 하드웨어 인증은 향후 과제다.
이 프로젝트의 장기 목표는 재사용 가능한 오픈소스 보드 설계이며, 현재 참조 키트는 핀 매핑과 NVLink 연결 계획, 커넥터 스타터까지만 다룬다.
HN 토론
10- devbug
하, 대단하네요!
2024년 2월에 이걸 수동으로 했었는데[1], "커넥터 A"만 매핑하고 SXM2-to-PCIe 인터포저를 부분적으로 설계하다가 다른 일에 정신이 팔렸어요.
그 과정에서 Facebook의 Big Basin JBOG 회로도/사양(Open Compute에서)을 발견했는데, 여기에는 NVIDIA의 DGX-1 레퍼런스 구현에서 파생된 설계가 들어 있었어요. 이게 현재 레퍼런스의 몇몇 빈틈을 메워주는 것 같네요. 또한 폼 팩터나 OpenPOWER와 유사한 핀배열 같은 설계 선택의 이유도 설명해 줍니다.
https://docs.google.com/spreadsheets/d/1DfH0T9KWWoc2CpKZsRIT...
- bitexploder
지금 V100S 버전을 4개 가지고 있어요. 노후화됐지만 탄탄합니다. 4장 이상 쓰지 않는다면 SXM2는 필요 없을 수도 있지만, 패키징이 다루기 더 쉬울 수 있어요. 저는 PCI 버전을 가지고 25Gbps로 네트워킹하고 RDMA를 사용합니다.
DeepSeek V4.1(IQ2_XXS)의 뇌손상된 양자화 버전을 약 80-100 t/s, 950 pps로 돌리고 있어요. 정말 나쁘지 않지만 전체 모델만큼 똑똑하진 않아요. Qwen Flash Next 3.8을 UD4 K XL에서 약 200 t/s 단일, 450-550 집계 t/s, 3-4k pps로 돌리고 있습니다. 솔직히 두 모델 중 어느 게 더 똑똑한지 말하기 어렵네요.
로컬 LLM용으로 훌륭한 모델이에요. 제 엔진을 직접 작성했는데 아직 이것보다 빠른 4카드 벤치마크를 보지 못했어요. 그래서 이 카드들은 몇 달 전 대부분이 생각했던 것보다 확실히 더 높은 한계가 있습니다. 연산량은 많지 않지만 VRAM을 대부분의 시간 동안 바쁘게 유지하기에는 충분해요 :)
- jacquesm
이 글이 다시 게시된 걸 보니 좋네요. 이틀 전에 올렸는데 흔적도 없이 가라앉아서 정말 속상했거든요. 다시 올려주셔서 정말 기뻐요. 이 V100은 꽤 멋진 GPU이고 여전히 어느 정도는 합리적인 가격인 몇 안 되는 제품 중 하나입니다.