NVIDIA V100 SXM2のピンマップとNVLink接続図を公開、オープンソースのキャリアボード設計へ
V100 SXM2 pinout and NVLink reference
NVIDIA V100 SXM2モジュール向けのオープンソースキャリアボード設計を目指すプロジェクトが、コネクタA/B各400ピンの信号名と電気的扱い、2基・4基構成のNVLink接続表、KiCadスターターファイルを公開した。現時点では既存のリバースエンジニアリング情報を整理したリファレンスキットであり、ルーティング済み基板やハードウェア認定は今後の課題としている。
私のこれまでの貢献は主にキュレーションです。公開情報を集め、出典を比較し、コネクタの向きと信号名を突き合わせ、結果を追いやすくすることです。
HNでの議論
10- devbug
はは、すごい！
2024年2月に手動でこれをやったんだけど[1]、結局「コネクタA」のマッピングが終わって、SXM2-to-PCIeの中間基板を部分的に設計したところで気が散ってしまった。
その過程で、FacebookのBig Basin JBOGの回路図/仕様（Open Computeから）を見つけたんだ。そこにはNVIDIAのDGX-1リファレンス実装から派生した設計が含まれていた。今回のもので現在のリファレンスのいくつかのギャップが埋まったようだ。また、フォームファクタやOpenPOWERと似たピン配置など、設計上の選択肢のいくつかも説明できる。
https://docs.google.com/spreadsheets/d/1DfH0T9KWWoc2CpKZsRIT...
- bitexploder
今、V100Sバリエーションのカードを4枚持っている。古くなってきているが堅実だ。4枚以上に増やさないならSXM2は必要ないかもしれないが、パッケージングは扱いやすいこともある。PCI版も持っていて、25Gbpsでネットワーク接続してRDMAをやっている。
DeepSeek V4.1の脳に障害のある量子化（IQ2_XXS）を動かしていて、約80-100 t/s、950 ppsだ。悪くはないが、フルモデルほど賢くはない。Qwen Flash Next 3.8をUD4 K XLで動かしていて、シングルで約200 t/s、集約で450-550 t/s、3-4k ppsだ。正直、2つのモデルのどちらが賢いかは難しいところだ。
ローカルLLMには素晴らしいモデルだ。自分でエンジンを書いたが、これより速い4カードのベンチマークはまだ見たことがない。だからこれらのカードは数ヶ月前のほとんどの人の想像よりも ceiling が高いのは間違いない。演算能力は多くないが、ほとんどの時間VRAMをビジーに保つのにちょうど十分なのだ :)
- jacquesm
再投稿されてよかった。2日前に投稿したが跡形もなく沈んでしまったので、また投稿してくれて本当に嬉しい。これらのV100はかなり素晴らしいGPUで、まだいくらか手頃な価格で手に入る数少ないものの一つだ。