NVLink: Lohnt sich die 300-Dollar-Brücke für KI-Workloads?
When Is NVLink Worth It?
Nvidia unterstützt NVLink auf Consumer-GPUs nicht mehr; die letzte war die RTX 3090. Ein Autor mit zwei 3090ern testet, ob die teure Brücke (200–400 $) für KI-Workloads wirklich Vorteile bringt. Überraschend: Bei Tensor-Parallel-Inferenz und FSDP-Training ist der Unterschied zu einer PCIe-P2P-Verbindung minimal, sofern man einen Treiber-Patch nutzt. Der eigentliche Gewinn zeigt sich erst auf Consumer-Plattformen mit reduzierten PCIe-Lanes (x8/x8 oder x4), wo NVLink die Bandbreitenlimits umgeht. Der Artikel analysiert die Ergebnisse und gibt klare Kaufempfehlungen.
NVLink ist es in bestimmten Fällen wert – für Leute, die zu Hause zwei GPUs betreiben. Mein Setup ist zufällig eine der wenigen Ausnahmen, bei denen es das nicht ist.