NVLink: ¿Cuándo vale realmente la pena?

When Is NVLink Worth It?

Nvidia eliminó el soporte de NVLink en las GPU de consumo, pero el autor prueba con dos RTX 3090 si el puente de 300 dólares merece la pena para cargas de IA. Descubre que en su plataforma de servidor, con PCIe Gen4 x16 completo, la comunicación P2P (tras parchear los drivers) iguala casi por completo el rendimiento de NVLink. Sin embargo, en placas base de consumo, donde las ranuras x16 se dividen en x8/x8 o menos, NVLink ofrece mejoras significativas en entrenamiento FSDP (hasta el doble de velocidad) y en procesamiento de prompts con tensor parallelism. La conclusión: NVLink solo es rentable si usas Windows o no quieres parchear drivers, tienes una plataforma de consumo y tu carga de trabajo es entrenamiento FSDP o inferencia con tensor parallelism.