ZLUDA + ROCm ejecuta aplicaciones CUDA en una GPU AMD Radeon bajo Windows
CUDA for AMD on Windows
El repositorio CUDA-for-AMD-Windows ofrece una pila reproducible con ZLUDA y AMD HIP/ROCm para correr aplicaciones CUDA en Windows sobre una Radeon RX 9060 XT (gfx1200). La validación pública, sin DLLs privadas, completó una red PPO de 2.216.347 parámetros y 65.536 pasos de entrenamiento con LibTorch 2.3.0+cu118. cuBLAS, cuBLASLt, cuSPARSE y cuFFT pasan cuda_check; cuDNN sigue sin estar disponible en el HIP SDK estable.
ZLUDA no es una implementación completa de CUDA.
- linuxhansl
Off-topic y un poco de desahogo, pero preferiría muchísimo que todos nos centráramos en estándares abiertos como HIP, SYCL, OpenCL, etc.
Es insoportable que la mayor parte de la inferencia de LLM ocurra en hardware cerrado, drivers cerrados y SDKs cerrados.
- swerner
La IA acabará con el foso de Nvidia. Cuando se vuelva trivial traducir CUDA/PTX a HIP, SYCL o Metal, CUDA deja de ser el foso y se convierte en la representación intermedia.
- lulzx
Por cierto, yo hice cuda-metal (para mac, kek), https://github.com/lulzx/cuda-metal
- Nurysso
tío, no puedo expresar cuánto me gustaba cuda cuando tenía una GPU nvidia, hacía que el ml fuera mucho más divertido, y en amd es una guerra, sobre todo en las tarjetas rdna 2 que tengo. ojalá algún día podamos traducir cuda correctamente para sus equivalentes en amd
- latchkey
También hay esfuerzos interesantes como: