Запуск CUDA-приложений на AMD Radeon RX 9060 XT стал воспроизводимым
CUDA for AMD on Windows
Проект CUDA-for-AMD-Windows предоставляет воспроизводимую сборку на базе ZLUDA и AMD HIP/ROCm, позволяющую запускать CUDA-ориентированные Windows-приложения на видеокартах AMD. Валидация подтверждена только для Radeon RX 9060 XT (gfx1200): успешно работают nvcuda, cuBLAS, cuBLASLt, cuSPARSE и cuFFT, а PPO-сеть с 2,2 млн параметров прошла обучение и один цикл валидации на 65 536 шагов. Установка автоматизирована через PowerShell-скрипты, но cuDNN и часть экосистемы ROCm пока недоступны.
Реальная PPO-сеть с 2 216 347 параметрами завершила forward/inference, обучение PPO и работу оптимизатора на CUDA-ориентированном устройстве.
- linuxhansl
Не по теме и немного ворчания, но я бы гораздо предпочёл, чтобы мы все сосредоточились на открытых стандартах вроде HIP, SYCL, OpenCL и т.д.
Невыносимо, что большая часть инференса LLM происходит на закрытом железе, закрытых драйверах и закрытых SDK.
- swerner
AI разрушит ров Nvidia. Когда перевод CUDA/PTX в HIP, SYCL или Metal станет тривиальным, CUDA перестанет быть рвом — она станет промежуточным представлением.
- lulzx
Кстати, я сделал cuda-metal (для mac, кек), https://github.com/lulzx/cuda-metal
- Nurysso
блин, не могу передать, как мне раньше нравилась cuda, когда у меня была видеокарта nvidia — это делало ml таким увлекательным, а на amd это просто война, особенно на картах rdna 2, которые у меня есть. надеюсь, однажды мы сможем нормально транслировать cuda для её amd-аналогов
- latchkey
Есть также интересные начинания вроде: