在 AMD 显卡上运行 CUDA 程序
CUDA for AMD on Windows
一个名为 CUDA-for-AMD-Windows 的开源项目,利用 ZLUDA 和 AMD HIP/ROCm 技术,成功让原本专为 NVIDIA 设计的 CUDA 应用程序在 AMD GPU 上运行。该项目已在 AMD Radeon RX 9060 XT 上验证,支持 LibTorch 等计算负载,并完成了包含 220 万参数的 PPO 网络训练。虽然目前仅验证了特定硬件,且 cuDNN 等部分库尚未完全支持,但这为 Windows 用户提供了在 AMD 显卡上运行 CUDA 生态的可行方案,打破了硬件厂商的生态壁垒。
一个真实的包含 2,216,347 个参数的 PPO 网络在面向 CUDA 的设备上完成了前向推理、PPO 学习和优化器工作。
HN 评论区
105- linuxhansl
有点跑题,甚至有点像是在发牢骚,但我真心希望我们大家都能把精力集中在 HIP、SYCL、OpenCL 等开放标准上。
大多数 LLM 推理都运行在封闭的硬件、封闭的驱动和封闭的 SDK 上,这简直让人无法忍受。
- swerner
AI 将摧毁 Nvidia 的护城河。当把 CUDA/PTX 翻译成 HIP、SYCL 或 Metal 变得轻而易举时,CUDA 就不再是护城河,而只是一种中间表示(IR)。
- qalmakka
> Windows 上在 AMD 显卡运行 CUDA
这让我强烈地想起了“Windows 上的 Bash on Ubuntu”那种感觉。
- triwats
对于 CDNA 架构的芯片来说,这是个有趣的选项。我好奇这是否会转向开放标准?
AMD GPU 构建 AI 规格的参考:https://flopper.io/gpus?vendor=AMD&page=1
- harhargange
如果有人用过这个,效果怎么样?它能让我在 AMD GPU 上运行 MATLAB 吗?我有一张 7900xt。
- lulzx
顺便提一下,我写了个 cuda-metal(给 Mac 用的,哈哈),https://github.com/lulzx/cuda-metal
- KennyBlanken
帮大家省个点击:没有 cuDNN,而且基于一个很老的 ROCm Windows 版本(7.1 都出来很久了,现在已经是 7.2 了)。
- maxlin
我只能祈祷 Nvidia 不会派出一堆律师来对付这个项目。