AMD GPUでCUDAアプリをWindows上で動かす再現可能スタックが登場
CUDA for AMD on Windows
ZLUDAとAMD HIP SDK 6.4を組み合わせ、Windows上でCUDA対応アプリをAMD Radeon RX 9060 XTで実行する再現可能なスタックが公開された。LibTorch 2.3.0+cu118を使ったPPO学習で65,536タイムステップの検証に成功。cuBLASやcuFFTなど主要ライブラリが動作する一方、cuDNNは未対応で、対応GPUは現時点でRX 9060 XTのみ。
この検証は、すべてのCUDAプログラムやAIモデルが動作することを意味するものではない。CUDA API/ライブラリのカバレッジはワークロードに依存する。
HNでの議論
105- linuxhansl
オフトピックでちょっとした愚痴だが、私はむしろ皆がHIP、SYCL、OpenCLなどのオープン標準に注力することをずっと好む。
LLM推論のほとんどがクローズドなH/W、クローズドなドライバー、クローズドなSDK上で行われるのは耐え難い。
- swerner
AIはNvidiaの堀を崩すだろう。CUDA/PTXをHIP、SYCL、Metalに変換するのが自明になれば、CUDAはもはや堀ではなくなり、中間表現になる。
- qalmakka
> Windows上のAMD向けCUDA
これは「Bash on Ubuntu on Windows」のような強い雰囲気を感じる
- triwats
CDNAアーキテクチャチップにとって興味深い選択肢だ。これがオープン標準に移行するのか気になる。
参考までにAIスペック向けのAMD GPUのベンチマーク: https://flopper.io/gpus?vendor=AMD&page=1
- harhargange
誰かこれを使ったことがあるなら、どの程度良いのか？そしてMATLABでAMD GPUを動かせるようになるのか？私は7900xtを持っている
- lulzx
ちなみに私はcuda-metalを作った（mac用だけどな）、https://github.com/lulzx/cuda-metal
- KennyBlanken
皆のクリックを節約するために言うと：cuDNNはなく、Windows用の古代のROCmバージョンに基づいている（7.1はずっと前に出ており、7.2が現行だ。）
- maxlin
NVIDIAがこれに対して弁護士の大軍を送らないことを願うばかりだ。