rGPU - PyTorch device for remote GPU execution
Show HN: Rgpu – a PyTorch device whose tensors live on a remote GPU
rGPU는 PyTorch 텐서를 원격 NVIDIA GPU에 유지하면서 애플리케이션은 로컬에서 실행할 수 있게 해주는 도구입니다. CUDA가 설치되지 않은 Mac에서도 GPU 연산을 사용할 수 있으며, PyTorch 프로그램에 `rgpu` 디바이스를 추가하는 간단한 방식과 기존 Linux CUDA 바이너리를 지원하는 CUDA shim 방식을 제공합니다. `pip install rgpu` 후 `rgpu-run`으로 SSH 터널을 열어 원격 GPU를 활용하세요. nanoGPT 예제와 상세 문서도 제공됩니다.
Python은 노트북에 그대로 두고, PyTorch 연산과 텐서는 원격 GPU에서 실행하세요. CUDA 설치 없이 Mac에서도 가능합니다.