rGPU - Remote GPU for PyTorch without CUDA

Show HN: Rgpu – a PyTorch device whose tensors live on a remote GPU

rGPU lässt PyTorch-Operationen und Tensoren auf einer entfernten NVIDIA-GPU laufen, während die Anwendung auf dem eigenen Laptop bleibt – sogar auf einem Mac ohne CUDA-Installation. Es bietet zwei Wege: ein natives PyTorch-Device für einfache Integration und einen CUDA-Shim für bestehende Linux-CUDA-Programme. Die Installation erfolgt per pip, und mit dem Befehl rgpu-run wird der Tunnel zum Server geöffnet. So können Entwickler die Rechenleistung einer Remote-GPU nutzen, ohne ihre lokale Umgebung zu verändern.

Halte Python auf deinem Laptop. Führe PyTorch-Operationen aus und halte Tensoren auf einer entfernten GPU – auch von einem Mac ohne CUDA-Installation.

Mehr von diesem Tag

2026-10-08