rGPU - PyTorchテンソルをリモートGPUで実行

Show HN: Rgpu – a PyTorch device whose tensors live on a remote GPU

rGPUは、PyTorchのテンソルをリモートのNVIDIA GPU上に保持し、クライアント側のPythonアプリケーションから透過的に操作できる画期的なツールです。CUDA非搭載のMacでも、pip install rgpuで導入し、SSH経由でリモートGPUに接続するだけで、torch.ones(4, device="rgpu")のように自然にGPU計算を利用できます。既存のLinux CUDAプログラム向けにはCUDA shimも提供し、libcudaやcuBLAS、cuDNNをシムすることで互換性を確保。手元のマシンの性能に縛られず、クラウドやリモートサーバーのGPUパワーを手軽に活用できる新しい開発スタイルを提案します。