Google veröffentlicht TorchTPU: PyTorch-Modelle laufen jetzt nativ auf TPUs
Google open-sources TorchTPU, a native PyTorch back end for TPUs
Google hat TorchTPU als Open Source freigegeben, ein natives PyTorch-Backend für Tensor Processing Units. Es umfasst eigene ATen-Kernel, einen Compilation-Cache für XLA-Berechnungen und Unterstützung für verteiltes Training mit Daten- und Tensor-Parallelität. Beispiele für Llama, Qwen, ResNet, DLRM, minGPT und UNet sind enthalten, ebenso die Integration mit torch.compile(). Die Installation erfolgt über PyPI (Version 0.2.0) oder per Bazel-Build aus dem Quellcode.
Dieses Projekt stellt ein PyTorch-Backend für Googles Tensor Processing Units (TPUs) bereit, mit dem Nutzer PyTorch-Modelle und -Operationen auf TPU-Geräten ausführen können.