GoogleがPyTorchをTPUでネイティブに動かすTorchTPUをオープンソース化
Google open-sources TorchTPU, a native PyTorch back end for TPUs
GoogleがPyTorchモデルをTPU上で直接実行できるバックエンドTorchTPUを公開した。TPU向けのATenカーネル、XLA計算のコンパイルキャッシュ、分散トレーニング(データ並列・テンソル並列)、torch.compile()との統合を備え、LlamaやQwen、ResNetなどのサンプルも用意。PyPIでバージョン0.2.0が入手可能で、Python 3.11以上に対応する。
TorchTPUはGoogleのTensor Processing Units(TPU)向けのPyTorchバックエンドを提供し、ユーザーがPyTorchモデルと演算をTPUデバイス上で実行できるようにします。