Google开源TorchTPU:PyTorch原生TPU后端
Google open-sources TorchTPU, a native PyTorch back end for TPUs
Google正式开源了TorchTPU,这是一个专为Google TPU设计的原生PyTorch后端。该项目通过定制化的ATen内核和编译缓存,让开发者能够直接在TPU上高效运行PyTorch模型。无论是分布式训练还是模型推理,TorchTPU都提供了从Llama、Qwen到ResNet等主流模型的完整示例。它深度集成了torch.compile(),支持图模式执行,并配备了调试和基准测试工具。对于希望利用TPU算力加速AI开发的团队来说,这意味着无需复杂的转换层,即可在熟悉的PyTorch生态中无缝调用TPU硬件。
该项目为Google的Tensor Processing Units (TPUs) 提供了一个PyTorch后端,使用户能够在TPU设备上运行PyTorch模型和操作。