谷歌Meta开源TorchTPU:TPU原生支持PyTorch
在2026年PyTorch北美大会上,谷歌与Meta开源TorchTPU,用其取代PyTorch/XLA,把model.to("cuda")改成model.to("tpu")即可迁移;Hugging Face模型开箱即用,vLLM、SGLang可原生运行,共开源四个代码库。
要点
- TorchTPU取代2020年的PyTorch/XLA惰性张量桥接库,后者需侵入性修改源码
- 四个代码库开源:TorchTPU、vLLM-TorchTPU、SGLang-TorchTPU和TorchTitan
- 8192个TPU v7x跑Qwen3 235B MoE,模型FLOPs利用率28%,近线性扩展
- 仅改一行代码只解决可运行,分片与内核调优仍需额外投入
阅读原文这里是中文要点整理,数字与细节以原文为准。
评论
还没有评论,来写第一条。