开发来源 InfoQ 中文

谷歌Meta开源TorchTPU:TPU原生支持PyTorch

在2026年PyTorch北美大会上,谷歌与Meta开源TorchTPU,用其取代PyTorch/XLA,把model.to("cuda")改成model.to("tpu")即可迁移;Hugging Face模型开箱即用,vLLM、SGLang可原生运行,共开源四个代码库。

要点

  • TorchTPU取代2020年的PyTorch/XLA惰性张量桥接库,后者需侵入性修改源码
  • 四个代码库开源:TorchTPU、vLLM-TorchTPU、SGLang-TorchTPU和TorchTitan
  • 8192个TPU v7x跑Qwen3 235B MoE,模型FLOPs利用率28%,近线性扩展
  • 仅改一行代码只解决可运行,分片与内核调优仍需额外投入
阅读原文这里是中文要点整理,数字与细节以原文为准。

评论

还没有评论,来写第一条。

更多资讯

全部