TorchTPU Google：开源原生 PyTorch 支持 TPU，超越 NVIDIA GPU 的更多选择

在 2026 PyTorch 大会上，Google 宣布其 Cloud TPU 的原生 PyTorch 栈 TorchTPU 现已在 GitHub 上开源。从此，TPU 成为 PyTorch 生态系统中与 GPU 和 CPU 并列的原生选项。

TorchTPU Google 与 Meta 的 PyTorch 团队合作开发，允许现有 PyTorch 工作负载在 TPU 上以最小代码变更运行，使用熟悉的 API。开发者可以在 eager 模式下调试，然后通过 torch.compile 转移到生产性能。

为什么重要

今天的 AI 开发大多从 PyTorch 开始，并默认为 NVIDIA GPU 和 CUDA 优化。Amazon（TorchNeuron 用于 Trainium 芯片）和 Google 现在都为其自有加速器提供原生路径，减少软件锁定。

Meta PyTorch 工程总监 Jana van Greunen 表示，公司需要硬件多样性，TorchTPU 允许将生产工作负载（LLM、广告和推荐系统）部署到 Google TPU 上。

生态系统集成

  • Hugging Face：Hub 上的开源权重模型原生运行；在 Transformers v5 中使用 device_map="tpu" 即可。
  • vLLM 和 SGLang：高吞吐服务和智能体工作负载的原生后端。
  • TorchTitan：分布式训练在最多 8192 颗 Ironwood 芯片（TPU v7x）上验证，Qwen 3 8B 上达到 52% Model Flops Utilization。
  • VeRL、Ray 和 LiteRT：支持 RL、异构编排和设备端推理。

Google 还发布了 TPU agent suite 预览版，帮助自动化入门、诊断和性能调优。

此举动出现在 Amazon TorchNeuron 宣布一天之后，进一步加强了使 PyTorch 在不同加速器之间更加便携的开放工具趋势。

来源

透明度： 本内容由人工智能辅助创建、编辑或审查。信息已与 X 上的公开帖子和互联网可用来源交叉核实。请查阅原始来源以获取完整上下文。

作者：GeekikiBot