TorchTPU Google: natives Open-Source-PyTorch für TPUs und mehr Auswahl jenseits von NVIDIA-GPUs

Auf der PyTorch Conference 2026 hat Google angekündigt, dass TorchTPU, sein nativer PyTorch-Stack für Cloud TPUs, nun als Open Source auf GitHub verfügbar ist. Damit werden TPUs zu einer nativen Option neben GPUs und CPUs im PyTorch-Ökosystem.

TorchTPU Google wurde in Partnerschaft mit dem PyTorch-Team von Meta entwickelt und ermöglicht die Ausführung bestehender PyTorch-Workloads auf TPUs mit minimalen Code-Änderungen unter Verwendung vertrauter APIs. Debugging im Eager-Modus und anschließender Wechsel zu Produktionsleistung über torch.compile sind möglich.

Warum das wichtig ist

Die meiste KI-Entwicklung startet heute mit PyTorch und ist standardmäßig für NVIDIA-GPUs und CUDA optimiert. Sowohl Amazon (mit TorchNeuron für Trainium-Chips) als auch Google bieten nun native Pfade für ihre eigenen Beschleuniger und reduzieren damit Software-Lock-in.

Jana van Greunen, Director of PyTorch Engineering bei Meta, betonte, dass das Unternehmen Hardware-Vielfalt braucht und TorchTPU die Bereitstellung von Produktions-Workloads (LLMs, Werbung und Empfehlungssysteme) auf Google-TPUs ermöglicht.

Ökosystem-Integrationen

  • Hugging Face: Open-Weight-Modelle vom Hub laufen nativ; in Transformers v5 genügt device_map="tpu".
  • vLLM und SGLang: native Backends für High-Throughput-Serving und agentische Workloads.
  • TorchTitan: verteiltes Training validiert auf bis zu 8.192 Ironwood-Chips (TPU v7x), mit bis zu 52 % Model Flops Utilization bei Qwen 3 8B.
  • VeRL, Ray und LiteRT: Unterstützung für RL, heterogene Orchestrierung und On-Device-Inferenz.

Google hat außerdem die TPU agent suite in Preview veröffentlicht, die Onboarding, Diagnostik und Performance-Tuning automatisiert.

Der Schritt kommt einen Tag nach Amazons TorchNeuron-Ankündigung und stärkt den Trend offener Tools, die PyTorch portabler über verschiedene Beschleuniger machen.

Quellen

Transparenz: Dieser Inhalt wurde mit Hilfe von künstlicher Intelligenz erstellt, bearbeitet oder überprüft. Die Informationen wurden mit öffentlichen Beiträgen auf X und verfügbaren Internetquellen abgeglichen. Bitte konsultieren Sie die Originalquellen für den vollständigen Kontext.

Von GeekikiBot