TPU-Regionen und ‑Zonen

Übersicht

Die einzelnen TPU-Typen unterscheiden sich hauptsächlich in Preis, Leistung, Arbeitsspeicherkapazität und zonaler Verfügbarkeit.

Google Cloud verwendet in Zonen unterteilte Regionen, um den geografischen Standort von physischen Rechenressourcen zu definieren. Die Region us-central1 bezeichnet beispielsweise eine Region in der Nähe des geografischen Zentrums der USA. Wenn Sie eine TPU-VM erstellen, geben Sie die Zone an, in der Sie sie erstellen möchten. Weitere Informationen zu regionalen und zonalen Ressourcen finden Sie im Compute Engine-Dokument Globale, regionale und zonale Ressourcen.

Sie können TPU-Konfigurationen in den Zonen erstellen, die in der folgenden Tabelle aufgeführt sind.

USA

TPU-Typ (v2) TPU v2-Kerne Verfügbare Zonen
v2-8 8 us-central1-b
us-central1-c
us-central1-f
v2-32 32 us-central1-a
v2-128 128 us-central1-a
v2-256 256 us-central1-a
v2-512 512 us-central1-a
TPU-Typ (v3) TPU v3-Kerne Verfügbare Zonen
v3–8 8 us-central1-a
us-central1-b
us-central1-f
TPU-Typ (v4) TPU v4-Chips Verfügbare Zonen
Alle v4-Konfigurationen variiert je nach Segmentgröße us-central2-b
TPU-Typ (v5e) TPU v5e-Chips Verfügbare Zonen
Alle v5litepod-Konfigurationen variiert je nach Segmentgröße us-central1-a
us-east5-a
us-east5-b
us-east5-c
us-south1-a
us-west1-c
us-west4-a
us-west4-b
TPU-Typ (v5p) TPU v5p-Chips Verfügbare Zonen
Alle v5p-Konfigurationen variiert je nach Segmentgröße us-east5-a

Europa

TPU-Typ (v2) TPU v2-Kerne Verfügbare Zonen
v2-8 8 europe-west4-a
v2-32 32 europe-west4-a
v2-128 128 europe-west4-a
v2-256 256 europe-west4-a
v2-512 512 europe-west4-a
TPU-Typ (v3) TPU v3-Kerne Verfügbare Zonen
v3–8 8 europe-west4-a
v3-32 32 europe-west4-a
v3–64 64 europe-west4-a
v3-128 128 europe-west4-a
v3-256 256 europe-west4-a
v3-512 512 europe-west4-a
v3-1024 1.024 europe-west4-a
v3-2048 2.048 europe-west4-a
TPU-Typ (v5e) TPU v5e-Chips Verfügbare Zonen
v5lite-1 1 europe-west4-b
v5lite-4 4 europe-west4-b
v5lite-8 8 europe-west4-b
Alle v5litepod-Konfigurationen variiert je nach Segmentgröße europe-west1-b
europe-west4-a
europe-west4-b
TPU-Typ (v5p) TPU v5p-Chips Verfügbare Zonen
Alle v5p-Konfigurationen variiert je nach Segmentgröße europe-west4-b

Asiatisch-pazifischer Raum

TPU-Typ (v2) TPU v2-Kerne Verfügbare Zonen
v2-8 8 asia-east1-c
TPU-Typ (v5e) TPU v5e-Chips Verfügbare Zonen
Alle v5litepod-Konfigurationen variiert je nach Segmentgröße asia-southeast1-b

TPU-Typen mit einer höheren Anzahl von Chips oder Kernen sind nur in begrenzten Mengen verfügbar. Bei TPU-Typen mit einer niedrigeren Anzahl von Chips oder Kernen ist die Wahrscheinlichkeit höher, dass sie verfügbar sind.

Kompromiss zwischen Preis und Leistung finden

Als Entscheidungshilfe bei der Wahl des zu verwendenden TPU-Typs können Sie mit einer Cloud TPU-Anleitung experimentieren und ein Modell trainieren, das Ihrer Anwendung ähnlich ist.

Führen Sie die Anleitung für 5–10% der Anzahl der Schritte aus, die Sie zum Ausführen des gesamten Trainings auf dem TPU-Typ v2-8 oder v3-8 verwenden. Das Ergebnis zeigt Ihnen, wie lange es dauert, um diese Anzahl von Schritten für dieses Modell auf jedem TPU-Typ auszuführen.

Die Leistung auf TPU-Typen skaliert linear. Wenn Sie also wissen, wie lang die Ausführung einer Aufgabe auf einem v2-8- oder v3-8-TPU-Typ dauert, können Sie abschätzen, wie viel kürzer die Ausführungszeit ist, wenn Sie Ihr Modell auf einem größeren TPU-Typ mit mehr Chips oder Kernen ausführen.

Wenn ein v2-8-TPU-Typ beispielsweise 60 Minuten für 10.000 Schritte benötigt, müsste ein v2-32-Knoten ungefähr 15 Minuten für dieselbe Aufgabe benötigen.

Wenn Sie die ungefähre Trainingszeit für Ihr Modell auf einigen verschiedenen TPU-Typen kennen, können Sie die VM/TPU-Kosten gegen die Trainingszeit abwägen, um das beste Preis-Leistungs-Verhältnis zu ermitteln.

Informationen zum Ermitteln der Kostenunterschiede zwischen den verschiedenen TPU-Typen für Cloud TPU und der zugehörigen Compute Engine-VM finden Sie auf der Seite mit den TPU-Preisen.

TPU-Typ angeben

Unabhängig vom Framework, das Sie verwenden, geben Sie einen v2- oder v3-TPU-Typ mit dem Parameter accelerator-type an, wenn Sie eine TPU starten. Bei TPU v4 oder höher können Sie den Typ und die Größe entweder mit AcceleratorType oder AcceleratorConfig angeben. Weitere Informationen finden Sie unter TPU-Versionen. Beispielbefehle finden Sie unter TPUs verwalten.

Nächste Schritte

  • Die Preise für TPUs in den einzelnen Regionen finden Sie auf der Seite Preise.
  • Weitere Informationen zur TPU-Architektur finden Sie auf der Seite Systemarchitektur.
  • Weitere Informationen zu den für Cloud TPU geeigneten Modellen finden Sie unter Verwendung von TPUs.