TPU-Regionen und -Zonen

Übersicht

Die Hauptunterschiede zwischen den TPU-Typen sind der Preis, die Leistung, die Arbeitsspeicherkapazität und die zonale Verfügbarkeit.

Google Cloud verwendet in Zonen unterteilte Regionen, um die geografische Standort von physischen Rechenressourcen. Beispiel: Der Parameter us-central1-Region bezeichnet eine Region in der Nähe des geografischen Mittelpunkts von USA. Beim Erstellen einer TPU-VM geben Sie die Zone an, in der Sie erstellen möchten. Compute Engine Global, regional und zonal ansehen Ressourcendokument finden Sie weitere Informationen zu regionalen und zonalen Ressourcen.

Sie können TPU-Konfigurationen in den in der folgenden Tabelle aufgeführten Zonen erstellen.

USA

TPU-Typ (v2) TPU v2-Kerne Verfügbare Zonen
v2-8 8 us-central1-b
us-central1-c
us-central1-f
v2-32 32 us-central1-a
v2-128 128 us-central1-a
v2-256 256 us-central1-a
v2-512 512 us-central1-a
TPU-Typ (v3) TPU v3-Kerne Verfügbare Zonen
v3–8 8 us-central1-a
us-central1-b
us-central1-f
TPU-Typ (v4) TPU v4-Chips Verfügbare Zonen
Alle V4-Konfigurationen variiert je nach Segmentgröße us-central2-b
TPU-Typ (v5e) TPU v5e-Chips Verfügbare Zonen
Alle v5litepod-Konfigurationen variiert je nach Segmentgröße us-central1-a
us-east5-a
us-east5-b
us-east5-c
us-south1-a
us-west1-c
us-west4-a
us-west4-b
TPU-Typ (v5p) TPU v5p-Chips Verfügbare Zonen
Alle V5p-Konfigurationen variiert je nach Segmentgröße us-east5-a
us-east5-c
us-east1-d

Europa

TPU-Typ (v2) TPU v2-Kerne Verfügbare Zonen
v2-8 8 europe-west4-a
v2-32 32 europe-west4-a
v2-128 128 europe-west4-a
v2-256 256 europe-west4-a
v2-512 512 europe-west4-a
TPU-Typ (v3) TPU v3-Kerne Verfügbare Zonen
v3–8 8 europe-west4-a
v3-32 32 europe-west4-a
v3–64 64 europe-west4-a
v3-128 128 europe-west4-a
v3-256 256 europe-west4-a
v3-512 512 europe-west4-a
v3-1024 1.024 europe-west4-a
v3-2048 2.048 europe-west4-a
TPU-Typ (v5e) TPU v5e-Chips Verfügbare Zonen
V5lite-1 1 europe-west4-b
V5lite-4 4 europe-west4-b
V5lite-8 8 europe-west4-b
Alle v5litepod-Konfigurationen variiert je nach Segmentgröße europe-west1-b
europe-west4-a
europe-west4-b

Asiatisch-pazifischer Raum

TPU-Typ (v2) TPU v2-Kerne Verfügbare Zonen
v2-8 8 asia-east1-c
TPU-Typ (v5e) TPU v5e-Chips Verfügbare Zonen
Alle v5litepod-Konfigurationen variiert je nach Segmentgröße asia-southeast1-b

TPU-Typen mit einer höheren Anzahl von Chips oder Kernen sind nur eingeschränkt verfügbar Mengen verwenden können. Bei TPU-Typen mit geringerer Chip- oder Kernanzahl ist es wahrscheinlicher, verfügbar.

Kompromiss zwischen Preis und Leistung finden

Um zu entscheiden, welchen TPU-Typ Sie verwenden möchten, können Sie mithilfe einer Cloud TPU-Anleitung zum Trainieren eines Modells, ähnlich wie in Ihrer Anwendung.

Führen Sie die Anleitung für 5 bis 10% der Anzahl der Schritte aus, die Sie zum Ausführen der vollständigen Anleitung benötigen. auf einem v2-8- oder v3-8-TPU-Typ. Das Ergebnis gibt an, wie lange es dauert, bis die Anzahl von Schritten für dieses Modell auf jedem TPU-Typ.

Da die Leistung auf TPU-Typen linear skaliert wird, zum Ausführen einer Aufgabe auf dem TPU-Typ v2-8 oder v3-8 haben Sie folgende Möglichkeiten: schätzen, wie stark sich die Aufgabenzeit durch Ausführen des Modells auf einer größeren TPU reduzieren lässt mit mehr Chips oder Kernen.

Wenn ein v2-8-TPU-Typ beispielsweise 60 Minuten bis 10.000 Schritte benötigt, wird ein Es dauert etwa 15 Minuten, bis v2-32-Knoten diese Aufgabe ausgeführt hat. .

Wenn Sie die ungefähre Trainingszeit für Ihr Modell auf verschiedenen TPU-Typen können Sie die VM-/TPU-Kosten gegen die Trainingszeit abwägen, um Ihnen zu helfen, Preis-Leistungs-Verhältnis zu optimieren.

Informationen zum Ermitteln der Kostenunterschiede zwischen den verschiedenen TPU-Typen für Cloud TPU und der zugehörigen Compute Engine-VM finden Sie auf der Seite mit den TPU-Preisen.

TPU-Typ angeben

Unabhängig davon, welches Framework Sie verwenden, geben Sie einen v2 an. oder v3-TPU-Typ mit dem accelerator-type, wenn Sie Starten Sie eine TPU. Für eine TPU v4 oder höher können Typ und Größe mit AcceleratorType oder AcceleratorConfig. Weitere Informationen finden Sie unter TPU Versionen Beispielbefehle sind wie unter TPUs verwalten beschrieben.

Nächste Schritte

  • Informationen zu den Preisen für TPUs in den einzelnen Regionen finden Sie unter Preise. Seite.
  • Weitere Informationen zur TPU-Architektur finden Sie im System Architektur.
  • Unter Verwendung von TPUs erfahren Sie mehr über die die sich gut für Cloud TPU eignen.