TPU-Regionen und -Zonen
Überblick
TPU-Typen unterscheiden sich hauptsächlich in Preis, Leistung, Arbeitsspeicherkapazität und zonaler Verfügbarkeit.
Google Cloud verwendet in Zonen unterteilte Regionen, um den geografischen Standort von physischen Rechenressourcen zu definieren. Beispielsweise bezeichnet die Region us-central1
eine Region in der Nähe des geografischen Mittelpunkts der USA. Beim Erstellen eines TPU-Knotens geben Sie die Zone an, in der Sie ihn erstellen möchten. Weitere Informationen zu regionalen und zonalen Ressourcen finden Sie im Compute Engine-Dokument Globale, regionale und zonale Ressourcen.
Sie können TPU-Konfigurationen in den Zonen erstellen, die in der folgenden Tabelle aufgeführt sind.
USA
TPU-Typ (v2) | TPU v2-Kerne | Verfügbare Zonen |
---|---|---|
v2-8 | 8 |
us-central1-b us-central1-c us-central1-f
|
v2-32 | 32 |
us-central1-a
|
v2-128 | 128 |
us-central1-a
|
v2-256 | 256 |
us-central1-a
|
v2-512 | 512 |
us-central1-a
|
TPU-Typ (v3) | TPU v3-Kerne | Verfügbare Zonen |
v3-8 | 8 |
us-central1-a us-central1-b us-central1-f
|
TPU-Typ (v4) | TPU v4-Chips | Verfügbare Zonen |
Alle v4-Konfigurationen | variiert je nach Segmentgröße |
us-central2-b |
TPU-Typ (v5e) | TPU v5e-Chips | Verfügbare Zonen |
v5litepod-1 | 1 |
us-west4-a us-east5-b |
v5litepod-4 | 4 |
us-west4-a us-east5-b |
v5litepod-8 | 8 |
us-west4-a us-east5-b |
v5litepod-16 | 16 |
us-west4-a us-east5-b |
v5litepod-32 | 32 |
us-west4-a us-east5-b |
v5litepod-64 | 64 |
us-west4-a us-east5-b |
v5litepod-128 | 128 |
us-west4-a us-east5-b |
v5litepod-256 | 256 |
us-west4-a us-east5-b |
TPU-Typ (v5p) | TPU v5p-Chips | Verfügbare Zonen |
Alle v5p-Konfigurationen | variiert je nach Segmentgröße |
us-east5-a us-east5-c us-east1-d |
Europa
TPU-Typ (v2) | TPU v2-Kerne | Verfügbare Zonen |
---|---|---|
v2-8 | 8 |
europe-west4-a
|
v2-32 | 32 |
europe-west4-a
|
v2-128 | 128 |
europe-west4-a
|
v2-256 | 256 |
europe-west4-a
|
v2-512 | 512 |
europe-west4-a
|
TPU-Typ (v3) | TPU v3-Kerne | Verfügbare Zonen |
v3-8 | 8 |
europe-west4-a
|
v3-32 | 32 |
europe-west4-a
|
v3-64 | 64 |
europe-west4-a
|
v3-128 | 128 |
europe-west4-a
|
v3-256 | 256 |
europe-west4-a
|
v3-512 | 512 |
europe-west4-a
|
v3-1024 | 1.024 |
europe-west4-a
|
v3-2048 | 2.048 |
europe-west4-a
|
TPU-Typ (v5e) | TPU v5e-Chips | Verfügbare Zonen |
V5lite-1 | 1 |
europe-west4-b |
V5Lite-4 | 4 |
europe-west4-b |
V5lite-8 | 8 |
europe-west4-b |
Asiatisch-pazifischer Raum
TPU-Typ (v2) | TPU v2-Kerne | Verfügbare Zonen |
---|---|---|
v2-8 | 8 |
asia-east1-c
|
TPU-Typen mit einer größeren Anzahl von Chips oder Kernen sind nur in begrenzten Mengen verfügbar. TPU-Typen mit einer geringeren Anzahl von Chips oder Kernen sind wahrscheinlicher verfügbar.
Kompromiss zwischen Preis und Leistung finden
Um zu entscheiden, welchen TPU-Typ Sie verwenden möchten, können Sie mit einer Cloud TPU-Anleitung Experimente durchführen, um ein Modell zu trainieren, das Ihrer Anwendung ähnelt.
Führen Sie die Anleitung für 5–10% der Anzahl der Schritte aus, die Sie zum Ausführen des vollständigen Trainings auf einem v2-8
- oder v3-8
-TPU-Typ verwenden werden. Das Ergebnis gibt an, wie lange es dauert, um diese Anzahl von Schritten für dieses Modell auf jedem TPU-Typ auszuführen.
Die Leistung bei TPU-Typen linear skaliert. Wenn Sie wissen, wie lange die Ausführung einer Aufgabe auf einem v2-8
- oder v3-8
-TPU-Typ dauert, können Sie abschätzen, wie viel Sie die Taskzeit reduzieren können, wenn Sie Ihr Modell auf einem größeren TPU-Typ mit mehr Chips oder Kernen ausführen.
Wenn ein v2-8
-TPU-Typ beispielsweise 60 Minuten bis 10.000 Schritte benötigt, sollte ein v2-32
-Knoten etwa 15 Minuten für dieselbe Aufgabe benötigen.
Wenn Sie die ungefähre Trainingszeit Ihres Modells auf einigen verschiedenen TPU-Typen kennen, können Sie die VM/TPU-Kosten mit der Trainingszeit abwägen, um einen bestmöglichen Kompromiss zwischen Preis und Leistung zu finden.
Informationen zum Ermitteln der Kostenunterschiede zwischen den verschiedenen TPU-Typen für Cloud TPU und der zugehörigen Compute Engine-VM finden Sie auf der Seite mit den TPU-Preisen.
TPU-Typ angeben
Unabhängig davon, welches Framework Sie verwenden, geben Sie beim Starten einer TPU den TPU-Typ v2
oder v3
mit dem Parameter accelerator-type
an. Für eine TPU v4 oder höher können Sie den Typ und die Größe mit AcceleratorType
oder AcceleratorConfig
angeben. Weitere Informationen finden Sie unter TPU-Versionen. Der TPU-Typbefehl hängt davon ab, ob Sie TPU-VMs oder TPU-Knoten verwenden. Beispielbefehle finden Sie unter TPUs verwalten.
Nächste Schritte
- Die Preise für TPUs in jeder Region finden Sie auf der Seite Preise.
- Weitere Informationen zur TPU-Architektur finden Sie auf der Seite Systemarchitektur.
- Weitere Informationen zu den für Cloud TPU geeigneten Modellen finden Sie unter Verwendung von TPUs.