Regioni e zone TPU
Panoramica
Le principali differenze tra i tipi di TPU sono prezzo, prestazioni, capacità di memoria e disponibilità a livello di zona.
Google Cloud utilizza le regioni, suddivise in zone, per definire la posizione geografica delle risorse di calcolo fisiche. Ad esempio, us-central1
regione indica una regione vicina al centro geografico degli Stati Uniti. Quando crei un nodo TPU, specifichi la zona in cui vuoi crearlo. Per ulteriori informazioni sulle risorse a livello di regione e zona, consulta il documento sulle risorse globali, a livello di regione e di zona di Compute Engine.
Puoi creare configurazioni TPU nelle zone mostrate nella tabella seguente.
US
Tipo TPU (v2) | Core TPU v2 | Zone disponibili |
---|---|---|
v2-8 | 8 |
us-central1-b us-central1-c us-central1-f
|
v2-32 | 32 |
us-central1-a
|
v2-128 | 128 |
us-central1-a
|
v2-256 | 256 |
us-central1-a
|
v2-512 | 512 |
us-central1-a
|
Tipo TPU (v3) | Core TPU v3 | Zone disponibili |
v3-8 | 8 |
us-central1-a us-central1-b us-central1-f
|
Tipo TPU (v4) | Chip TPU v4 | Zone disponibili |
Tutte le configurazioni v4 | varia in base alle dimensioni della sezione |
us-central2-b |
Tipo TPU (v5e) | Chip TPU v5e | Zone disponibili |
V5litepod-1 | 1 |
us-west4-a us-east5-b |
v5litepod-4 | 4 |
us-west4-a us-east5-b |
V5litepod-8 | 8 |
us-west4-a us-east5-b |
v5litepod-16 | 16 |
us-west4-a us-east5-b |
v5litepod-32 | 32 |
us-west4-a us-east5-b |
v5litepod-64 | 64 |
us-west4-a us-east5-b |
v5litepod-128 | 128 |
us-west4-a us-east5-b |
v5litepod-256 | 256 |
us-west4-a us-east5-b |
Tipo TPU (v5p) | Chip TPU v5p | Zone disponibili |
Tutte le configurazioni v5p | varia in base alle dimensioni della sezione |
us-east5-a us-east5-c us-east1-d |
Europa
Tipo di TPU (v2) | Core TPU v2 | Zone disponibili |
---|---|---|
v2-8 | 8 |
europe-west4-a
|
v2-32 | 32 |
europe-west4-a
|
v2-128 | 128 |
europe-west4-a
|
v2-256 | 256 |
europe-west4-a
|
v2-512 | 512 |
europe-west4-a
|
Tipo di TPU (v3) | Core TPU v3 | Zone disponibili |
v3-8 | 8 |
europe-west4-a
|
v3-32 | 32 |
europe-west4-a
|
v3-64 | 64 |
europe-west4-a
|
v3-128 | 128 |
europe-west4-a
|
v3-256 | 256 |
europe-west4-a
|
v3-512 | 512 |
europe-west4-a
|
v3-1024 | 1024 |
europe-west4-a
|
v3-2048 | 2048 |
europe-west4-a
|
Tipo TPU (v5e) | Chip TPU v5e | Zone disponibili |
Versione 5lite 1 | 1 |
europe-west4-b |
V5lite 4 | 4 |
europe-west4-b |
Versione 5 Lite 8 | 8 |
europe-west4-b |
Asia Pacifico
Tipo di TPU (v2) | Core TPU v2 | Zone disponibili |
---|---|---|
v2-8 | 8 |
asia-east1-c
|
I tipi di TPU con un numero maggiore di chip o core sono disponibili solo in quantità limitate. È più probabile che siano disponibili tipi di TPU con un numero di chip o core inferiore.
Calcolo dei compromessi in termini di prezzo e prestazioni
Per decidere quale tipo di TPU utilizzare, puoi eseguire esperimenti utilizzando un tutorial su Cloud TPU per addestrare un modello simile alla tua applicazione.
Esegui il tutorial per il 5-10% del numero di passaggi che utilizzerai per eseguire l'addestramento completo su un tipo di TPU v2-8
o v3-8
. Il risultato
indica quanto tempo ci vuole per eseguire il numero di passaggi per quel modello su ogni
tipo di TPU.
Poiché le prestazioni dei tipi di TPU scalano in modo lineare, se sai quanto tempo ci vuole per eseguire un'attività su un tipo di TPU v2-8
o v3-8
, puoi stimare di quanto puoi ridurre il tempo delle attività eseguendo il modello su un tipo di TPU più grande con più chip o core.
Ad esempio, se un tipo di TPU v2-8
impiega da 60 minuti a 10.000 passaggi, un nodo v2-32
dovrebbe impiegare circa 15 minuti per eseguire la stessa attività.
Quando conosci il tempo approssimativo di addestramento del tuo modello su diversi tipi di TPU, puoi valutare il costo della VM/TPU rispetto al tempo di addestramento per decidere il miglior compromesso in termini di prezzo e prestazioni.
Per determinare la differenza di costo tra i diversi tipi di TPU per Cloud TPU e la VM di Compute Engine associata, consulta la pagina dei prezzi per TPU.
Specifica del tipo di TPU
Indipendentemente dal framework utilizzato, devi specificare un tipo di TPU v2
o v3
con il parametro accelerator-type
quando avvii una TPU. Per una TPU v4 o successiva, puoi specificare il tipo e le dimensioni utilizzando AcceleratorType
o
AcceleratorConfig
. Per maggiori informazioni, consulta la sezione Versioni TPU. Il comando di tipo TPU dipende dall'utilizzo di VM TPU o nodi TPU. I comandi di esempio sono mostrati in Gestione delle TPU.
Passaggi successivi
- Per visualizzare i prezzi delle TPU in ogni regione, consulta la pagina Prezzi.
- Scopri di più sull'architettura TPU nella pagina Architettura di sistema.
- Consulta Quando utilizzare le TPU per conoscere i tipi di modelli più adatti a Cloud TPU.