Regioni e zone TPU

Panoramica

Le principali differenze tra i tipi di TPU sono il prezzo, per migliorare le prestazioni, la capacità di memoria e la disponibilità a livello di zona.

Google Cloud utilizza le regioni, suddivise in zone, per definire l'area delle risorse di computing fisiche. Ad esempio, La regione us-central1 indica una regione vicina al centro geografico di Stati Uniti. Quando crei una VM TPU, specifichi la zona in cui quando vogliamo crearlo. Consulta la documentazione di Compute Engine globale, regionale e a livello di zona risorse per ulteriori informazioni sulle risorse a livello di regione e zona.

Puoi creare configurazioni TPU nelle zone mostrate nella tabella seguente.

US

Tipo TPU (v2) Core TPU v2 Zone disponibili
v2-8 8 us-central1-b
us-central1-c
us-central1-f
v2-32 32 us-central1-a
v2-128 128 us-central1-a
v2-256 256 us-central1-a
v2-512 512 us-central1-a
Tipo TPU (v3) Core TPU v3 Zone disponibili
v3-8 8 us-central1-a
us-central1-b
us-central1-f
Tipo di TPU (v4) Chip TPU v4 Zone disponibili
Tutte le configurazioni v4 varia in base alla dimensione della sezione us-central2-b
Tipo di TPU (v5e) Chip TPU v5e Zone disponibili
Tutte le configurazioni v5litepod varia in base alla dimensione della sezione us-central1-a
us-east5-a
us-east5-b
us-east5-c
us-south1-a
us-west1-c
us-west4-a
us-west4-b
Tipo di TPU (v5p) Chip TPU v5p Zone disponibili
Tutte le configurazioni v5p varia in base alla dimensione della sezione us-east5-a
us-east5-c
us-east1-d

Europa

Tipo di TPU (v2) Core TPU v2 Zone disponibili
v2-8 8 europe-west4-a
v2-32 32 europe-west4-a
v2-128 128 europe-west4-a
v2-256 256 europe-west4-a
v2-512 512 europe-west4-a
Tipo di TPU (v3) Core TPU v3 Zone disponibili
v3-8 8 europe-west4-a
v3-32 32 europe-west4-a
v3-64 64 europe-west4-a
v3-128 128 europe-west4-a
v3-256 256 europe-west4-a
v3-512 512 europe-west4-a
v3-1024 1024 europe-west4-a
v3-2048 2048 europe-west4-a
Tipo di TPU (v5e) Chip TPU v5e Zone disponibili
V5lite-1 1 europe-west4-b
V5lite-4 4 europe-west4-b
V5lite-8 8 europe-west4-b
Tutte le configurazioni v5litepod varia in base alla dimensione della sezione europe-west1-b
europe-west4-a
europe-west4-b

Asia Pacifico

Tipo di TPU (v2) Core TPU v2 Zone disponibili
v2-8 8 asia-east1-c
Tipo di TPU (v5e) Chip TPU v5e Zone disponibili
Tutte le configurazioni v5litepod varia in base alla dimensione della sezione asia-southeast1-b

I tipi di TPU con un numero più elevato di chip o core sono disponibili solo in un numero limitato di grandi dimensioni. I tipi di TPU con un numero di chip o core inferiore hanno maggiori probabilità disponibili.

Calcolo dei compromessi in termini di prezzo e prestazioni

Per decidere quale tipo di TPU utilizzare, puoi eseguire esperimenti utilizzando un su Cloud TPU per addestrare un modello in modo simile alla tua applicazione.

Esegui il tutorial per il 5-10% del numero di passaggi che utilizzerai per eseguire l'intera l'addestramento su un tipo di TPU v2-8 o v3-8. Il risultato indica quanto tempo è necessario per eseguire quel numero di passaggi per quel modello su ogni Tipo di TPU.

Le prestazioni sui tipi di TPU scalano in modo lineare, se si sa quanto tempo ci vuole per eseguire un'attività su un tipo di TPU v2-8 o v3-8, puoi stimare di quanto è possibile ridurre il tempo delle attività eseguendo il modello su una TPU più grande con più chip o core.

Ad esempio, se un tipo di TPU v2-8 richiede da 60 minuti a 10.000 passi, una Il nodo v2-32 dovrebbe impiegare circa 15 minuti per funzionare dell'attività.

Quando conosci il tempo di addestramento approssimativo del tuo modello su alcuni di TPU, puoi ponderare il costo di VM/TPU rispetto al tempo di addestramento a decidere il miglior compromesso tra prezzo e prestazioni.

Per determinare la differenza di costo tra i diversi tipi di TPU per per Cloud TPU e la VM Compute Engine associata, controlla Pagina dei prezzi per TPU.

Specifica il tipo di TPU

Indipendentemente dal framework che utilizzi, devi specificare un v2 o v3 di TPU con accelerator-type quando avvia una TPU. Per una TPU v4 o successiva, puoi specificare il tipo e la dimensione utilizzando AcceleratorType o AcceleratorConfig. Per ulteriori informazioni, consulta la sezione TPU versions. I comandi di esempio sono in Gestione delle TPU.

Passaggi successivi