Regioni e zone TPU

Panoramica

Le principali differenze tra i tipi di TPU sono prezzo, prestazioni, capacità di memoria e disponibilità nelle zone.

Google Cloud utilizza regioni suddivise in zone per definire la posizione geografica delle risorse di calcolo fisiche. Ad esempio, la regione us-central1 indica una regione vicino al centro geografico degli Stati Uniti. Quando crei una VM TPU, specifichi la zona in cui vuoi crearla. Per ulteriori informazioni sulle risorse di aree geografiche e zone, consulta il documento Risorse di aree geografiche, zone e globali di Compute Engine.

Puoi creare configurazioni TPU nelle zone indicate nella tabella seguente.

US

Tipo di TPU (v2) Core TPU v2 Zone disponibili
v2-8 8 us-central1-b
us-central1-c
us-central1-f
v2-32 32 us-central1-a
v2-128 128 us-central1-a
v2-256 256 us-central1-a
v2-512 512 us-central1-a
Tipo di TPU (v3) Core TPU v3 Zone disponibili
v3-8 8 us-central1-a
us-central1-b
us-central1-f
Tipo di TPU (v4) Chip TPU v4 Zone disponibili
Tutte le configurazioni v4 varia in base alle dimensioni del segmento us-central2-b
Tipo di TPU (v5e) Chip TPU v5e Zone disponibili
Tutte le configurazioni di v5litepod varia in base alle dimensioni del segmento us-central1-a
us-east5-a
us-east5-b
us-east5-c
us-south1-a
us-west1-c
us-west4-a
us-west4-b
Tipo di TPU (v5p) Chip TPU v5p Zone disponibili
Tutte le configurazioni v5p Varia in base alle dimensioni del segmento us-east5-a

Europa

Tipo di TPU (v2) Core TPU v2 Zone disponibili
v2-8 8 europe-west4-a
v2-32 32 europe-west4-a
v2-128 128 europe-west4-a
v2-256 256 europe-west4-a
v2-512 512 europe-west4-a
Tipo di TPU (v3) Core TPU v3 Zone disponibili
v3-8 8 europe-west4-a
v3-32 32 europe-west4-a
v3-64 64 europe-west4-a
v3-128 128 europe-west4-a
v3-256 256 europe-west4-a
v3-512 512 europe-west4-a
v3-1024 1024 europe-west4-a
v3-2048 2048 europe-west4-a
Tipo di TPU (v5e) Chip TPU v5e Zone disponibili
v5lite-1 1 europe-west4-b
v5lite-4 4 europe-west4-b
v5lite-8 8 europe-west4-b
Tutte le configurazioni di v5litepod Varia in base alle dimensioni del segmento europe-west1-b
europe-west4-a
europe-west4-b
Tipo di TPU (v5p) Chip TPU v5p Zone disponibili
Tutte le configurazioni v5p Varia in base alle dimensioni del segmento europe-west4-b

Asia Pacifico

Tipo di TPU (v2) Core TPU v2 Zone disponibili
v2-8 8 asia-east1-c
Tipo di TPU (v5e) Chip TPU v5e Zone disponibili
Tutte le configurazioni di v5litepod Varia in base alle dimensioni del segmento asia-southeast1-b

I tipi di TPU con un numero maggiore di chip o core sono disponibili solo in quantità limitate. I tipi di TPU con un numero inferiore di chip o core hanno maggiori probabilità di essere disponibili.

Calcolo dei compromessi tra prezzo e prestazioni

Per decidere quale tipo di TPU utilizzare, puoi eseguire esperimenti utilizzando un tutorial su Cloud TPU per addestrare un modello simile alla tua applicazione.

Esegui il tutorial per il 5-10% del numero di passaggi che utilizzerai per eseguire l'addestramento completo su un tipo di TPU v2-8 o v3-8. Il risultato indica il tempo necessario per eseguire quel numero di passaggi per quel modello su ogni tipo di TPU.

Poiché le prestazioni sui tipi di TPU sono scalabili in modo lineare, se sai quanto tempo occorre per eseguire un'attività su un tipo di TPU v2-8 o v3-8, puoi stimare quanto puoi ridurre il tempo dell'attività eseguendo il modello su un tipo di TPU più grande con più chip o core.

Ad esempio, se un tipo di TPU v2-8 impiega 60 minuti per 10.000 passaggi, un nodo v2-32 dovrebbe impiegare circa 15 minuti per eseguire la stessa attività.

Quando conosci il tempo di addestramento approssimativo del tuo modello su alcuni tipi di TPU diversi, puoi valutare il costo della VM/TPU rispetto al tempo di addestramento per aiutarti a decidere il miglior compromesso tra prezzo e prestazioni.

Per determinare la differenza di costo tra i diversi tipi di TPU per Cloud TPU e la VM Compute Engine associata, consulta la pagina dei prezzi delle TPU.

Specifica del tipo di TPU

Indipendentemente dal framework in uso, specifica un tipo di TPU v2 o v3 con il parametro accelerator-type quando avvii una TPU. Per una TPU v4 o successive, puoi specificare il tipo e le dimensioni utilizzando AcceleratorType o AcceleratorConfig. Per ulteriori informazioni, consulta le versioni TPU. I comandi di esempio sono riportati in Gestione delle TPU.

Passaggi successivi