Tipi e topologie TPU
Panoramica
Per informazioni sui diversi tipi di TPU e sulle relative funzionalità software e hardware, consulta il documento Architettura di sistema.
Quando crei una Cloud TPU utilizzando gcloud
, devi
specificare un tipo di TPU e una topologia. A tale scopo, utilizza il flag ACCELERATOR_TYPE.
Il tipo di TPU definisce la versione TPU (v2, v3, v4). La topologia TPU definisce il numero di core o chip assegnati alle TPU, quindi la quantità di memoria TPU disponibile per il carico di lavoro di machine learning.
La configurazione TPU viene definita dalla combinazione del tipo di TPU e della topologia.
Tipi di TPU
Il tipo di TPU è specificato nel flag ACCELERATOR_TYPE come v2
, v3
o v4
seguito dal numero di core (ad esempio, 8, 32, 128).
Ad esempio, v2-8
specifica
una configurazione TPU v2
con 8 core TPU. v3-2048
specifica una v3
configurazione dei pod TPU con 2048 core.
Topologie TPU
Una topologia TPU è il numero e la disposizione delle risorse di calcolo (core o chip) nella configurazione.
Ad esempio, v3-8
specifica la versione v3
e una topologia con 8 core. Questo valore può essere specificato anche come topologia 2x2 perché esistono 2*2 chip e ogni chip ha 2 core o un totale di 8 core. Un pod v2-32 può anche essere rappresentato come una topologia v2 4x4 (4*4 chip, ognuno con 2 core per un totale di 32 core). Per la versione 4, è presente una dimensione aggiuntiva, quindi la stessa configurazione a 32 core può essere rappresentata in chip come 2 x 2x4 (16 chip, ognuno con 2 core).
Puoi cambiare il tipo TPU in un altro tipo TPU con lo stesso numero di core o chip (ad esempio v2-128
e v3-128
) esegui lo script di addestramento senza modificare il codice.
Tuttavia, se passi a un tipo TPU con un numero maggiore o minore di chip o core, dovrai eseguire ottimizzazioni e ottimizzazioni significative.
Per ulteriori informazioni, consulta la pagina relativa all'addestramento sui pod di TPU.
Per visualizzare i prezzi per ciascun tipo di TPU in ogni area geografica, consulta la pagina Prezzi.
Passaggi successivi
- Scopri di più sull'architettura TPU nella pagina Architettura di sistema.
- Consulta la sezione Quando utilizzare le TPU per scoprire i tipi di modelli che si adattano bene alla Cloud TPU.