Tipi e topologie TPU

Panoramica

Per informazioni sui diversi tipi di TPU e sulle relative funzionalità software e hardware, consulta il documento Architettura di sistema.

Quando crei una Cloud TPU utilizzando gcloud, devi specificare un tipo di TPU e una topologia. A tale scopo, utilizza il flag ACCELERATOR_TYPE.

Il tipo di TPU definisce la versione TPU (v2, v3, v4). La topologia TPU definisce il numero di core o chip assegnati alle TPU, quindi la quantità di memoria TPU disponibile per il carico di lavoro di machine learning.

La configurazione TPU viene definita dalla combinazione del tipo di TPU e della topologia.

Tipi di TPU

Il tipo di TPU è specificato nel flag ACCELERATOR_TYPE come v2, v3 o v4 seguito dal numero di core (ad esempio, 8, 32, 128). Ad esempio, v2-8 specifica una configurazione TPU v2 con 8 core TPU. v3-2048 specifica una v3configurazione dei pod TPU con 2048 core.

Topologie TPU

Una topologia TPU è il numero e la disposizione delle risorse di calcolo (core o chip) nella configurazione. Ad esempio, v3-8 specifica la versione v3 e una topologia con 8 core. Questo valore può essere specificato anche come topologia 2x2 perché esistono 2*2 chip e ogni chip ha 2 core o un totale di 8 core. Un pod v2-32 può anche essere rappresentato come una topologia v2 4x4 (4*4 chip, ognuno con 2 core per un totale di 32 core). Per la versione 4, è presente una dimensione aggiuntiva, quindi la stessa configurazione a 32 core può essere rappresentata in chip come 2 x 2x4 (16 chip, ognuno con 2 core).

Puoi cambiare il tipo TPU in un altro tipo TPU con lo stesso numero di core o chip (ad esempio v2-128 e v3-128) esegui lo script di addestramento senza modificare il codice. Tuttavia, se passi a un tipo TPU con un numero maggiore o minore di chip o core, dovrai eseguire ottimizzazioni e ottimizzazioni significative. Per ulteriori informazioni, consulta la pagina relativa all'addestramento sui pod di TPU.

Per visualizzare i prezzi per ciascun tipo di TPU in ogni area geografica, consulta la pagina Prezzi.

Passaggi successivi