Le TPU (Tensor Processing Unit) sono ASIC sviluppati appositamente da Google per accelerare i carichi di lavoro di machine learning. Puoi eseguire i tuoi job di addestramento su AI Platform Training utilizzando Cloud TPU. AI Platform Training offre un'interfaccia di gestione dei job che ti evita la necessità di gestire autonomamente la TPU.
Puoi invece utilizzare l'API AI Platform Training jobs
nello
stesso modo in cui la usi per l'addestramento su una CPU o una GPU.
Le API TensorFlow di alto livello consentono di eseguire i modelli sull'hardware Cloud TPU.
Configurazione dell'ambiente Google Cloud
Configura il tuo ambiente Google Cloud utilizzando la sezione relativa alla configurazione della guida introduttiva.
Autorizzazione di Cloud TPU ad accedere al progetto
Segui questi passaggi per autorizzare il nome account di servizio Cloud TPU associato al tuo progetto Google Cloud:
Recupera il nome del tuo account di servizio Cloud TPU chiamando
projects.getConfig
. Esempio:PROJECT_ID=PROJECT_ID curl -H "Authorization: Bearer $(gcloud auth print-access-token)" \ https://ml.googleapis.com/v1/projects/$PROJECT_ID:getConfig
Salva il valore dei campi
serviceAccountProject
etpuServiceAccount
restituiti dall'API.Inizializza l'account di servizio Cloud TPU:
curl -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" -d '{}' \ https://serviceusage.googleapis.com/v1beta1/projects/<serviceAccountProject>/services/tpu.googleapis.com:generateServiceIdentity
Ora aggiungi l'account di servizio Cloud TPU come membro nel progetto, con il ruolo Agente di servizio Cloud ML. Completa i seguenti passaggi in
Google Cloud Console o utilizzando il comando gcloud
:
Console
- Accedi a Google Cloud Console e scegli il progetto in cui utilizzi la TPU.
- Scegli IAM & Amministratore > IAM.
- Fai clic sul pulsante Aggiungi per aggiungere un membro al progetto.
- Inserisci l'account di servizio TPU nella casella di testo Membri.
- Fai clic sull'elenco a discesa Ruoli.
- Attiva il ruolo Agente di servizio Cloud ML (Agenti di servizio > agente di servizio Cloud ML).
gcloud
Imposta le variabili di ambiente contenenti l'ID progetto e l'account di servizio Cloud TPU:
PROJECT_ID=PROJECT_ID SVC_ACCOUNT=your-tpu-sa-123@your-tpu-sa.google.com.iam.gserviceaccount.com
Concedi il ruolo
ml.serviceAgent
all'account di servizio Cloud TPU:gcloud projects add-iam-policy-binding $PROJECT_ID \ --member serviceAccount:$SVC_ACCOUNT --role roles/ml.serviceAgent
Per maggiori dettagli sulla concessione dei ruoli agli account di servizio, consulta la documentazione IAM.
Esempio: addestramento di un modello MNIST di esempio
Questa sezione mostra come addestrare un modello MNIST di esempio utilizzando una TPU e una versione del runtime 2.11. Il job di esempio utilizza il livello di scalabilità BASIC_TPU
predefinito per la configurazione della tua macchina.
Le sezioni successive della guida mostrano come impostare una configurazione personalizzata.
Questo esempio presuppone l'utilizzo di una shell Bash con l'interfaccia alla gcloud CLI installata. Esegui i comandi seguenti per ottenere il codice e inviare il tuo job di addestramento ad AI Platform Training:
Scarica il codice per i modelli di riferimento di TensorFlow e vai alla directory con il codice campione:
git clone https://github.com/tensorflow/models.git \ --branch=v2.11.0 \ --depth=1 cd models
Crea un file
setup.py
nella directorymodels
. Ciò garantisce che il comandogcloud ai-platform jobs submit training
includa tutti i sottopacchetti necessari all'interno della directorymodels/official
quando crea un tarball del codice di addestramento e che AI Platform Training installi i set di dati TensorFlow come dipendenza quando esegue il job di addestramento. Questo codice di addestramento si basa sui set di dati TensorFlow per caricare i dati MNIST.Per creare il file
setup.py
, esegui questo comando nella shell:cat << END > setup.py from setuptools import find_packages from setuptools import setup setup( name='official', install_requires=[ 'tensorflow-datasets~=3.1', 'tensorflow-model-optimization>=0.4.1' ], packages=find_packages() ) END
Invia il job di addestramento utilizzando il comando
gcloud ai-platform jobs submit training
:gcloud ai-platform jobs submit training tpu_mnist_1 \ --staging-bucket=gs://BUCKET_NAME \ --package-path=official \ --module-name=official.vision.image_classification.mnist_main \ --runtime-version=2.11 \ --python-version=3.7 \ --scale-tier=BASIC_TPU \ --region=us-central1 \ -- \ --distribution_strategy=tpu \ --data_dir=gs://tfds-data/datasets \ --model_dir=gs://BUCKET_NAME/tpu_mnist_1_output
Sostituisci BUCKET_NAME con il nome di un bucket Cloud Storage nel tuo progetto Google Cloud. L'interfaccia a riga di comando gcloud carica il codice di addestramento in pacchetto in questo bucket, mentre AI Platform Training salva l'output dell'addestramento nel bucket.
Monitorare il job di addestramento. Una volta completato il job, puoi visualizzarne l'output nella directory
gs://BUCKET_NAME/tpu_mnist_1_output
.
Scopri di più sull'addestramento di un modello su Cloud TPU
Questa sezione fornisce ulteriori informazioni sulla configurazione di un job e sull'addestramento di un modello su AI Platform Training con Cloud TPU.
Specifica di una regione che offre TPU
Devi eseguire il job in un'area geografica in cui sono disponibili le TPU. Al momento le seguenti regioni forniscono l'accesso alle TPU:
us-central1
europe-west4
Per comprendere appieno le regioni disponibili per i servizi di AI Platform Training, tra cui l'addestramento di modelli e la previsione online/batch, leggi la guida alle regioni.
Controllo delle versioni di TensorFlow e AI Platform Training
Versioni runtime di AI Platform Training 1.15, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6, 2.7, 2.8, 2.9 e 2.11 sono disponibili per l'addestramento dei tuoi modelli su Cloud TPU. Scopri di più sulle versioni di runtime di AI Platform Training e sulle versioni di TensorFlow corrispondenti.
Il criterio di controllo delle versioni è lo stesso di Cloud TPU. Nella richiesta del job di addestramento, assicurati di specificare una versione di runtime disponibile per le TPU che corrisponda alla versione di TensorFlow utilizzata nel codice di addestramento.
Connessione al server gRPC TPU
Nel programma TensorFlow, utilizza TPUClusterResolver
per connetterti al server gRPC TPU in esecuzione sulla VM TPU.
La guida all'utilizzo delle TPU di TensorFlow mostra come utilizzare TPUClusterResolver
con la strategia di distribuzione TPUStrategy
.
Tuttavia, devi apportare una modifica importante quando utilizzi TPUClusterResolver
per il codice eseguito su AI Platform Training: non fornire argomenti quando crei l'istanza TPUClusterResolver
. Quando gli argomenti delle parole chiave tpu
, zone
e project
sono tutti impostati sul valore predefinito di None
, AI Platform Training fornisce automaticamente al resolver del cluster i dettagli di connessione necessari tramite le variabili di ambiente.
Il seguente esempio di TensorFlow 2 mostra come inizializzare un resolver cluster e una strategia di distribuzione per l'addestramento su AI Platform Training:
import tensorflow as tf
resolver = tf.distribute.cluster_resolver.TPUClusterResolver()
tf.config.experimental_connect_to_cluster(resolver)
tf.tpu.experimental.initialize_tpu_system(resolver)
strategy = tf.distribute.experimental.TPUStrategy(resolver)
Utilizzo delle TPU nel codice TensorFlow
Per utilizzare le TPU su una macchina, utilizza
l'API TPUStrategy
di TensorFlow 2. La guida all'utilizzo delle TPU di TensorFlow mostra come fare.
Per l'addestramento con le TPU in TensorFlow 1, puoi utilizzare invece l'API TPUEstimator
. La guida Cloud TPU per l'API TPUEstimator
mostra come eseguire questa operazione.
La documentazione di Cloud TPU fornisce inoltre un elenco delle operazioni di basso livello di TensorFlow disponibili su Cloud TPU.
Utilizzo di TPU nel codice PyTorch
Per avvalerti di una TPU quando usi un contenitore PyTorch
predefinito, usa il
pacchetto torch_xla
. Scopri come utilizzare torch_xla
per TPU nell'addestramento nella documentazione di PyTorch. Per altri esempi di utilizzo di torch_xla
, consulta i tutorial nel repository GitHub XLA di PyTorch XLA
Tieni presente che quando esegui l'addestramento utilizzando una TPU su AI Platform Training, utilizzi un singolo dispositivo XLA, non più dispositivi XLA.
Vedi anche la sezione seguente in questa pagina sulla configurazione del job di addestramento per PyTorch e TPU.
Configurazione di una macchina TPU personalizzata
Un job di addestramento TPU viene eseguito su una configurazione a due VM. Una VM (il master) esegue il codice Python. Il master guida il server TensorFlow in esecuzione su un worker TPU.
Per utilizzare una TPU con AI Platform Training, configura il job di addestramento per accedere a una macchina abilitata per TPU in uno dei tre modi seguenti:
- Usa il livello di scalabilità
BASIC_TPU
. Puoi utilizzare questo metodo per accedere agli acceleratori TPU v2. - Utilizza un worker
cloud_tpu
e un tipo di macchina legacy per la VM master. Puoi utilizzare questo metodo per accedere agli acceleratori TPU v2. - Utilizza un worker
cloud_tpu
e un tipo di macchina Compute Engine per la VM master. Puoi utilizzare questo metodo per accedere agli acceleratori TPU v2 o TPU v3. Gli acceleratori TPU v3 sono disponibili in versione beta.
Macchina compatibile con TPU di base
Imposta il livello di scalabilità su BASIC_TPU
per ottenere una VM master e una VM TPU che includa una TPU con otto core TPU v2, come hai fatto durante l'esempio precedente.
Worker TPU in una configurazione di tipo di macchina legacy
In alternativa, puoi impostare una configurazione della macchina personalizzata se hai bisogno di più risorse di calcolo sulla VM master:
- Imposta il livello di scalabilità su
CUSTOM
. - Configura la VM master in modo che utilizzi un tipo di macchina legacy adatto ai requisiti del tuo job.
- Imposta
workerType
sucloud_tpu
per ottenere una VM TPU che includa una Cloud TPU con otto core TPU v2. - Imposta
workerCount
su 1. - Non specificare un server dei parametri quando utilizzi una Cloud TPU. Il servizio rifiuta la richiesta del job se
parameterServerCount
è maggiore di zero.
L'esempio seguente mostra un file config.yaml
che utilizza questo tipo di configurazione:
trainingInput:
scaleTier: CUSTOM
masterType: complex_model_m
workerType: cloud_tpu
workerCount: 1
Worker TPU in una configurazione di tipo di macchina di Compute Engine
Puoi anche configurare una configurazione di macchina personalizzata con un tipo di macchina Compute Engine per la VM master e una acceleratorConfig
collegata alla VM TPU.
Puoi utilizzare questo tipo di configurazione per configurare un worker TPU con otto core TPU v2 (simile a una configurazione senza acceleratorConfig
) o un worker TPU con otto core TPU v3 (beta). Scopri di più sulla differenza tra gli acceleratori TPU v2 e TPU v3.
L'utilizzo di un tipo di macchina Compute Engine offre inoltre maggiore flessibilità per la configurazione della VM master:
- Imposta il livello di scalabilità su
CUSTOM
. - Configura la VM master in modo che utilizzi un tipo di macchina Compute Engine adatto ai requisiti del tuo job.
- Imposta
workerType
sucloud_tpu
. - Aggiungi un elemento
workerConfig
con un campoacceleratorConfig
. All'interno diacceleratorConfig
, impostatype
suTPU_V2
oTPU_V3
ecount
su8
. Non puoi collegare un altro numero di core TPU. - Imposta
workerCount
su 1. - Non specificare un server dei parametri quando utilizzi una Cloud TPU. Il servizio rifiuta la richiesta del job se
parameterServerCount
è maggiore di zero.
L'esempio seguente mostra un file config.yaml
che utilizza questo tipo di configurazione:
TPU v2
trainingInput:
scaleTier: CUSTOM
masterType: n1-highcpu-16
workerType: cloud_tpu
workerCount: 1
workerConfig:
acceleratorConfig:
type: TPU_V2
count: 8
TPU v3 (beta)
trainingInput:
scaleTier: CUSTOM
masterType: n1-highcpu-16
workerType: cloud_tpu
workerCount: 1
workerConfig:
acceleratorConfig:
type: TPU_V3
count: 8
Utilizzo dei pod TPU
Un pod di TPU è una raccolta di dispositivi TPU connessi da interfacce di rete dedicate ad alta velocità. Un pod di TPU può avere fino a 2048 core TPU, consentendo di distribuire il carico di elaborazione su più TPU.
Per utilizzare i pod TPU, devi prima inviare una richiesta di aumento delle quote.
Il seguente file config.yaml
di esempio mostra come utilizzare i pod TPU:
Pod TPU v2
trainingInput:
scaleTier: CUSTOM
masterType: n1-highcpu-16
workerType: cloud_tpu
workerCount: 1
workerConfig:
acceleratorConfig:
type: TPU_V2_POD
count: 128
Pod TPU v3
trainingInput:
scaleTier: CUSTOM
masterType: n1-highcpu-16
workerType: cloud_tpu
workerCount: 1
workerConfig:
acceleratorConfig:
type: TPU_V3_POD
count: 32
Esistono limitazioni al numero di core dei pod che possono essere utilizzati per ogni tipo di TPU. Configurazioni disponibili:
Tipo di pod TPU | Numero di core dei pod disponibili per l'uso |
---|---|
TPU_V2_POD |
32, 128, 256, 512 |
TPU_V3_POD |
32, 128, 256 |
Per ulteriori dettagli su come utilizzare al meglio i core dei pod di TPU, consulta la documentazione di Cloud TPU sui pod di TPU.
Utilizzo di un container PyTorch predefinito su un worker TPU
Se vuoi eseguire l'addestramento PyTorch con una TPU, devi specificare il campo tpuTfVersion
nel campo trainingInput
del job di addestramento.
Imposta tpuTfVersion
in modo che corrisponda alla versione del contenitore PyTorch predefinito che stai utilizzando per l'addestramento.
AI Platform Training supporta l'addestramento con TPU per i seguenti container PyTorch predefiniti:
URI immagine container | tpuTfVersion |
---|---|
gcr.io/cloud-ml-public/training/pytorch-xla.1-11 |
pytorch-1.11 |
gcr.io/cloud-ml-public/training/pytorch-xla.1-10 |
pytorch-1.10 |
gcr.io/cloud-ml-public/training/pytorch-xla.1-9 |
pytorch-1.9 |
gcr.io/cloud-ml-public/training/pytorch-xla.1-7 |
pytorch-1.7 |
gcr.io/cloud-ml-public/training/pytorch-xla.1-6 |
pytorch-1.6 |
Ad esempio, per l'addestramento con il container predefinito PyTorch 1.11, puoi utilizzare il seguente file config.yaml
per configurare l'addestramento:
trainingInput:
scaleTier: CUSTOM
masterType: n1-highcpu-16
masterConfig:
imageUri: gcr.io/cloud-ml-public/training/pytorch-xla.1-11
workerType: cloud_tpu
workerCount: 1
workerConfig:
imageUri: gcr.io/cloud-ml-public/training/pytorch-xla.1-11
tpuTfVersion: pytorch-1.11
acceleratorConfig:
type: TPU_V2
count: 8
Vedi anche la sezione precedente di questa pagina sull'utilizzo di TPU nel codice PyTorch.
Utilizzo di un container personalizzato su un worker TPU
Se vuoi eseguire un container personalizzato sul worker TPU anziché utilizzare una delle versioni del runtime di AI Platform Training
che supportano le TPU, devi specificare un
campo di configurazione aggiuntivo quando invii il job di addestramento. Imposta tpuTfVersion
su una versione di runtime che includa la versione di TensorFlow utilizzata dal container. Devi specificare una versione di runtime attualmente supportata per l'addestramento con TPU.
Poiché stai configurando il job in modo che utilizzi un container personalizzato, AI Platform Training non utilizza l'ambiente di questa versione di runtime quando esegue il job di addestramento. Tuttavia, AI Platform Training richiede questo campo in modo che possa preparare correttamente il worker TPU per la versione di TensorFlow utilizzata dal container personalizzato.
L'esempio seguente mostra un file config.yaml
con una configurazione TPU simile a quella della sezione precedente, tranne in questo caso, ma in questo caso la VM master e il worker TPU eseguono ciascuno container personalizzati diversi:
TPU v2
trainingInput:
scaleTier: CUSTOM
masterType: n1-highcpu-16
masterConfig:
imageUri: gcr.io/YOUR_PROJECT_ID/your-master-image-name:your-master-tag-name
workerType: cloud_tpu
workerCount: 1
workerConfig:
imageUri: gcr.io/YOUR_PROJECT_ID/your-worker-image-name:your-worker-tag-name
tpuTfVersion: 2.11
acceleratorConfig:
type: TPU_V2
count: 8
TPU v3 (beta)
trainingInput:
scaleTier: CUSTOM
masterType: n1-highcpu-16
masterConfig:
imageUri: gcr.io/YOUR_PROJECT_ID/your-master-image-name:your-master-tag-name
workerType: cloud_tpu
workerCount: 1
workerConfig:
imageUri: gcr.io/YOUR_PROJECT_ID/your-worker-image-name:your-worker-tag-name
tpuTfVersion: 2.11
acceleratorConfig:
type: TPU_V3
count: 8
Se utilizzi il comando gcloud beta ai-platform jobs submit training
per inviare il job di addestramento, puoi specificare il campo API tpuTfVersion
con il flag --tpu-tf-version
anziché in un file config.yaml
.
Utilizzo di TPUClusterResolver
dopo il provisioning della TPU
Quando utilizzi un container personalizzato, devi attendere il provisioning della TPU prima di poter chiamare TPUClusterResolver
per utilizzarla. Il seguente
codice campione mostra come gestire la logica TPUClusterResolver
:
def wait_for_tpu_cluster_resolver_ready():
"""Waits for `TPUClusterResolver` to be ready and return it.
Returns:
A TPUClusterResolver if there is TPU machine (in TPU_CONFIG). Otherwise,
return None.
Raises:
RuntimeError: if failed to schedule TPU.
"""
tpu_config_env = os.environ.get('TPU_CONFIG')
if not tpu_config_env:
tf.logging.info('Missing TPU_CONFIG, use CPU/GPU for training.')
return None
tpu_node = json.loads(tpu_config_env)
tf.logging.info('Waiting for TPU to be ready: \n%s.', tpu_node)
num_retries = 40
for i in range(num_retries):
try:
tpu_cluster_resolver = (
tf.contrib.cluster_resolver.TPUClusterResolver(
tpu=[tpu_node['tpu_node_name']],
zone=tpu_node['zone'],
project=tpu_node['project'],
job_name='worker'))
tpu_cluster_resolver_dict = tpu_cluster_resolver.cluster_spec().as_dict()
if 'worker' in tpu_cluster_resolver_dict:
tf.logging.info('Found TPU worker: %s', tpu_cluster_resolver_dict)
return tpu_cluster_resolver
except Exception as e:
if i < num_retries - 1:
tf.logging.info('Still waiting for provisioning of TPU VM instance.')
else:
# Preserves the traceback.
raise RuntimeError('Failed to schedule TPU: {}'.format(e))
time.sleep(10)
# Raise error when failed to get TPUClusterResolver after retry.
raise RuntimeError('Failed to schedule TPU.')
Scopri di più sull'addestramento distribuito con container personalizzati.
Passaggi successivi
- Scopri di più su come addestramento dei modelli su AI Platform Training.
- Scopri di più sull'ottimizzazione degli iperparametri in AI Platform Training, con particolare attenzione ai dettagli relativi all'ottimizzazione degli iperparametri con Cloud TPU.
- Esplora altri modelli di riferimento per Cloud TPU.
- Ottimizza i tuoi modelli per Cloud TPU seguendo le best practice per Cloud TPU.
- Consulta le domande frequenti e la risoluzione dei problemi per Cloud TPU per assistenza in merito alla diagnosi e alla risoluzione dei problemi.