TPU prerilasciabili

Importante: le VM TPU spot sono l'ultima versione delle TPU prerilasciabili. Le TPU prerilasciabili nuove e esistenti continuano a essere supportate e le VM TPU spot utilizzano lo stesso modello di prezzi delle TPU prerilasciabili. Tuttavia, le VM spot TPU forniscono nuove funzionalità che le TPU prerilasciabili non supportano. Ad esempio, le VM spot TPU non hanno il limite di tempo di esecuzione di 24 ore delle TPU prerilasciabili. Per ulteriori informazioni, consulta Gestire le VM spot TPU.

Le TPU prerilasciabili costano molto meno delle TPU non prerilasciabili. Il servizio Cloud TPU potrebbe prerilasciare (chiudere) queste TPU in qualsiasi momento, se richiede risorse TPU aggiuntive.

Creazione di una VM TPU preassegnata

gcloud

$ gcloud compute tpus tpu-vm create demo-tpu \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --version=tpu-vm-tf-2.18.0-pjrt \
  --preemptible
  

dove:

• demo-tpu è un nome per la TPU.
• accelerator-type è il tipo di TPU. Per ulteriori informazioni sui tipi di acceleratori supportati per ogni versione TPU, consulta Versioni TPU.
• version è l'immagine VM Cloud TPU da installare.
• preemptible consente a Cloud TPU di prelevare la TPU.

Prezzi e quota per le TPU prerilasciabili

I prezzi delle TPU prerilasciabili sono notevolmente inferiori a quelli delle TPU normali. Per informazioni dettagliate, consulta la pagina dei prezzi. Non viene addebitato alcun costo per le TPU se vengono prerilasciate nel primo minuto dopo la creazione.

La quota per le TPU prerilasciabili è in genere più alta ed è separata dalla quota per le TPU normali. Consulta la pagina delle quote.

Rilevare se una TPU è stata prerilasciata

Utilizza il seguente comando gcloud per verificare se il servizio Cloud TPU ha eseguito la preemption della tua TPU:

Elenca le TPU disponibili:

gcloud compute tpus tpu-vm list
  --zone=us-central1-b
  

L'output del comando mostra i dettagli delle TPU create nel progetto. Se un TPU è stato prelevato, lo stato passa da READY a PREEMPTED.

Ad esempio:

NAME       ZONE           ACCELERATOR_TYPE  NETWORK_ENDPOINT   NETWORK  RANGE          STATUS
demo-tpu   us-central1-b  v2-8              10.240.1.2:8470    default  10.240.1.0/29  PREEMPTED

Nota: se la tua Cloud TPU viene prerilasciata, devi eliminarla e crearne una nuova come descritto in Gestione delle TPU.

Progettare l'applicazione di machine learning per l'esecuzione su TPU prerilasciabili

Assicurati che l'applicazione sia resiliente ai riavvii della VM e della TPU salvando regolarmente i checkpoint del modello e configurando l'applicazione in modo da ripristinare il checkpoint più recente al riavvio.