TPU prerilasciabili

Importante: le VM spot TPU sono la versione più recente delle TPU prerilasciabili. Nuovi e le TPU prerilasciabili esistenti continuano a essere supportate, mentre le VM spot TPU usano lo stesso modello di prezzi delle TPU prerilasciabili. Tuttavia, le VM Spot TPU per fornire nuove funzionalità non supportate dalle TPU prerilasciabili. Ad esempio, TPU Le VM spot non hanno il limite di tempo di esecuzione di 24 ore della prerilasciabile TPU. Per maggiori informazioni, vedi Gestire le VM Spot TPU.

Le TPU prerilasciabili costano molto meno delle TPU non prerilasciabili. La Il servizio Cloud TPU potrebbe prerilasciare (arresto) queste TPU in qualsiasi se richiede ulteriori risorse TPU.

Creazione di una VM TPU prerilasciabile

gcloud

$ gcloud compute tpus tpu-vm create demo-tpu \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --version=tpu-vm-tf-2.16.1-pjrt \
  --preemptible
  

dove:

• demo-tpu è un nome per la TPU.
• accelerator-type è il tipo di TPU. Per ulteriori informazioni tipi di acceleratori supportati per ogni versione di TPU, consulta Versioni TPU.
• version è il l'immagine VM di Cloud TPU da installare.
• preemptible consente a Cloud TPU di prerilasciare la TPU.

Prezzi e quota delle TPU prerilasciabili

I prezzi delle TPU prerilasciabili sono notevolmente inferiori rispetto a quelli delle TPU normali. Per informazioni dettagliate, consulta la pagina dei prezzi. Non sei addebitato per le TPU se vengono prerilasciate nel primo minuto dopo la creazione che li rappresentano.

La quota per le TPU prerilasciabili è di solito più elevata ed è separata dalla quota per TPU normali. Consulta la pagina della quota.

Rilevamento se una TPU è stata prerilasciata

Utilizza il seguente comando gcloud per verificare se Il servizio Cloud TPU ha prerilasciato la tua TPU:

Elenca le TPU disponibili:

gcloud compute tpus tpu-vm list
  --zone=us-central1-b
  

L'output del comando mostra i dettagli delle TPU create nel progetto. Se La TPU è stata prerilasciata, lo stato cambia da READY a PREEMPTED.

Ad esempio:

NAME       ZONE           ACCELERATOR_TYPE  NETWORK_ENDPOINT   NETWORK  RANGE          STATUS
demo-tpu   us-central1-b  v2-8              10.240.1.2:8470    default  10.240.1.0/29  PREEMPTED

Nota: se la Cloud TPU è prerilasciata, devi eliminarla e crearne una nuova come descritto in Gestione delle TPU.

Progettazione dell'applicazione di machine learning per l'esecuzione su TPU prerilasciabili

Assicurati che la tua applicazione sia resiliente ai riavvii di VM e TPU, salvando i punti di controllo del modello regolarmente e configurando la tua applicazione per ripristinare il checkpoint più recente al riavvio.