configura l'ambiente Cloud TPU

Prima di poter utilizzare le risorse Cloud TPU per addestrare o eseguire l'inferenza sui modelli, devi eseguire i seguenti passaggi di configurazione:

Configura il progetto Google Cloud

Per utilizzare Cloud TPU devi avere un account e un progetto Google Cloud.

  1. Nella console Google Cloud, accedi al tuo Account Google o registrati per un nuovo account.

  2. Installa Google Cloud CLI. Google Cloud CLI è un'interfaccia per l'accesso e la gestione delle risorse e dei servizi Google Cloud.

  3. Seleziona o crea un progetto Google Cloud:

    Nella console Google Cloud, seleziona o crea un progetto Cloud dal selettore di progetti.

    In Cloud Shell, imposta l'ID progetto utilizzando gcloud CLI. L'ID progetto è il nome del progetto visualizzato nella console Google Cloud.

    $ gcloud config set project PROJECT-ID

  4. Assicurati che la fatturazione sia abilitata per il tuo progetto Google Cloud.

    La configurazione della fatturazione è obbligatoria per tutti gli utilizzi di Google Cloud. L'addebito verrà effettuato solo dopo che avrai iniziato a utilizzare le risorse Google Cloud. Per ulteriori informazioni, consulta la documentazione di fatturazione Cloud.

    La fatturazione per l'utilizzo di tutte le versioni di Cloud TPU segue i prezzi regionali standard mostrati nella pagina dei prezzi di Cloud TPU.

Configura l'ambiente per l'utilizzo di Cloud TPU

Prima di richiedere una Cloud TPU, devi attivare l'API Cloud TPU e assicurarti di disporre delle autorizzazioni per gestire l'accesso nel progetto e creare una Cloud TPU. Ti consigliamo inoltre di creare un account di servizio gestito dall'utente da collegare alla TPU.

  1. Attiva l'API Cloud TPU dalla console Google Cloud o utilizzando gcloud CLI in Cloud Shell:

    gcloud

    $ gcloud services enable tpu.googleapis.com

    Console

    1. Nella console Google Cloud, vai alla pagina dell'API Cloud TPU.

    Vai alla pagina dell'API Cloud TPU

    1. Fai clic su Abilita.

  2. Assicurati di disporre dei seguenti ruoli nel progetto:

    Segui le istruzioni in Visualizzare l'accesso attuale per vedere chi ha accesso al progetto, alla cartella o all'organizzazione. Per visualizzare il tuo accesso, nella colonna Entità, individua la riga contenente il tuo indirizzo email. Se il tuo indirizzo email non è presente in quella colonna, significa che non hai alcun ruolo. Nella colonna Ruolo relativa alla riga con il tuo indirizzo email, controlla se l'elenco dei ruoli include i ruoli richiesti.

    Se non hai un ruolo richiesto, concedi il ruolo o chiedi a un amministratore di farlo.

  3. Crea un account di servizio TPU:

    Gli account di servizio consentono al servizio Cloud TPU di accedere ad altri servizi Google Cloud. Un account di servizio gestito dall'utente è una pratica Google Cloud consigliata. Collega un account di servizio alla TPU quando la crei utilizzando il flag --service-account.

    1. Segui le istruzioni riportate in Creare account di servizio per crearne uno.

    2. Segui le istruzioni in Gestire l'accesso a progetti, cartelle e organizzazioni per concedere al tuo account di servizio l'accesso ai servizi Google Cloud a cui accederà la tua TPU. I ruoli seguenti sono consigliati in modo che la TPU possa accedere ai servizi Google Cloud di uso comune.

Preparati a creare una Cloud TPU

Prima di creare una Cloud TPU, devi richiedere una quota. Dovresti inoltre considerare l'utilizzo delle risorse in coda, nonché dei parametri da utilizzare per configurare la TPU.

  1. Quota per le richieste:

    Per creare una Cloud TPU, il tuo progetto Google Cloud deve avere una quota per la versione e le dimensioni della TPU che vuoi creare e per la zona in cui vuoi crearla. Ad esempio, se vuoi creare una TPU v4-8 in us-central2-b, devi richiedere una quota di 8 core TPU v4 in us-central2-b. Per ulteriori informazioni sulle zone in cui è disponibile Cloud TPU, consulta Regioni e zone TPU.

    La quota viene allocata in modo diverso a seconda della versione di TPU. I diversi tipi di quota hanno aspettative di disponibilità diverse. Per ulteriori informazioni sull'allocazione delle quote, sui tipi di quota e su come richiederne la quota, consulta Quote.

  2. Decidi se utilizzare le risorse in coda.

    La creazione di una Cloud TPU come risorsa in coda è una best practice. Le risorse in coda consentono di ricevere la capacità non appena diventa disponibile. Puoi specificare un'ora di inizio e di fine facoltativa per il momento in cui la richiesta deve essere soddisfatta.

    Esistono diversi comandi gcloud CLI per lavorare con le risorse in coda. Per ulteriori informazioni, consulta la guida dell'utente sulle risorse in coda.

  3. Determina i parametri di creazione di Cloud TPU:

    • Zona: imposta il flag --zone sulla zona in cui vuoi creare una TPU. Devi avere una quota allocata in questa zona. Per maggiori informazioni, consulta Regioni e zone TPU.

    • Configurazione TPU: se non devi specificare una topologia personalizzata o utilizzi TPU v2 o v3, imposta il flag --accelerator-type su vVERSION-TENSORCORES. Sostituisci VERSION con il numero di versione della TPU che vuoi utilizzare. Sostituisci TENSORCORES con il numero di TensorCore che vuoi utilizzare.

      Se vuoi personalizzare la topologia fisica della tua TPU, utilizza i flag --version e --topology. Imposta il flag --version sulla versione TPU che vuoi utilizzare. Imposta il flag --topology sulla topologia che vuoi utilizzare.

      Per ulteriori informazioni sulle configurazioni TPU, incluse le configurazioni supportate e le varianti di topologia, consulta la pagina relativa alle versioni TPU.

    • Versione software: se richiedi una risorsa in coda, imposta il flag --runtime-version sul nome della versione software che vuoi utilizzare. In caso contrario, utilizza il flag --version. Sono disponibili versioni software TPU per i framework TensorFlow, PyTorch e JAX. Per ulteriori informazioni sulle versioni software supportate, consulta Versioni software delle VM TPU.

    • Account di servizio: imposta --service-account sull'indirizzo email di un account di servizio, se ne hai creato uno, per collegare l'account di servizio alla TPU. Se è vuoto, verrà utilizzato l'account di servizio Compute Engine predefinito.

    • Tipo di quota: se vuoi creare una TPU utilizzando la quota riservata, aggiungi il flag --reserved alla tua richiesta.

      Se vuoi creare una TPU utilizzando una quota prerilasciabile e richiedi una risorsa in coda, aggiungi il flag --best-effort alla richiesta.

      Se vuoi creare una TPU utilizzando la quota prerilasciabile e non richiedi una risorsa in coda, aggiungi il flag --preemptible alla richiesta.

      Se vuoi creare una TPU utilizzando la quota on demand, non è necessario aggiungere ulteriori flag.

    • Configurazione avanzata: puoi aggiungere ulteriori flag alla richiesta per configurare la TPU. Per ulteriori informazioni, consulta la documentazione di gcloud compute tpus tpu-vm create e le seguenti sezioni in Gestione delle TPU:

Per esempi su come creare una Cloud TPU, consulta la guida introduttiva.

Passaggi successivi

  1. Scopri come creare e gestire risorse VM e TPU
  2. Esegui una guida rapida di Cloud TPU