configura l'ambiente Cloud TPU

Prima di poter utilizzare le risorse Cloud TPU per addestrare o eseguire l'inferenza sui modelli, devi effettuare le seguenti operazioni di configurazione:

Configura il progetto Google Cloud

Per utilizzare Cloud TPU, devi avere un account e un progetto Google Cloud.

  1. Nella console Google Cloud, accedi al tuo Account Google oppure registrare un nuovo account.

  2. Installa Google Cloud CLI. Google Cloud CLI è interfaccia per l'accesso e la gestione di risorse e servizi Google Cloud.

  3. Seleziona o crea un progetto Google Cloud:

    Nella console Google Cloud, seleziona o crea un progetto Cloud dal selettore di progetti.

    In Cloud Shell, imposta l'ID progetto utilizzando gcloud CLI. L'ID progetto è il nome del progetto visualizzato nella console Google Cloud.

    $ gcloud config set project PROJECT-ID

  4. Assicurati che la fatturazione sia abilitata per il tuo progetto Google Cloud.

    La configurazione della fatturazione è obbligatoria per tutti gli utilizzi di Google Cloud. Ti verrà addebitato solo l'importo dopo aver iniziato a utilizzare le risorse Google Cloud. Per ulteriori informazioni, vedi consulta la documentazione sulla fatturazione Cloud.

    La fatturazione per l'utilizzo di tutte le versioni di Cloud TPU segue i prezzi regionali standard mostrati nella pagina dei prezzi di Cloud TPU.

Configura l'ambiente per l'utilizzo di Cloud TPU

Prima di richiedere una Cloud TPU, devi attivare l'API Cloud TPU e assicurati di avere le autorizzazioni per gestire l'accesso nel tuo progetto e per creare una Cloud TPU. Ti consigliamo inoltre di creare un servizio gestito dall'utente da collegare alla TPU.

  1. Attiva l'API Cloud TPU dalla console Google Cloud o utilizzando gcloud CLI in Cloud Shell:

    gcloud

    $ gcloud services enable tpu.googleapis.com

    Console

    1. Nella console Google Cloud, vai alla pagina dell'API Cloud TPU.

    Vai alla pagina dell'API Cloud TPU

    1. Fai clic su Attiva.

  2. Assicurati di disporre dei seguenti ruoli nel progetto:

    Segui le istruzioni in Visualizza accesso attuale per visualizzare che ha accesso al tuo progetto, alla tua cartella o alla tua organizzazione. Per visualizzare la tua Individua la riga contenente il tuo indirizzo email nella colonna Entità. Se il tuo indirizzo email non è presente in questa colonna, significa che non disponi di alcun ruolo. Nella colonna Ruolo della riga con il tuo indirizzo email, controlla se l'elenco di ruoli include i ruoli richiesti.

    Se non hai un ruolo obbligatorio, concedi il ruolo o chiedi di farlo a un amministratore.

  3. Crea un agente di servizio Cloud TPU:

    Gli agenti di servizio, un tipo di identità di servizio, Identità di servizio gestite da Google utilizzate dal servizio Cloud TPU per eseguire operazioni nel tuo progetto Google Cloud. Ad esempio, il servizio per creare e gestire le risorse Cloud TPU.

      $ gcloud beta services identity create --service tpu.googleapis.com --project $PROJECT_ID

  4. Crea un account di servizio TPU:

    Gli account di servizio fungono da credenziali per le VM TPU. Ruoli associati a un l'account di servizio concede l'accesso alle risorse Google Cloud. Ti consigliamo di utilizzare una account di servizio dall'utente, concedendo solo le autorizzazioni richieste VM TPU. Quando utilizzi un account di servizio gestito dall'utente, devi specificare quando stai creando una VM TPU utilizzando il flag --service-account.

    1. Segui le istruzioni riportate in Creare account di servizio. per creare un account di servizio gestito dall'utente.

    2. Segui le istruzioni in Gestire l'accesso a progetti, cartelle e organizzazioni per concedere il servizio ai servizi Google Cloud a cui accederà la tua TPU. La si consigliano i ruoli seguenti affinché la TPU servizi Google Cloud.

Preparati a creare una Cloud TPU

Prima di creare una Cloud TPU, devi richiedere una quota. Dovresti inoltre prendere in considerazione utilizzando risorse in coda, nonché i parametri da usare per configurare della tua TPU.

  1. Quota per le richieste:

    Per creare una Cloud TPU, il tuo progetto Google Cloud deve avere una quota per la versione e le dimensioni della TPU che vuoi creare e la zona in cui quando vogliamo crearlo. Ad esempio, se vuoi creare una TPU v4-8 in us-central2-b, richiedi una quota di 8 core TPU v4 in us-central2-b. Per ulteriori informazioni sulle zone in cui è disponibile Cloud TPU, consulta Regioni e zone TPU.

    La quota viene allocata in modo diverso a seconda della versione della TPU. Diversi tipi di quota hanno aspettative di disponibilità diverse. Per ulteriori informazioni allocazione delle quote, tipi di quota e come richiederne una, consulta Quote.

  2. Stabilisci se vuoi utilizzare le risorse in coda.

    La creazione di una Cloud TPU come risorsa in coda è una best practice. In coda e le risorse ti consentono di ricevere capacità quando diventa disponibile. Puoi specificare un'ora di inizio e di fine facoltativa per il completamento della richiesta.

    Esistono diversi comandi gcloud CLI per lavorare con i comandi Google Cloud. Per ulteriori informazioni, consulta la guida dell'utente sulle risorse in coda.

  3. Determina i parametri di creazione di Cloud TPU:

    • Zona: imposta il flag --zone sulla zona in cui vuoi creare una TPU. Devi allocare una quota in questa zona. Per ulteriori informazioni, vedi Regioni e zone TPU.

    • Configurazione TPU: se non devi specificare una topologia personalizzata, oppure stai utilizzando TPU v2 o v3, imposta il flag --accelerator-type su vVERSION-TENSORCORES. Sostituisci VERSION con il numero di versione della TPU che vuoi utilizzare. Sostituisci TENSORCORES con il numero di TensorCore che vuoi utilizzare.

      Se vuoi personalizzare la topologia fisica della tua TPU, utilizza la Flag --version e --topology. Imposta il flag --version sulla TPU che vuoi utilizzare. Imposta il flag --topology sulla topologia che vuoi usare.

      Per ulteriori informazioni sulle configurazioni TPU, incluse quelle supportate configurazioni e varianti di topologia, consulta Versioni TPU.

    • Versione software: se richiedi una risorsa in coda, imposta il valore --runtime-version al nome della versione software che vuoi usare. In caso contrario, usa il flag --version. Versioni software TPU sono disponibili per i framework TensorFlow, PyTorch e JAX. Per per ulteriori informazioni sulle versioni software supportate, consulta Versioni software delle VM TPU.

    • Account di servizio: imposta --service-account sull'indirizzo email di un servizio se ne hai creato uno, per collegare l'account di servizio alla tua TPU. Se vuoto, l'account di servizio Compute Engine predefinito .

    • Tipo di quota: aggiungi il flag corrispondente al tipo di quota desiderato per utilizzare:

      Tipo di quota Bandiera
      Prenotati --reserved
      VM spot --spot
      Prerilasciabile utilizzando risorse in coda --best-effort
      Prerilasciabile senza utilizzare risorse in coda --preemptible
      On demand Non è necessario alcun flag aggiuntivo

    • Configurazione avanzata: puoi aggiungere ulteriori flag alla tua richiesta per e configurare la TPU. Consulta la documentazione di gcloud compute tpus tpu-vm create e le sezioni seguenti in Gestire le TPU per ulteriori informazioni:

Per esempi di come creare una Cloud TPU, consulta Per iniziare.

Passaggi successivi

  1. Scopri come creare e gestire le risorse VM e TPU
  2. Esegui una guida rapida di Cloud TPU