GPU disponibili

Le GPU vengono utilizzate per accelerare i carichi di lavoro e Cloud Workstations supporta il collegamento di GPU alle workstation. Cloud Workstations supporta molti dei vari modelli di GPU disponibili per l'associazione alle VM Compute Engine. Il modello e la quantità di GPU da collegare a ciascuna workstation vengono specificate nella configurazione della workstation. Handle Cloud Workstations collegare le GPU e installare i relativi driver dei dispositivi.

Il collegamento di GPU alle workstation incide sui costi descritti in Panoramica dei prezzi di Cloud Workstations.

Limitazioni

Una configurazione di workstation può specificare GPU, in base alle seguenti condizioni limitazioni:

Modelli di GPU supportati

Cloud Workstations supporta molti dei modelli di GPU messi a disposizione da Compute Engine. I modelli supportati dipendono dalle serie di macchine scelte per configurazione della workstation, come riassunto nella tabella seguente.

Serie di macchine N1

La serie di macchine general purpose N1 supporta diversi modelli di GPU e le configurazioni delle workstation che specificano uno dei tipi di macchine N1 possono anche specificare uno dei seguenti modelli di GPU. Per il modello di GPU scelto, la configurazione può specificare il numero di schede GPU da collegare a ogni workstation.

Modello GPU Conteggi GPU
NVIDIA T4 (nvidia-tesla-t4) 1, 2 o 4 GPU
NVIDIA P4 (nvidia-tesla-p4) 1, 2 o 4 GPU
NVIDIA V100 (nvidia-tesla-v100) 1, 2, 4 o 8 GPU
NVIDIA P100 (nvidia-tesla-p100) 1, 2 o 4 GPU

Serie di macchine A2

La serie di macchine ottimizzate per l'acceleratore standard A2 ha un numero fisso di GPU NVIDIA A100 collegate, esclusivamente in base il tipo di macchina scelto.

La seguente tabella mostra la mappatura dal tipo di macchina al numero di schede che verranno collegate.

Modello GPU Tipo di macchina Conteggio GPU
NVIDIA A100 40 GB (nvidia-tesla-a100) a2-highgpu-1g 1 GPU
a2-highgpu-2g 2 GPU
a2-highgpu-4g 4 GPU
a2-highgpu-8g 8 GPU
a2-megagpu-16g 16 GPU

Cloud Workstations non supporta i tipi di macchine ultra A2.

Aggiungere GPU a una configurazione della workstation esistente

Per aggiungere GPU a una configurazione della workstation, completa i passaggi in una delle seguenti schede.

Prima di iniziare

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

Install the Google Cloud CLI, then initialize it by running the following command:

gcloud init

Consulta i prezzi di Cloud Workstations per comprendere in che modo la configurazione delle GPU influirà sui tuoi costi. Nota che le GPU siano collegate alle macchine virtuali (VM) pre-avviate specificate in base alle dimensioni del pool di avvio rapido di una configurazione.

Aggiornamento della configurazione esistente

Console

Configura le GPU su una configurazione di workstation esistente dal Console Google Cloud, eseguendo queste operazioni:

  1. Nella console Google Cloud, vai alla Pagina Configurazioni workstation.

    Vai a Configurazioni di workstation

  2. Nell'elenco Configurazioni della workstation, fai clic sul nome della configurazione a cui aggiungere le GPU.

  3. Nella pagina Dettagli configurazione della workstation, fai clic su modifica Modifica.

  4. Nella pagina Modifica configurazione workstation, fai clic su Impostazioni macchina nel menu di navigazione.

  5. Fai clic sul pulsante di attivazione/disattivazione per selezionare GPU anziché la famiglia di macchine General purpose.

    Nel campo Tipo di GPU, seleziona il modello di GPU che vuoi utilizzare.

    Nel campo Numero di GPU, seleziona il numero di schede GPU da collegare a ogni workstation.

    Nel campo Tipo di macchina, seleziona il tipo di macchina che vuoi utilizzare.

  6. Fai clic su Salva per aggiornare la configurazione.

gcloud

Configura le GPU in una configurazione della workstation esistente eseguendo il comando gcloud workstations configs update.

Innanzitutto, raccogli alcune informazioni per vedere quali modelli di GPU sono disponibili e sceglierne uno per la configurazione:

  1. Per controllare le zone di replica specificate dalla configurazione, seguente comando dell'interfaccia a riga di comando di gcloud:

    gcloud workstations configs describe \
      --format="table(name.scope(workstationConfigs),replicaZones.list())" \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID
    

    Sostituisci quanto segue:

    • PROJECT_ID: l'ID del progetto che contiene la configurazione della workstation.
    • LOCATION: la posizione del cluster di workstation.
    • WORKSTATION_CLUSTER_ID: il nome del cluster di workstation che contiene la configurazione della workstation.
    • WORKSTATION_CONFIG_ID: il nome della configurazione della workstation.
  2. Scegli un modello di GPU supportato disponibile in entrambe le zone di replica della configurazione eseguendo il comando gcloud compute accelerator-types list:

    gcloud compute accelerator-types list \
      --format="table(name:sort=1,zone,description,maximumCardsPerInstance)" \
      --filter='zone.basename()=(ZONES) AND name~"nvidia-tesla-(a100|p100|p4|t4|v100)$"' \
      --project=PROJECT_ID
    

    Sostituisci ZONES con un elenco separato da virgole di zone di replica determinate nel passaggio precedente (ad es. us-central1-a,us-central1-c).

    Scegli un modello GPU elencato due volte nella tabella, a indicare che disponibile in entrambe le zone di replica.

    Prendi nota del numero massimo di schede che puoi collegare per il modello di GPU scelto.

  3. Determina quali tipi di macchine supportati sono disponibili in entrambe le zone di replica della configurazione utilizzando il comando gcloud compute machine-types list.

    1. Se nel passaggio precedente hai scelto il modello di GPU NVIDIA A100 da 40 GB, la tua configurazione deve utilizzare la serie di macchine A2:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:a2-highgpu- OR name:a2-megagpu-" \
        --zones=ZONES \
        --project=PROJECT_ID
      
    2. Se hai scelto un altro modello GPU nel passaggio precedente, il tuo deve utilizzare la serie di macchine N1:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:n1-standard-" \
        --zones=ZONES \
        --project=PROJECT_ID
      

    Scegli un tipo di macchina elencato due volte nella tabella per indicare che è disponibile in entrambe le zone di replica.

  4. Ora che hai selezionato un modello GPU e un tipo di macchina compatibile, aggiorna la configurazione:

    1. Per le GPU NVIDIA A100 da 40 GB, esegui questo comando per aggiornare configurazione:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION \
        --cluster=WORKSTATION_CLUSTER_ID \
        WORKSTATION_CONFIG_ID \
        --machine-type=A2_MACHINE_TYPE
      

      Sostituisci A2_MACHINE_TYPE con il tipo di macchina A2 scelto determinato nel passaggio precedente (ad esempio a2-highgpu-1g).

    2. Per tutti gli altri modelli di GPU, esegui questo comando:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION 
        --cluster=WORKSTATION_CLUSTER_ID \
        WORKSTATION_CONFIG_ID \
        --machine-type=N1_MACHINE_TYPE \
        --accelerator-type=ACCELERATOR_TYPE \
        --accelerator-count=ACCELERATOR_COUNT
      

      Sostituisci quanto segue:

      • N1_MACHINE_TYPE: il tipo di macchina scelto dalla serie N1 (ad esempio n1-standard-2).
      • ACCELERATOR_TYPE: il nome del modello di GPU scelto (ad esempio nvidia-tesla-t4).
      • ACCELERATOR_COUNT: il numero di GPU da collegare a ogni workstation (ad esempio 1, 2, 4). Deve essere una potenza di due inferiore al massimo consentito per il modello GPU.

Crea una nuova configurazione di workstation con GPU

Per creare una nuova configurazione della workstation che colleghi le GPU alle workstation basate su di essa, completa i passaggi in una delle seguenti schede.

Prima di iniziare

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

Install the Google Cloud CLI, then initialize it by running the following command:

gcloud init

REST

Per utilizzare gli esempi dell'API REST in questa pagina in un ambiente di sviluppo locale, utilizza le credenziali fornite a gcloud CLI.

    Install the Google Cloud CLI, then initialize it by running the following command:

    gcloud init

Per saperne di più, consulta Eseguire l'autenticazione per l'utilizzo di REST nella documentazione sull'autenticazione di Google Cloud.

Scegli un modello di GPU e consulta il nella tabella relativa alla disponibilità delle GPU per selezionare una regione in cui il modello GPU scelto è disponibile in almeno due zone.

Se non hai già un cluster nella regione scelta in cui puoi creare una nuova configurazione, segui i passaggi per creare un cluster di workstation nella regione.

Consulta la panoramica dei prezzi delle workstation cloud per capire in che modo la configurazione delle GPU influirà sui tuoi costi. Nota che le GPU siano collegate alle macchine virtuali (VM) pre-avviate specificate in base alle dimensioni del pool di avvio rapido di una configurazione.

Creazione di una nuova configurazione

Console

Crea una nuova configurazione della workstation con GPU dalla console Google Cloud seguendo questa procedura:

  1. Nella console Google Cloud, vai alla pagina Configurazioni delle stazioni di lavoro.

    Vai a Configurazioni di workstation

  2. Nella pagina Configurazioni workstation, fai clic su add_box Crea.

  3. Al passaggio Informazioni di base della Crea configurazione workstation, specifica un nome per il tuo nel campo Nome.

    Nel campo Cluster di workstation, seleziona un cluster nella regione.

    Fai clic su Continua per andare al passaggio Impostazioni macchina.

  4. Nel passaggio Impostazioni della macchina della pagina Crea configurazione della workstation, inizia facendo clic sul pulsante di attivazione/disattivazione per selezionare GPU anziché la famiglia di macchine General purpose.

    1. Quindi, nel campo Zone, seleziona le caselle di controllo accanto a due zone in cui è disponibile il modello GPU che hai scelto (vedi il Tabella sulla disponibilità delle GPU.

    2. Nel campo Tipo di GPU, seleziona il modello di GPU che vuoi utilizzare.

    3. Nel campo Numero di GPU, seleziona il numero di schede GPU che desideri che vuoi collegare a ogni workstation.

    4. Nel campo Tipo di macchina, seleziona un tipo di macchina compatibile.

  5. Fai clic su Continua per configurare le impostazioni dell'ambiente e il criterio IAM prima di fare clic su Crea per eseguire il provisioning della nuova configurazione della stazione di lavoro.

gcloud

Crea una nuova configurazione della workstation con GPU utilizzando l'interfaccia a riga di comando gcloud, eseguendo il comando gcloud workstations configs create.

  • Per le GPU NVIDIA A100 da 40 GB, esegui questo comando per creare la configurazione:

    gcloud beta workstations configs create \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID \
      --replica-zones=REPLICA_ZONES \
      --machine-type=A2_MACHINE_TYPE
    

    Sostituisci quanto segue:

    • PROJECT_ID: l'ID del progetto che conterrà la nuova configurazione della workstation.
    • LOCATION: la posizione del cluster di workstation in cui sarà contenuta la configurazione.
    • WORKSTATION_CLUSTER_ID: il nome del cluster di workstation che conterrà la nuova configurazione di workstation.
    • WORKSTATION_CONFIG_ID: il nome della nuova configurazione della workstation.
    • REPLICA_ZONES: esattamente due zone nella regione del cluster in cui è disponibile il modello GPU scelto (ad esempio, us-central1-a,us-central1-c).
    • A2_MACHINE_TYPE: il tipo di macchina della serie A2 scelto (ad es. a2-highgpu-1g).
  • Per tutti gli altri modelli di GPU, esegui questo comando per creare la configurazione:

    gcloud beta workstations configs create \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID \
      --replica-zones=REPLICA_ZONES \
      --machine-type=N1_MACHINE_TYPE \
      --accelerator-type=ACCELERATOR_TYPE \
      --accelerator-count=ACCELERATOR_COUNT
    

    Sostituisci quanto segue:

    • PROJECT_ID: l'ID del progetto che conterrà la nuova configurazione della workstation.
    • LOCATION: la posizione del cluster di workstation in cui sarà contenuta la configurazione.
    • WORKSTATION_CLUSTER_ID: il nome del cluster di workstation che conterrà la nuova configurazione di workstation.
    • WORKSTATION_CONFIG_ID: il nome della nuova configurazione della workstation.
    • REPLICA_ZONES: esattamente due zone nella regione del cluster in cui è disponibile il modello di GPU scelto (ad esempio us-central1-a,us-central1-c).
    • N1_MACHINE_TYPE: il tipo di macchina della serie N1 scelto (ad esempio n1-standard-2).
    • ACCELERATOR_TYPE: il nome del modello di GPU scelto (ad esempio nvidia-tesla-t4).
    • ACCELERATOR_COUNT: il numero di GPU da collegare a ogni workstation (ad esempio 1, 2, 4).

Driver di dispositivi GPU NVIDIA

Cloud Workstations installa i driver di dispositivo NVIDIA sulle workstation VM host durante l'avvio della VM.

Per determinare quale versione del driver di dispositivo è stato installato su una workstation, esegui questo comando:

nvidia-smi --query-gpu=name,driver_version --format=csv

Disponibilità delle GPU per regione e zona

Puoi eseguire la ricerca per località, modello GPU oppure una combinazione di entrambi.

Zone Località Piattaforme GPU
asia-east1-a Contea di Changhua, Taiwan, APAC T4, P100
asia-east1-b Contea di Changhua, Taiwan, APAC
asia-east1-c Contea di Changhua, Taiwan, APAC T4, V100, P100
asia-east2-a Hong Kong, APAC T4
asia-east2-b Hong Kong, APAC
asia-east2-c Hong Kong, APAC T4
asia-northeast1-a Tokyo, Giappone, APAC A100 40GB, T4
asia-northeast1-b Tokyo, Giappone, APAC
asia-northeast1-c Tokyo, Giappone, APAC A100 40GB, T4
asia-northeast3-a Seul, Corea del Sud, APAC A100 40 GB
asia-northeast3-b Seul, Corea del Sud, APAC A100 40 GB, T4
asia-northeast3-c Seul, Corea del Sud, APAC T4
asia-south1-a Mumbai, India, APAC T4
asia-south1-b Mumbai, India, APAC T4
asia-south1-c Mumbai, India, APAC T4
asia-southeast1-a Jurong West, Singapore, APAC T4
asia-southeast1-b Jurong West, Singapore, APAC A100 40 GB, T4, P4
asia-southeast1-c Jurong West, Singapore, APAC A100 40 GB, T4, P4
australia-southeast1-a Sydney, Australia, APAC T4, P4
australia-southeast1-b Sydney, Australia, APAC P4
australia-southeast1-c Sydney, Australia, APAC T4, P100
europe-north1-a
europe-north1-b
europe-north1-c
Hamina, Finlandia, Europa
europe-west1-b Saint-Ghislain, Belgio, Europa T4, P100
europe-west1-c Saint-Ghislain, Belgio, Europa T4
europe-west1-d Saint-Ghislain, Belgio, Europa P100, T4
europe-west2-a
europe-west2-b
Londra, Inghilterra, Europa T4
europe-west2-c Londra, Inghilterra, Europa
europe-west3-a Francoforte, Germania, Europa
europe-west3-b Francoforte, Germania, Europa T4
europe-west3-c Francoforte, Germania, Europa
europe-west4-a Eemshaven, Paesi Bassi, Europa A100 40 GB, T4, V100, P100
europe-west4-b Eemshaven, Paesi Bassi, Europa A100 40GB, T4, P4, V100
europe-west4-c Eemshaven, Paesi Bassi, Europa T4, P4, V100
europe-west6-a
europe-west6-b
europe-west6-c
Zurigo, Svizzera, Europa
europe-west8-a
europe-west8-b
europe-west8-c
Milano, Italia, Europa
europe-west9-a
europe-west9-b
europe-west9-c
Parigi, Francia, Europa
europe-west12-a
europe-west12-b
europe-west12-c
Torino, Italia, Europa
europe-southwest1-a
europe-southwest1-b
europe-southwest1-c
Madrid, Spagna, Europa
me-west1-a Tel Aviv, Israele, Medio Oriente
me-west1-b Tel Aviv, Israele, Medio Oriente A100 40 GB, T4
me-west1-c Tel Aviv, Israele, Medio Oriente A100 40 GB, T4
northamerica-northeast1-a Montréal, Québec, Nord America P4
northamerica-northeast1-b Montréal, Québec, Nord America P4
northamerica-northeast1-c Montréal, Québec, Nord America T4, P4
southamerica-east1-a Osasco, San Paolo, Brasile, Sud America T4
southamerica-east1-c Osasco, San Paolo, Brasile, Sud America T4
southamerica-west1-a
southamerica-west1-b
southamerica-west1-c
Santiago, Cile, Sud America
us-central1-a Council Bluffs, Iowa, Nord America A100 40GB, T4, P4, V100
us-central1-b Council Bluffs, Iowa, Nord America A100 40 GB, T4, V100
us-central1-c Council Bluffs, Iowa, Nord America A100 40 GB, T4, P4, V100, P100
us-central1-f Council Bluffs, Iowa, Nord America A100 40 GB, T4, V100, P100
us-east1-b Moncks Corner, Carolina del Sud, Nord America A100 40 GB, P100
us-east1-c Moncks Corner, Carolina del Sud, Nord America T4, V100, P100
us-east1-d Moncks Corner, Carolina del Sud, Nord America T4
us-east4-a
us-east4-b
us-east4-c
Ashburn, Virginia, Nord America T4, P4
us-east5-a
us-east5-b
us-east5-c
Columbus, Ohio, Nord America
us-west1-a The Dalles, Oregon, Nord America T4, V100, P100
us-west1-b The Dalles, Oregon, Nord America A100 40GB, T4, V100, P100
us-west1-c The Dalles, Oregon, Nord America
us-west4-a Las Vegas, Nevada, Nord America T4
us-west4-b Las Vegas, Nevada, Nord America A100 40GB, T4
us-west4-c Las Vegas, Nevada, Nord America

Passaggi successivi