Le GPU vengono utilizzate per accelerare i carichi di lavoro e Cloud Workstations supporta il collegamento da GPU alle workstation. Cloud Workstations supporta molti dei diversi modelli di GPU disponibili per il collegamento di Compute Engine. Il modello e la quantità di GPU da collegare a ciascuna workstation vengono specificate nella configurazione della workstation. Handle Cloud Workstations collegando le GPU e installando i driver dei relativi dispositivi.
Il collegamento di GPU alle workstation incide sui costi descritti in Panoramica dei prezzi di Cloud Workstations.
Limitazioni
Una configurazione di workstation può specificare GPU, in base alle seguenti limitazioni:
- Cloud Workstations supporta le GPU solo per le configurazioni che specificano la macchina digita nel serie di macchine N1 o Serie di macchine A2. Per maggiori dettagli, fai riferimento ai modelli di GPU supportati.
- La configurazione deve specificare zone di replica dove gli elementi È disponibile un modello GPU.
- Non è possibile configurare le workstation in modo che abbiano più di un modello di GPU collegata alla volta.
Modelli di GPU supportati
Cloud Workstations supporta molti dei modelli di GPU realizzati da Compute Engine disponibili. I modelli supportati dipendono dalle serie di macchine scelte per configurazione della workstation, come riassunto nella tabella seguente.
Serie di macchine N1
La serie di macchine per uso generico N1 supporta diversi modelli di GPU, e configurazioni di workstation che specificano uno qualsiasi dei tipi di macchina N1 puoi anche specificare uno dei seguenti modelli di GPU. Per la GPU scelta la configurazione potrebbe specificare il conteggio di quante schede GPU per collegarti a ciascuna workstation.
Modello GPU | Conteggi GPU |
---|---|
NVIDIA T4 (nvidia-tesla-t4 ) |
1, 2 o 4 GPU |
NVIDIA P4 (nvidia-tesla-p4 ) |
1, 2 o 4 GPU |
NVIDIA V100 (nvidia-tesla-v100 ) |
1, 2, 4 o 8 GPU |
NVIDIA P100 (nvidia-tesla-p100 ) |
1, 2 o 4 GPU |
Serie di macchine A2
La serie di macchine ottimizzate per l'acceleratore standard A2 ha un numero fisso di GPU NVIDIA A100 collegate, esclusivamente in base il tipo di macchina scelto.
La tabella seguente mostra la mappatura dal tipo di macchina al numero di carte che verranno allegate.
Modello GPU | Tipo di macchina | Conteggio GPU |
---|---|---|
NVIDIA A100 40GB (nvidia-tesla-a100 ) |
a2-highgpu-1g |
1 GPU |
a2-highgpu-2g |
2 GPU | |
a2-highgpu-4g |
4 GPU | |
a2-highgpu-8g |
8 GPU | |
a2-megagpu-16g |
16 GPU |
Cloud Workstations non supporta i tipi di macchine ultra A2.
Aggiungi GPU a una configurazione di workstation esistente
Per aggiungere GPU a una configurazione di workstation, completa i passaggi in una delle seguenti schede.
Prima di iniziare
Select the tab for how you plan to use the samples on this page:
Console
When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.
gcloud
Install the Google Cloud CLI, then initialize it by running the following command:
gcloud init
Consulta i prezzi di Cloud Workstations per comprendere in che modo la configurazione delle GPU influirà sui tuoi costi. Nota che le GPU siano collegate alle macchine virtuali (VM) pre-avviate specificate in base alle dimensioni del pool di avvio rapido di una configurazione.
Aggiornamento della configurazione esistente in corso...
Console
Configura le GPU su una configurazione di workstation esistente dal Console Google Cloud, eseguendo queste operazioni:
Nella console Google Cloud, vai alla Pagina Configurazioni workstation.
Nell'elenco Configurazioni workstation, fai clic sul nome della a cui aggiungere le GPU.
Nella pagina Dettagli di configurazione workstation, fai clic su modifica Modifica.
Nella pagina Modifica configurazione workstation, fai clic su Impostazioni macchina nel menu di navigazione.
Fai clic sul pulsante di attivazione/disattivazione per selezionare GPU invece di Uso generico. una famiglia di macchine.
Nel campo Tipo di GPU, seleziona il modello di GPU che vuoi utilizzare.
Nel campo Numero di GPU, seleziona il numero di schede GPU che vuoi utilizzare. da collegare a ogni workstation.
Nel campo Tipo di macchina, seleziona il tipo di macchina che vuoi utilizzare.
Fai clic su Salva per aggiornare la configurazione.
gcloud
Configura le GPU su una configurazione di workstation esistente eseguendo
Comando gcloud workstations configs update
.
Prima però, raccogli informazioni per vedere quali modelli di GPU disponibili e sceglierne uno per la configurazione:
Per controllare le zone di replica specificate dalla configurazione, seguente comando dell'interfaccia a riga di comando di
gcloud
:gcloud workstations configs describe \ --format="table(name.scope(workstationConfigs),replicaZones.list())" \ --project=PROJECT_ID \ --region=LOCATION \ --cluster=WORKSTATION_CLUSTER_ID \ WORKSTATION_CONFIG_ID
Sostituisci quanto segue:
PROJECT_ID
: l'ID del progetto che contiene la configurazione della workstation.LOCATION
: la località del cluster di workstation.WORKSTATION_CLUSTER_ID
: il nome del cluster di workstation che contiene la configurazione della workstation.WORKSTATION_CONFIG_ID
: il nome della configurazione della workstation.
Scegli un modello GPU supportato che sia disponibile in entrambi i tipi delle zone di replica della configurazione eseguendo Comando
gcloud compute accelerator-types list
:gcloud compute accelerator-types list \ --format="table(name:sort=1,zone,description,maximumCardsPerInstance)" \ --filter='zone.basename()=(ZONES) AND name~"nvidia-tesla-(a100|p100|p4|t4|v100)$"' \ --project=PROJECT_ID
Sostituisci
ZONES
con un elenco separato da virgole di zone di replica determinate nel passaggio precedente (ad es.us-central1-a,us-central1-c
).Scegli un modello GPU elencato due volte nella tabella, a indicare che disponibile in entrambe le zone di replica.
Prendi nota del numero massimo di schede che puoi collegare per il modello di GPU scelto.
Determina quali tipi di macchine supportati sono disponibili in entrambi delle zone di replica della configurazione, utilizzando Comando
gcloud compute machine-types list
.Se hai scelto il modello GPU NVIDIA A100 da 40 GB nel passaggio precedente, la configurazione deve utilizzare la serie di macchine A2:
gcloud compute machine-types list \ --format="table(name,zone,guestCpus:sort=1)" \ --filter="name:a2-highgpu- OR name:a2-megagpu-" \ --zones=ZONES \ --project=PROJECT_ID
Se hai scelto un altro modello GPU nel passaggio precedente, il tuo deve utilizzare la serie di macchine N1:
gcloud compute machine-types list \ --format="table(name,zone,guestCpus:sort=1)" \ --filter="name:n1-standard-" \ --zones=ZONES \ --project=PROJECT_ID
Scegli un tipo di macchina elencato due volte nella tabella per indicare che è disponibile in entrambe le zone di replica.
Ora che hai selezionato un modello GPU e un tipo di macchina compatibile, aggiorna la configurazione:
Per le GPU NVIDIA A100 da 40 GB, esegui questo comando per aggiornare configurazione:
gcloud beta workstations configs update \ --project=PROJECT_ID \ --region=LOCATION \ --cluster=WORKSTATION_CLUSTER_ID \ WORKSTATION_CONFIG_ID \ --machine-type=A2_MACHINE_TYPE
Sostituisci
A2_MACHINE_TYPE
con il dispositivo A2 scelto determinato nel passaggio precedente (ad esempio,a2-highgpu-1g
).Per tutti gli altri modelli di GPU, esegui questo comando:
gcloud beta workstations configs update \ --project=PROJECT_ID \ --region=LOCATION \ß --cluster=WORKSTATION_CLUSTER_ID \ WORKSTATION_CONFIG_ID \ --machine-type=N1_MACHINE_TYPE \ --accelerator-type=ACCELERATOR_TYPE \ --accelerator-count=ACCELERATOR_COUNT
Sostituisci quanto segue:
N1_MACHINE_TYPE
: il tipo di macchina scelto dalla Serie N1 (ad es.n1-standard-2
).ACCELERATOR_TYPE
: il nome del modello GPU scelto (ad es.nvidia-tesla-t4
).ACCELERATOR_COUNT
: il numero di GPU da collegare a ogni workstation (ad esempio1
,2
,4
). Deve essere una potenza di due inferiore al massimo consentito per il modello GPU.
Crea una nuova configurazione di workstation con GPU
Per creare una nuova configurazione di workstation che colleghi le GPU alle workstation basate su questi dati, completa i passaggi in una delle seguenti schede.
Prima di iniziare
Select the tab for how you plan to use the samples on this page:
Console
When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.
gcloud
Install the Google Cloud CLI, then initialize it by running the following command:
gcloud init
REST
Per utilizzare gli esempi di API REST in questa pagina in un ambiente di sviluppo locale, utilizzi le credenziali che fornisci a gcloud CLI.
Install the Google Cloud CLI, then initialize it by running the following command:
gcloud init
Per ulteriori informazioni, vedi Esegui l'autenticazione per l'utilizzo di REST nella documentazione sull'autenticazione di Google Cloud.
Scegli un modello di GPU e consulta il nella tabella relativa alla disponibilità delle GPU per selezionare una regione in cui il modello GPU scelto è disponibile in almeno due zone.
Se non hai già un cluster nella regione scelta in cui puoi creare una nuova configurazione, segui i passaggi Crea un cluster di workstation della regione.
Consulta i prezzi di Cloud Workstations per comprendere in che modo la configurazione delle GPU influirà sui tuoi costi. Nota che le GPU siano collegate alle macchine virtuali (VM) pre-avviate specificate in base alle dimensioni del pool di avvio rapido di una configurazione.
Creazione di una nuova configurazione
Console
Crea una nuova configurazione di workstation con GPU dal Console Google Cloud, eseguendo queste operazioni:
Nella console Google Cloud, vai a Configurazioni di workstation .
Nella pagina Configurazioni workstation, fai clic su add_box Crea.
Al passaggio Informazioni di base della Crea configurazione workstation, specifica un nome per il tuo nel campo Nome.
Nel campo Cluster di workstation, seleziona un cluster nella regione.
Fai clic su Continua per andare al passaggio Impostazioni macchina.
Nel passaggio Impostazioni macchina della pagina Crea workstation configurazione, fai clic sul pulsante di attivazione/disattivazione per selezionare le GPU anziché la famiglia di macchine per lo uso generico.
Quindi, nel campo Zone, seleziona le caselle di controllo accanto a due zone in cui è disponibile il modello GPU che hai scelto (vedi il Tabella sulla disponibilità delle GPU.
Nel campo Tipo di GPU, seleziona il modello di GPU che vuoi utilizzare.
Nel campo Numero di GPU, seleziona il numero di schede GPU che desideri che vuoi collegare a ogni workstation.
Nel campo Tipo di macchina, seleziona un tipo di macchina compatibile.
Fai clic su Continua per configurare le impostazioni dell'ambiente e il criterio IAM. prima di fare clic su Crea per eseguire il provisioning della nuova workstation configurazione.
gcloud
Crea una nuova configurazione di workstation con GPU utilizzando il
interfaccia a riga di comando gcloud
, eseguendo
Comando gcloud workstations configs create
.
Per le GPU NVIDIA A100 da 40 GB, esegui questo comando per creare la configurazione:
gcloud beta workstations configs create \ --project=PROJECT_ID \ --region=LOCATION \ --cluster=WORKSTATION_CLUSTER_ID \ WORKSTATION_CONFIG_ID \ --replica-zones=REPLICA_ZONES \ --machine-type=A2_MACHINE_TYPE
Sostituisci quanto segue:
PROJECT_ID
: l'ID del progetto che conterrà la nuova configurazione della workstation.LOCATION
: la località del cluster di workstation in cui verrà contenuta la configurazione.WORKSTATION_CLUSTER_ID
: il nome del cluster di workstation che conterrà la nuova configurazione di workstation.WORKSTATION_CONFIG_ID
: il nome della nuova configurazione della workstation.REPLICA_ZONES
: esattamente due zone nella regione del cluster in cui è disponibile il modello GPU scelto (ad esempio,us-central1-a,us-central1-c
).A2_MACHINE_TYPE
: il tipo di macchina della serie A2 scelto (ad es.a2-highgpu-1g
).
Per tutti gli altri modelli GPU, esegui questo comando per creare la configurazione:
gcloud beta workstations configs create \ --project=PROJECT_ID \ --region=LOCATION \ --cluster=WORKSTATION_CLUSTER_ID \ WORKSTATION_CONFIG_ID \ --replica-zones=REPLICA_ZONES \ --machine-type=N1_MACHINE_TYPE \ --accelerator-type=ACCELERATOR_TYPE \ --accelerator-count=ACCELERATOR_COUNT
Sostituisci quanto segue:
PROJECT_ID
: l'ID del progetto che conterrà la nuova configurazione della workstation.LOCATION
: la località del cluster di workstation in cui verrà contenuta la configurazione.WORKSTATION_CLUSTER_ID
: il nome del cluster di workstation che conterrà la nuova configurazione di workstation.WORKSTATION_CONFIG_ID
: il nome della nuova configurazione della workstation.REPLICA_ZONES
: esattamente due zone nella regione del cluster in cui è disponibile il modello GPU scelto (ad esempio,us-central1-a,us-central1-c
).N1_MACHINE_TYPE
: il tipo di macchina della serie N1 scelto (ad es.n1-standard-2
).ACCELERATOR_TYPE
: il nome del modello GPU scelto (ad es.nvidia-tesla-t4
).ACCELERATOR_COUNT
: il numero di GPU da collegare a ogni workstation (ad esempio1
,2
,4
).
Driver di dispositivi GPU NVIDIA
Cloud Workstations installa i driver di dispositivo NVIDIA sulle workstation VM host durante l'avvio della VM.
Per determinare quale versione del driver di dispositivo è stato installato su una workstation, esegui questo comando:
nvidia-smi --query-gpu=name,driver_version --format=csv
Disponibilità GPU per regione e zona
Puoi eseguire la ricerca per località, modello GPU oppure una combinazione di entrambi.
Zone | Località | Piattaforme GPU | ||||||
---|---|---|---|---|---|---|---|---|
asia-east1-a |
Contea di Changhua, Taiwan, APAC | T4, P100 | ||||||
asia-east1-b |
Contea di Changhua, Taiwan, APAC | |||||||
asia-east1-c |
Contea di Changhua, Taiwan, APAC | T4, V100, P100 | ||||||
asia-east2-a |
Hong Kong, APAC | T4 | ||||||
asia-east2-b |
Hong Kong, APAC | |||||||
asia-east2-c |
Hong Kong, APAC | T4 | ||||||
asia-northeast1-a |
Tokyo, Giappone, APAC | A100 40GB, T4 | ||||||
asia-northeast1-b |
Tokyo, Giappone, APAC | |||||||
asia-northeast1-c |
Tokyo, Giappone, APAC | A100 40GB, T4 | ||||||
asia-northeast3-a |
Seul, Corea del Sud, APAC | A100 40GB | ||||||
asia-northeast3-b |
Seul, Corea del Sud, APAC | A100 40GB, T4 | ||||||
asia-northeast3-c |
Seul, Corea del Sud, APAC | T4 | ||||||
asia-south1-a |
Mumbai, India, APAC | T4 | ||||||
asia-south1-b |
Mumbai, India, APAC | T4 | ||||||
asia-south1-c |
Mumbai, India, APAC | T4 | ||||||
asia-southeast1-a |
Jurong West, Singapore, APAC | T4 | ||||||
asia-southeast1-b |
Jurong West, Singapore, APAC | A100 40GB, T4, P4 | ||||||
asia-southeast1-c |
Jurong West, Singapore, APAC | A100 40GB, T4, P4 | ||||||
australia-southeast1-a |
Sydney, Australia, APAC | T4, P4 | ||||||
australia-southeast1-b |
Sydney, Australia, APAC | P4 | ||||||
australia-southeast1-c |
Sydney, Australia, APAC | T4, P100 | ||||||
europe-north1-a europe-north1-b europe-north1-c |
Hamina, Finlandia, Europa | |||||||
europe-west1-b |
Saint-Ghislain, Belgio, Europa | T4, P100 | ||||||
europe-west1-c |
Saint-Ghislain, Belgio, Europa | T4 | ||||||
europe-west1-d |
Saint-Ghislain, Belgio, Europa | P100, T4 | ||||||
europe-west2-a |
Londra, Inghilterra, Europa | T4 | ||||||
europe-west2-c |
Londra, Inghilterra, Europa | |||||||
europe-west3-a |
Francoforte, Germania, Europa | |||||||
europe-west3-b |
Francoforte, Germania, Europa | T4 | ||||||
europe-west3-c |
Francoforte, Germania, Europa | |||||||
europe-west4-a |
Eemshaven, Paesi Bassi, Europa | A100 40GB, T4, V100, P100 | ||||||
europe-west4-b |
Eemshaven, Paesi Bassi, Europa | A100 40GB, T4, P4, V100 | ||||||
europe-west4-c |
Eemshaven, Paesi Bassi, Europa | T4, P4, V100 | ||||||
europe-west6-a europe-west6-b europe-west6-c |
Zurigo, Svizzera, Europa | |||||||
europe-west8-a europe-west8-b europe-west8-c |
Milano, Italia, Europa | |||||||
europe-west9-a europe-west9-b europe-west9-c |
Parigi, Francia, Europa | |||||||
europe-west12-a europe-west12-b europe-west12-c |
Torino, Italia, Europa | |||||||
europe-southwest1-a europe-southwest1-b europe-southwest1-c |
Madrid, Spagna, Europa | |||||||
me-west1-a |
Tel Aviv, Israele, Medio Oriente | |||||||
me-west1-b |
Tel Aviv, Israele, Medio Oriente | A100 40GB, T4 | ||||||
me-west1-c |
Tel Aviv, Israele, Medio Oriente | A100 40GB, T4 | ||||||
northamerica-northeast1-a |
Montréal, Québec, Nord America | P4 | ||||||
northamerica-northeast1-b |
Montréal, Québec, Nord America | P4 | ||||||
northamerica-northeast1-c |
Montréal, Québec, Nord America | T4, P4 | ||||||
southamerica-east1-a |
Osasco, San Paolo, Brasile, Sud America | T4 | ||||||
southamerica-east1-c |
Osasco, San Paolo, Brasile, Sud America | T4 | ||||||
southamerica-west1-a southamerica-west1-b southamerica-west1-c |
Santiago, Cile, Sud America | |||||||
us-central1-a |
Council Bluffs, Iowa, Nord America | A100 40GB, T4, P4, V100 | ||||||
us-central1-b |
Council Bluffs, Iowa, Nord America | A100 40GB, T4, V100 | ||||||
us-central1-c |
Council Bluffs, Iowa, Nord America | A100 40GB, T4, P4, V100, P100 | ||||||
us-central1-f |
Council Bluffs, Iowa, Nord America | A100 40GB, T4, V100, P100 | ||||||
us-east1-b |
Moncks Corner, Carolina del Sud, Nord America | A100 40GB, P100 | ||||||
us-east1-c |
Moncks Corner, Carolina del Sud, Nord America | T4, V100, P100 | ||||||
us-east1-d |
Moncks Corner, Carolina del Sud, Nord America | T4 | ||||||
us-east4-a |
Ashburn, Virginia, Nord America | T4, P4 | ||||||
us-east4-b |
Ashburn, Virginia, Nord America | T4, P4 | ||||||
us-east4-c |
Ashburn, Virginia, Nord America | T4, P4 | ||||||
us-east5-a |
Columbus, Ohio, Nord America | H100 80GB | us-east5-b |
Columbus, Ohio, Nord America | A100 80GB | us-east5-c |
Columbus, Ohio, Nord America | |
us-west1-a |
The Dalles, Oregon, Nord America | T4, V100, P100 | ||||||
us-west1-b |
The Dalles, Oregon, Nord America | A100 40GB, T4, V100, P100 | ||||||
us-west1-c |
The Dalles, Oregon, Nord America |
Passaggi successivi
Specifica le GPU utilizzando l'API Cloud Workstations.
Informazioni su Esecuzione di istanze di Compute Engine con acceleratori GPU.
Consulta l'elenco completo Tipi di macchine di Compute Engine.
Salvo quando diversamente specificato, i contenuti di questa pagina sono concessi in base alla licenza Creative Commons Attribution 4.0, mentre gli esempi di codice sono concessi in base alla licenza Apache 2.0. Per ulteriori dettagli, consulta le norme del sito di Google Developers. Java è un marchio registrato di Oracle e/o delle sue consociate.
Ultimo aggiornamento 2024-07-26 UTC.