GPU disponibles

Les GPU permettent d'accélérer les charges de travail, et Cloud Workstations permet d'associer entre les GPU et les stations de travail. Cloud Workstations est compatible avec de nombreux de modèles de GPU pouvant être connectés VM Compute Engine. Le modèle et le nombre de GPU à rattacher à chaque station de travail sont spécifiés dans la configuration de la station de travail. Cloud Workstations gère rattacher les GPU et installer leurs pilotes d'appareils.

Le fait de connecter des GPU aux stations de travail aura une incidence sur les coûts, comme décrit dans les Présentation des tarifs de Cloud Workstations

Limites

Une configuration de station de travail peut spécifier des GPU, sous réserve des conditions suivantes Limites:

Modèles de GPU compatibles

Cloud Workstations est compatible avec de nombreux modèles de GPU fournis par Compute Engine disponibles. Les modèles pris en charge dépendent de la série de machines choisie la configuration de la station de travail, comme résumé dans le tableau suivant.

Série de machines N1

La série de machines à usage général N1 accepte plusieurs modèles de GPU, et les configurations de stations de travail qui spécifient l'un des types de machines N1 peut également spécifier l'un des modèles de GPU suivants. Pour le GPU choisi la configuration peut spécifier le nombre de cartes GPU à utiliser à chaque station de travail.

Modèle GPU Nombre de GPU
NVIDIA T4 (nvidia-tesla-t4) 1, 2 ou 4 GPU
NVIDIA P4 (nvidia-tesla-p4) 1, 2 ou 4 GPU
NVIDIA V100 (nvidia-tesla-v100) 1, 2, 4 ou 8 GPU
NVIDIA P100 (nvidia-tesla-p100) 1, 2 ou 4 GPU

Série de machines A2

La série de machines standards optimisées pour les accélérateurs A2 est associé à un nombre fixe de GPU NVIDIA A100, basé uniquement sur la le type de machine choisi.

Le tableau suivant montre le mappage entre le type de machine et le nombre de qui seront jointes.

Modèle GPU Type de machine Nombre de GPU
NVIDIA A100 40 Go (nvidia-tesla-a100) a2-highgpu-1g 1 GPU
a2-highgpu-2g 2 GPU
a2-highgpu-4g 4 GPU
a2-highgpu-8g 8 GPU
a2-megagpu-16g 16 GPU

Cloud Workstations n'est pas compatible avec les types de machines A2 Ultra.

Ajouter des GPU à une configuration de station de travail existante

Pour ajouter des GPU à une configuration de station de travail, suivez la procédure décrite dans l'un des onglets suivants.

Avant de commencer

Sélectionnez l'onglet correspondant à la façon dont vous prévoyez d'utiliser les exemples de cette page :

Console

Lorsque vous utilisez la console Google Cloud pour accéder aux services et aux API Google Cloud, vous n'avez pas besoin de configurer l'authentification.

gcloud

Installez Google Cloud CLI, puis initialisez-la en exécutant la commande suivante :

gcloud init

Consultez les tarifs de Cloud Workstations pour comprendre l'incidence qu'aura la configuration des GPU sur vos coûts. Remarque Les GPU sont associés aux machines virtuelles (VM) prédémarrées spécifiées. par la taille du pool de démarrage rapide d'une configuration.

Mettre à jour votre configuration existante

Console

Configurez les GPU sur une configuration de station de travail existante à partir du la console Google Cloud en procédant comme suit:

  1. Dans la console Google Cloud, accédez à Page Workstation configurations (Configurations de stations de travail).

    Accéder à la page "Configurations de stations de travail"

  2. Dans la liste Workstation configurations (Configurations de stations de travail), cliquez sur le nom à laquelle ajouter des GPU.

  3. Sur la page Workstation configuration details (Détails de la configuration de la station de travail), cliquez sur modifier Modifier :

  4. Sur la page Modifier la configuration de la station de travail, cliquez sur Paramètres de la machine. dans le menu de navigation.

  5. Cliquez sur le bouton d'activation pour sélectionner GPU au lieu de Usage général. de machines virtuelles.

    Dans le champ Type de GPU, sélectionnez le modèle de GPU que vous souhaitez utiliser.

    Dans le champ Nombre de GPU, sélectionnez le nombre de cartes GPU souhaité. à rattacher à chaque poste de travail.

    Dans le champ Type de machine, sélectionnez le type de machine que vous souhaitez utiliser.

  6. Cliquez sur Enregistrer pour mettre à jour la configuration.

gcloud

Configurez des GPU sur une configuration de station de travail existante en exécutant la commande Commande gcloud workstations configs update

Cependant, commencez par recueillir des informations pour voir quels modèles de GPU sont disponible et d'en choisir un pour votre configuration:

  1. Vérifiez les zones d'instances répliquées spécifiées par la configuration en exécutant la la commande CLI gcloud suivante:

    gcloud workstations configs describe \
      --format="table(name.scope(workstationConfigs),replicaZones.list())" \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID
    

    Remplacez les éléments suivants :

    • PROJECT_ID: ID du projet contenant la configuration de la station de travail.
    • LOCATION: emplacement du cluster de stations de travail.
    • WORKSTATION_CLUSTER_ID: nom du cluster de stations de travail contenant la configuration de station de travail.
    • WORKSTATION_CONFIG_ID: nom de la configuration de station de travail.
  2. Choisissez un modèle de GPU compatible disponible dans les deux d'instances répliquées de la configuration en exécutant Commande gcloud compute accelerator-types list:

    gcloud compute accelerator-types list \
      --format="table(name:sort=1,zone,description,maximumCardsPerInstance)" \
      --filter='zone.basename()=(ZONES) AND name~"nvidia-tesla-(a100|p100|p4|t4|v100)$"' \
      --project=PROJECT_ID
    

    Remplacez ZONES par une liste des éléments (séparés par une virgule) zones d'instances répliquées déterminées à l'étape précédente (par exemple, us-central1-a,us-central1-c).

    Choisissez un modèle de GPU qui est listé deux fois dans le tableau et indique qu'il est dans les deux zones d'instances répliquées.

    Notez le nombre maximal de cartes que vous pouvez joindre pour le modèle de GPU choisi.

  3. Déterminer quels types de machines compatibles sont disponibles dans les deux des zones d'instances répliquées de la configuration à l'aide du Commande gcloud compute machine-types list.

    1. Si vous avez choisi le modèle de GPU NVIDIA A100 40 Go, votre configuration doit utiliser la série de machines A2:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:a2-highgpu- OR name:a2-megagpu-" \
        --zones=ZONES \
        --project=PROJECT_ID
      
    2. Si vous avez choisi un autre modèle de GPU à l'étape précédente, doit utiliser la série de machines N1:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:n1-standard-" \
        --zones=ZONES \
        --project=PROJECT_ID
      

    Choisissez un type de machine répertorié deux fois dans le tableau, indiquant qu'il est disponible dans les deux zones d'instances répliquées.

  4. Maintenant que vous avez sélectionné un modèle de GPU et un type de machine compatible, mettez à jour la configuration:

    1. Pour les GPU NVIDIA A100 40 Go, exécutez cette commande pour mettre à jour votre configuration:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION \
        --cluster=WORKSTATION_CLUSTER_ID \
        WORKSTATION_CONFIG_ID \
        --machine-type=A2_MACHINE_TYPE
      

      Remplacez A2_MACHINE_TYPE par la machine A2 choisie. déterminé à l'étape précédente (par exemple, a2-highgpu-1g).

    2. Pour tous les autres modèles de GPU, exécutez la commande suivante:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION \ß
        --cluster=WORKSTATION_CLUSTER_ID \
        WORKSTATION_CONFIG_ID \
        --machine-type=N1_MACHINE_TYPE \
        --accelerator-type=ACCELERATOR_TYPE \
        --accelerator-count=ACCELERATOR_COUNT
      

      Remplacez les éléments suivants :

      • N1_MACHINE_TYPE: type de machine choisi dans le Série N1 (par exemple, n1-standard-2).
      • ACCELERATOR_TYPE: nom du modèle de GPU choisi (par exemple, nvidia-tesla-t4).
      • ACCELERATOR_COUNT: nombre de GPU à associer. à chaque station de travail (par exemple, 1, 2, 4). Doit être une puissance de deux inférieure à la valeur maximale pour le modèle de GPU.

Créer une configuration de station de travail avec des GPU

Créer une configuration de station de travail qui associe des GPU aux stations de travail basé sur celui-ci, suivez les étapes indiquées dans l'un des onglets ci-dessous.

Avant de commencer

Sélectionnez l'onglet correspondant à la façon dont vous prévoyez d'utiliser les exemples de cette page :

Console

Lorsque vous utilisez la console Google Cloud pour accéder aux services et aux API Google Cloud, vous n'avez pas besoin de configurer l'authentification.

gcloud

Installez Google Cloud CLI, puis initialisez-la en exécutant la commande suivante :

gcloud init

REST

Pour utiliser les exemples d'API REST de cette page dans un environnement de développement local, vous devez utiliser les identifiants que vous fournissez à gcloud CLI.

    Installez Google Cloud CLI, puis initialisez-la en exécutant la commande suivante :

    gcloud init

Choisissez un modèle de GPU et consultez les Table de disponibilité des GPU pour sélectionner région où le modèle GPU choisi est disponible dans au moins deux zones.

Si vous n'avez pas encore de cluster dans la région choisie, vous pouvez créer un nouvelle configuration, suivez les étapes pour Créer un cluster de stations de travail dans la région.

Consultez les tarifs de Cloud Workstations pour comprendre l'incidence qu'aura la configuration des GPU sur vos coûts. Remarque Les GPU sont associés aux machines virtuelles (VM) prédémarrées spécifiées. par la taille du pool de démarrage rapide d'une configuration.

Créer une configuration

Console

Créer une configuration de station de travail avec des GPU à partir du la console Google Cloud en procédant comme suit:

  1. Dans la console Google Cloud, accédez à Configurations de stations de travail. .

    Accéder à la page "Configurations de stations de travail"

  2. Sur la page Workstation configurations (Configurations de stations de travail), cliquez sur add_box Créer :

  3. À l'étape Informations générales de la Créer une configuration de station de travail, spécifiez un nom pour votre configuration dans le champ Nom.

    Dans le champ Cluster de stations de travail, sélectionnez un cluster dans le dans la même région.

    Cliquez sur Continuer pour passer à l'étape Paramètres de la machine.

  4. À l'étape Paramètres de la machine de l'étape Créer une station de travail configuration, commencez par cliquer sur le bouton pour sélectionner GPU au lieu de la famille de machines à usage général.

    1. Ensuite, dans le champ Zones, cochez les cases à côté de deux zones. sur lequel le modèle de GPU que vous avez choisi est disponible (consultez Tableau de disponibilité des GPU

    2. Dans le champ Type de GPU, sélectionnez le modèle de GPU que vous souhaitez utiliser.

    3. Dans le champ Nombre de GPU, sélectionnez le nombre de cartes GPU souhaitez rattacher à chaque poste de travail.

    4. Dans le champ Type de machine, sélectionnez un type de machine compatible.

  5. Cliquez sur Continuer pour configurer les paramètres de l'environnement et la stratégie IAM. avant de cliquer sur Créer pour provisionner la nouvelle station de travail configuration.

gcloud

Créer une configuration de station de travail avec des GPU à l'aide de la classe gcloud, en exécutant la commande gcloud workstations configs create.

  • Pour les GPU NVIDIA A100 40 Go, exécutez la commande suivante afin de créer votre configuration:

    gcloud beta workstations configs create \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID \
      --replica-zones=REPLICA_ZONES \
      --machine-type=A2_MACHINE_TYPE
    

    Remplacez les éléments suivants :

    • PROJECT_ID: ID du projet qui contiendra la nouvelle configuration de station de travail.
    • LOCATION: emplacement du cluster de stations de travail où la configuration sera contenue.
    • WORKSTATION_CLUSTER_ID: nom du cluster de stations de travail qui contiendra la nouvelle configuration de station de travail.
    • WORKSTATION_CONFIG_ID: nom de la nouvelle configuration de station de travail.
    • REPLICA_ZONES: exactement deux zones de la région du cluster où le modèle de GPU choisi est disponible (par exemple, us-central1-a,us-central1-c).
    • A2_MACHINE_TYPE: type de machine de la série A2 choisi (par exemple, a2-highgpu-1g)
  • Pour tous les autres modèles de GPU, exécutez la commande suivante afin de créer votre configuration:

    gcloud beta workstations configs create \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID \
      --replica-zones=REPLICA_ZONES \
      --machine-type=N1_MACHINE_TYPE \
      --accelerator-type=ACCELERATOR_TYPE \
      --accelerator-count=ACCELERATOR_COUNT
    

    Remplacez les éléments suivants :

    • PROJECT_ID: ID du projet qui contiendra la nouvelle configuration de station de travail.
    • LOCATION: emplacement du cluster de stations de travail où la configuration sera contenue.
    • WORKSTATION_CLUSTER_ID: nom du cluster de stations de travail qui contiendra la nouvelle configuration de station de travail.
    • WORKSTATION_CONFIG_ID: nom de la nouvelle configuration de station de travail.
    • REPLICA_ZONES: exactement deux zones de la région du cluster où le modèle de GPU choisi est disponible (par exemple, us-central1-a,us-central1-c).
    • N1_MACHINE_TYPE: type de machine de la série N1 choisi (par exemple, n1-standard-2)
    • ACCELERATOR_TYPE: nom du modèle de GPU choisi (par exemple, nvidia-tesla-t4).
    • ACCELERATOR_COUNT: nombre de GPU à associer. à chaque station de travail (par exemple, 1, 2, 4).

Pilotes de périphériques GPU NVIDIA

Cloud Workstations installe les pilotes d'appareils NVIDIA sur les stations de travail VM hôtes pendant le démarrage de la VM.

Pour déterminer quelle version du pilote de périphérique a été installé sur une station de travail, exécutez la commande suivante:

nvidia-smi --query-gpu=name,driver_version --format=csv

Disponibilité des GPU par région et par zone

Vous pouvez effectuer une recherche par localisation ou par modèle de GPU, ou une combinaison des deux.

zones Emplacement Plates-formes de GPU
asia-east1-a Comté de Changhua, Taïwan, APAC T4, P100
asia-east1-b Comté de Changhua, Taïwan, APAC
asia-east1-c Comté de Changhua, Taïwan, APAC T4, V100, P100
asia-east2-a Hong Kong, APAC T4
asia-east2-b Hong Kong, APAC
asia-east2-c Hong Kong, APAC T4
asia-northeast1-a Tokyo, Japon, APAC A100 40 Go, T4
asia-northeast1-b Tokyo, Japon, APAC
asia-northeast1-c Tokyo, Japon, APAC A100 40 Go, T4
asia-northeast3-a Séoul, Corée du Sud, APAC A100 40 Go
asia-northeast3-b Séoul, Corée du Sud, APAC A100 40 Go, T4
asia-northeast3-c Séoul, Corée du Sud, APAC T4
asia-south1-a Mumbai, Inde, APAC T4
asia-south1-b Mumbai, Inde, APAC T4
asia-south1-c Mumbai, Inde, APAC T4
asia-southeast1-a Jurong West, Singapour, APAC T4
asia-southeast1-b Jurong West, Singapour, APAC A100 40 Go, T4, P4
asia-southeast1-c Jurong West, Singapour, APAC A100 40 Go, T4, P4
australia-southeast1-a Sydney, Australie, APAC T4, P4
australia-southeast1-b Sydney, Australie, APAC P4
australia-southeast1-c Sydney, Australie, APAC T4, P100
europe-north1-a
europe-north1-b
europe-north1-c
Hamina, Finlande, Europe
europe-west1-b Saint-Ghislain, Belgique, Europe T4, P100
europe-west1-c Saint-Ghislain, Belgique, Europe T4
europe-west1-d Saint-Ghislain, Belgique, Europe P100, T4
europe-west2-a
europe-west2-b
Londres, Angleterre, Europe T4
europe-west2-c Londres, Angleterre, Europe
europe-west3-a Francfort, Allemagne, Europe
europe-west3-b Francfort, Allemagne, Europe T4
europe-west3-c Francfort, Allemagne, Europe
europe-west4-a Eemshaven, Pays-Bas, Europe A100 40 Go, T4, V100, P100
europe-west4-b Eemshaven, Pays-Bas, Europe A100 40 Go, T4, P4, V100
europe-west4-c Eemshaven, Pays-Bas, Europe T4, P4, V100
europe-west6-a
europe-west6-b
europe-west6-c
Zurich, Suisse, Europe
europe-west8-a
europe-west8-b
europe-west8-c
Milan, Italie, Europe
europe-west9-a
europe-west9-b
europe-west9-c
Paris, France, Europe
europe-west12-a
europe-west12-b
europe-west12-c
Turin, Italie, Europe
europe-southwest1-a
europe-southwest1-b
europe-southwest1-c
Madrid, Espagne, Europe
me-west1-a Tel-Aviv, Israël, Moyen-Orient
me-west1-b Tel-Aviv, Israël, Moyen-Orient A100 40 Go, T4
me-west1-c Tel-Aviv, Israël, Moyen-Orient A100 40 Go, T4
northamerica-northeast1-a Montréal, Québec, Amérique du Nord P4
northamerica-northeast1-b Montréal, Québec, Amérique du Nord P4
northamerica-northeast1-c Montréal, Québec, Amérique du Nord T4, P4
southamerica-east1-a Osasco, São Paulo, Brésil, Amérique du Sud T4
southamerica-east1-c Osasco, São Paulo, Brésil, Amérique du Sud T4
southamerica-west1-a
southamerica-west1-b
southamerica-west1-c
Santiago, Chili, Amérique du Sud
us-central1-a Council Bluffs, Iowa, Amérique du Nord A100 40 Go, T4, P4, V100
us-central1-b Council Bluffs, Iowa, Amérique du Nord A100 40 Go, T4, V100
us-central1-c Council Bluffs, Iowa, Amérique du Nord A100 40 Go, T4, P4, V100, P100
us-central1-f Council Bluffs, Iowa, Amérique du Nord A100 40 Go, T4, V100, P100
us-east1-b Moncks Corner, Caroline du Sud, Amérique du Nord A100 40 Go, P100
us-east1-c Moncks Corner, Caroline du Sud, Amérique du Nord T4, V100, P100
us-east1-d Moncks Corner, Caroline du Sud, Amérique du Nord T4
us-east4-a Ashburn, Virginie, Amérique du Nord T4, P4
us-east4-b Ashburn, Virginie, Amérique du Nord T4, P4
us-east4-c Ashburn, Virginie, Amérique du Nord T4, P4
us-east5-a Columbus, Ohio, Amérique du Nord H100 80 Go us-east5-b Columbus, Ohio, Amérique du Nord A100 80 Go us-east5-c Columbus, Ohio, Amérique du Nord
us-west1-a The Dalles, Oregon, Amérique du Nord T4, V100, P100
us-west1-b The Dalles, Oregon, Amérique du Nord A100 40 Go, T4, V100, P100
us-west1-c The Dalles, Oregon, Amérique du Nord

Étape suivante