Verfügbare GPUs

GPUs werden verwendet, um Arbeitslasten zu beschleunigen, und Cloud Workstations unterstützt das Anhängen. GPUs zu Workstations. Cloud Workstations unterstützt viele verschiedene GPU-Modelle zum Anschließen an Compute Engine-VMs Das Modell und die Anzahl der GPUs, die an jede Workstation angehängt werden sollen in der Workstationkonfiguration angegeben. Cloud Workstations-Handles das Hinzufügen der GPUs und das Installieren ihrer Gerätetreiber.

Das Anhängen von GPUs an Workstations wirkt sich auf die Kosten aus, wie in den Cloud Workstations – Preise

Beschränkungen

In einer Workstationkonfiguration können GPUs angegeben werden, wenn Folgendes zutrifft: Einschränkungen:

Unterstützte GPU-Modelle

Cloud Workstations unterstützt viele der von Compute Engine entwickelten GPU-Modelle verfügbar. Welche Modelle unterstützt werden, hängt von der Maschinenserie ab, die für der Workstationkonfiguration, wie in der folgenden Tabelle zusammengefasst.

N1-Maschinenserie

Die N1-Maschinenserie für allgemeine Zwecke unterstützt mehrere GPU-Modelle, und Workstationkonfigurationen, die einen der N1-Maschinentypen angeben können auch eines der folgenden GPU-Modelle angeben. Für die ausgewählte GPU kann in der Konfiguration angegeben sein, wie viele GPU-Karten die an jede Workstation angehängt werden.

GPU-Modell GPU-Anzahl
NVIDIA T4 (nvidia-tesla-t4) 1, 2 oder 4 GPUs
NVIDIA P4 (nvidia-tesla-p4) 1, 2 oder 4 GPUs
NVIDIA V100 (nvidia-tesla-v100) 1, 2, 4 oder 8 GPUs
NVIDIA P100 (nvidia-tesla-p100) 1, 2 oder 4 GPUs

A2-Maschinenserie

Die beschleunigeroptimierte A2-Standard-Maschinenserie ist eine feste Anzahl von NVIDIA A100-GPUs zugewiesen, die ausschließlich ausgewählten Maschinentyp.

Die folgende Tabelle zeigt die Zuordnung vom Maschinentyp zur Anzahl der die angehängt werden.

GPU-Modell Maschinentyp GPU-Anzahl
NVIDIA A100 40GB (nvidia-tesla-a100) a2-highgpu-1g 1 GPU
a2-highgpu-2g 2 GPUs
a2-highgpu-4g 4 GPUs
a2-highgpu-8g 8 GPUs
a2-megagpu-16g 16 GPUs

Cloud Workstations unterstützt keine A2 Ultra-Maschinentypen.

GPUs einer vorhandenen Workstationkonfiguration hinzufügen

Führen Sie die Schritte auf einem der folgenden Tabs aus, um einer Workstationkonfiguration GPUs hinzuzufügen.

Hinweise

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

Installieren Sie die Google Cloud CLI und initialisieren Sie sie mit folgendem Befehl:

gcloud init

Informationen zu den Preisen für Cloud Workstations Übersicht, um zu verstehen, wie sich die Konfiguration von GPUs auf Ihre Kosten auswirkt. Hinweis GPUs an die angegebenen vorab gestarteten virtuellen Maschinen (VMs) angehängt durch die Größe des Schnellstartpools einer Konfiguration.

Vorhandene Konfiguration aktualisieren

Console

Konfigurieren Sie GPUs für eine vorhandene Workstationkonfiguration über die Google Cloud Console. Gehen Sie dazu so vor:

  1. Wechseln Sie in der Google Cloud Console zur Seite Workstationkonfigurationen

    Zu Workstationkonfigurationen

  2. Klicken Sie in der Liste Workstationconfiguration auf den Namen der Konfiguration, der GPUs hinzugefügt werden sollen.

  3. Klicken Sie auf der Seite Details zur Workstationkonfiguration auf bearbeiten Bearbeiten:

  4. Klicken Sie auf der Seite Workstationkonfiguration bearbeiten auf Maschineneinstellungen. im Navigationsmenü.

  5. Klicken Sie auf die Ein/Aus-Schaltfläche, um GPUs anstelle von Allgemein auszuwählen. Maschinenfamilie.

    Wählen Sie im Feld GPU type (GPU-Typ) das GPU-Modell aus, das Sie verwenden möchten.

    Wählen Sie im Feld Anzahl der GPUs die gewünschte Anzahl von GPU-Karten aus. die mit jeder Workstation verbunden werden.

    Wählen Sie im Feld Maschinentyp den Maschinentyp aus, den Sie verwenden möchten.

  6. Klicken Sie auf Speichern, um die Konfiguration zu aktualisieren.

gcloud

Konfigurieren Sie GPUs auf einer vorhandenen Workstationkonfiguration, indem Sie den Befehl gcloud workstations configs update-Befehl

Zuerst sollten Sie einige Informationen sammeln, um zu sehen, welche GPU-Modelle und wählen Sie eine Option für Ihre Konfiguration aus:

  1. Prüfen Sie mit dem folgenden Befehl, welche Replikatzonen in der Konfiguration angegeben sind: folgenden gcloud-Kommandozeilenbefehl:

    gcloud workstations configs describe \
      --format="table(name.scope(workstationConfigs),replicaZones.list())" \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID
    

    Ersetzen Sie Folgendes:

    • PROJECT_ID: die ID des Projekts, das die Workstationkonfiguration enthält.
    • LOCATION: Der Standort des Workstationclusters.
    • WORKSTATION_CLUSTER_ID: der Name des Workstationclusters, der die Workstationkonfiguration enthält.
    • WORKSTATION_CONFIG_ID: der Name der Workstationkonfiguration.
  2. Wählen Sie ein unterstütztes GPU-Modell aus, das in beiden Replikatzonen der Konfiguration durch Ausführen des gcloud compute accelerator-types list-Befehl:

    gcloud compute accelerator-types list \
      --format="table(name:sort=1,zone,description,maximumCardsPerInstance)" \
      --filter='zone.basename()=(ZONES) AND name~"nvidia-tesla-(a100|p100|p4|t4|v100)$"' \
      --project=PROJECT_ID
    

    Ersetzen Sie ZONES durch eine durch Kommas getrennte Liste der Im vorherigen Schritt ermittelte Replikatzonen (z. B. us-central1-a,us-central1-c).

    Wählen Sie ein GPU-Modell aus, das zweimal in der Tabelle aufgeführt ist. in beiden Replikatzonen verfügbar.

    Notieren Sie sich die maximale Anzahl von Karten, die Sie für das ausgewählte GPU-Modell anhängen können.

  3. Ermitteln Sie, welche der unterstützten Maschinentypen in beiden Replikatzonen der Konfiguration mithilfe der Methode gcloud compute machine-types list-Befehl:

    1. Wenn Sie im vorherigen Schritt das NVIDIA A100-GPU-Modell mit 40 GB ausgewählt haben, Ihre Konfiguration muss die A2-Maschinenserie verwenden:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:a2-highgpu- OR name:a2-megagpu-" \
        --zones=ZONES \
        --project=PROJECT_ID
      
    2. Wenn Sie im vorherigen Schritt ein anderes GPU-Modell ausgewählt haben, Konfiguration muss die N1-Maschinenserie verwenden:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:n1-standard-" \
        --zones=ZONES \
        --project=PROJECT_ID
      

    Wählen Sie einen Maschinentyp aus, der zweimal in der Tabelle aufgeführt ist. ist in beiden Replikatzonen verfügbar.

  4. Nachdem Sie nun ein GPU-Modell und einen kompatiblen Maschinentyp ausgewählt haben, Aktualisieren Sie die Konfiguration:

    1. Führen Sie für NVIDIA A100-GPUs mit 40 GB den folgenden Befehl aus, um die Konfiguration:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION \
        --cluster=WORKSTATION_CLUSTER_ID \
        WORKSTATION_CONFIG_ID \
        --machine-type=A2_MACHINE_TYPE
      

      Ersetzen Sie A2_MACHINE_TYPE durch die ausgewählte A2-Maschine. den im vorherigen Schritt ermittelten Typ (z. B. a2-highgpu-1g).

    2. Führen Sie für alle anderen GPU-Modelle den folgenden Befehl aus:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION \ß
        --cluster=WORKSTATION_CLUSTER_ID \
        WORKSTATION_CONFIG_ID \
        --machine-type=N1_MACHINE_TYPE \
        --accelerator-type=ACCELERATOR_TYPE \
        --accelerator-count=ACCELERATOR_COUNT
      

      Ersetzen Sie Folgendes:

      • N1_MACHINE_TYPE: der ausgewählte Maschinentyp aus der N1-Serie (z. B. n1-standard-2).
      • ACCELERATOR_TYPE: Name des ausgewählten GPU-Modells (z. B. nvidia-tesla-t4).
      • ACCELERATOR_COUNT: die Anzahl der anzuhängenden GPUs für jede Workstation (z. B. 1, 2, 4). Muss eine Potenz von zwei sein kleiner als der Maximalwert für das GPU-Modell ist.

Neue Workstationkonfiguration mit GPUs erstellen

So erstellen Sie eine neue Workstationkonfiguration, die GPUs an Workstations anhängt die darauf basieren, führen Sie die Schritte auf einem der folgenden Tabs aus.

Hinweise

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

Installieren Sie die Google Cloud CLI und initialisieren Sie sie mit folgendem Befehl:

gcloud init

REST

Verwenden Sie die von der gcloud CLI bereitgestellten Anmeldedaten, um die REST API-Beispiele auf dieser Seite in einer lokalen Entwicklungsumgebung zu verwenden.

    Installieren Sie die Google Cloud CLI und initialisieren Sie sie mit folgendem Befehl:

    gcloud init

Weitere Informationen finden Sie unter Für die Verwendung von REST authentifizieren in der Dokumentation zur Google Cloud-Authentifizierung.

Wählen Sie ein GPU-Modell aus und sehen Sie in der GPU-Verfügbarkeitstabelle zur Auswahl einer Region, in der das ausgewählte GPU-Modell in mindestens zwei Zonen verfügbar ist.

Wenn Sie noch keinen Cluster in der ausgewählten Region haben, in der Sie einen Konfiguration aktualisieren, folgen Sie den Schritten zur Workstationcluster erstellen in der Region.

Informationen zu den Preisen für Cloud Workstations Übersicht, um zu verstehen, wie sich die Konfiguration von GPUs auf Ihre Kosten auswirkt. Hinweis GPUs an die angegebenen vorab gestarteten virtuellen Maschinen (VMs) angehängt durch die Größe des Schnellstartpools einer Konfiguration.

Neue Konfiguration erstellen

Console

Erstellen Sie eine neue Workstationkonfiguration mit GPUs aus der Google Cloud Console. Gehen Sie dazu so vor:

  1. Rufen Sie in der Google Cloud Console die Seite Workstationkonfigurationen auf. Seite.

    Zu Workstationkonfigurationen

  2. Klicken Sie auf der Seite Workstationkonfigurationen auf add_box Erstellen:

  3. Im Schritt Allgemeine Informationen des Workstationkonfiguration erstellen einen Namen für Ihre Konfiguration im Feld Name.

    Wählen Sie im Feld Workstation cluster (Workstationcluster) einen Cluster im ausgewählten Region

    Klicken Sie auf Weiter, um zum Schritt Maschineneinstellungen zu gelangen.

  4. Im Schritt Maschineneinstellungen der Seite Workstation erstellen Konfigurationsseite aufzurufen, klicken Sie zuerst auf die Ein/Aus-Schaltfläche, um GPUs auszuwählen. anstelle der Maschinenfamilie für allgemeine Zwecke zu verwenden.

    1. Klicken Sie dann im Feld Zonen die Kästchen neben zwei Zonen an. wo das ausgewählte GPU-Modell verfügbar ist (siehe GPU-Verfügbarkeitstabelle

    2. Wählen Sie im Feld GPU type (GPU-Typ) das GPU-Modell aus, das Sie verwenden möchten.

    3. Wählen Sie im Feld Anzahl der GPUs die Anzahl der die Sie an jede Workstation anhängen möchten.

    4. Wählen Sie im Feld Maschinentyp einen kompatiblen Maschinentyp aus.

  5. Klicken Sie auf Weiter, um die Umgebungseinstellungen und die IAM-Richtlinie zu konfigurieren. bevor Sie auf Erstellen klicken, um die neue Workstation bereitzustellen Konfiguration.

gcloud

Erstellen Sie eine neue Workstationkonfiguration mit GPUs mithilfe der gcloud-Befehlszeile, indem Sie den gcloud workstations configs create-Befehl:

  • Führen Sie für NVIDIA A100-GPUs mit 40 GB den folgenden Befehl aus, um die Konfiguration zu erstellen:

    gcloud beta workstations configs create \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID \
      --replica-zones=REPLICA_ZONES \
      --machine-type=A2_MACHINE_TYPE
    

    Ersetzen Sie Folgendes:

    • PROJECT_ID: die ID des Projekts, das die neue Workstationkonfiguration enthält.
    • LOCATION: Der Standort des Workstationclusters, in dem die Konfiguration enthalten sein soll.
    • WORKSTATION_CLUSTER_ID: der Name des Workstationclusters, der die neue Workstationkonfiguration enthält.
    • WORKSTATION_CONFIG_ID: der Name der neuen Workstationkonfiguration.
    • REPLICA_ZONES: genau zwei Zonen in der Region des Clusters, in der das ausgewählte GPU-Modell verfügbar ist (z. B. us-central1-a,us-central1-c).
    • A2_MACHINE_TYPE: der ausgewählte Maschinentyp der A2-Serie (z. B. a2-highgpu-1g).
  • Führen Sie für alle anderen GPU-Modelle diesen Befehl aus, um Ihre Konfiguration zu erstellen:

    gcloud beta workstations configs create \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID \
      --replica-zones=REPLICA_ZONES \
      --machine-type=N1_MACHINE_TYPE \
      --accelerator-type=ACCELERATOR_TYPE \
      --accelerator-count=ACCELERATOR_COUNT
    

    Ersetzen Sie Folgendes:

    • PROJECT_ID: die ID des Projekts, das die neue Workstationkonfiguration enthält.
    • LOCATION: Der Standort des Workstationclusters, in dem die Konfiguration enthalten sein soll.
    • WORKSTATION_CLUSTER_ID: der Name des Workstationclusters, der die neue Workstationkonfiguration enthält.
    • WORKSTATION_CONFIG_ID: der Name der neuen Workstationkonfiguration.
    • REPLICA_ZONES: genau zwei Zonen in der Region des Clusters, in der das ausgewählte GPU-Modell verfügbar ist (z. B. us-central1-a,us-central1-c).
    • N1_MACHINE_TYPE: der ausgewählte Maschinentyp der N1-Serie (z. B. n1-standard-2).
    • ACCELERATOR_TYPE: Name des ausgewählten GPU-Modells (z. B. nvidia-tesla-t4).
    • ACCELERATOR_COUNT: die Anzahl der anzuhängenden GPUs für jede Workstation (z. B. 1, 2, 4).

NVIDIA GPU-Gerätetreiber

Cloud Workstations installiert die NVIDIA-Gerätetreiber auf den Host-VMs während des VM-Starts.

Um zu ermitteln, welche Versionsgerätetreiber auf einer Workstation installiert wurden, führen Sie den folgenden Befehl aus:

nvidia-smi --query-gpu=name,driver_version --format=csv

GPU-Verfügbarkeit nach Region und Zone

Sie können nach Standort oder GPU-Modell oder einer Kombination aus beidem suchen.

Zonen Ort GPU-Plattformen
asia-east1-a Changhua County, Taiwan, APAC T4, P100
asia-east1-b Changhua County, Taiwan, APAC
asia-east1-c Changhua County, Taiwan, APAC T4, V100, P100
asia-east2-a Hongkong, APAC T4
asia-east2-b Hongkong, APAC
asia-east2-c Hongkong, APAC T4
asia-northeast1-a Tokio, Japan, APAC A100 40GB, T4
asia-northeast1-b Tokio, Japan, APAC
asia-northeast1-c Tokio, Japan, APAC A100 40GB, T4
asia-northeast3-a Seoul, Südkorea, APAC A100 40GB
asia-northeast3-b Seoul, Südkorea, APAC A100 40GB, T4
asia-northeast3-c Seoul, Südkorea, APAC T4
asia-south1-a Mumbai, Indien, APAC T4
asia-south1-b Mumbai, Indien, APAC T4
asia-south1-c Mumbai, Indien, APAC T4
asia-southeast1-a Jurong West, Singapur, APAC T4
asia-southeast1-b Jurong West, Singapur, APAC A100 40GB, T4, P4
asia-southeast1-c Jurong West, Singapur, APAC A100 40GB, T4, P4
australia-southeast1-a Sydney, Australien, APAC T4, P4
australia-southeast1-b Sydney, Australien, APAC P4
australia-southeast1-c Sydney, Australien, APAC T4, P100
europe-north1-a
europe-north1-b
europe-north1-c
Hamina, Finnland, Europa
europe-west1-b St. Ghislain, Belgien, Europa T4, P100
europe-west1-c St. Ghislain, Belgien, Europa T4
europe-west1-d St. Ghislain, Belgien, Europa P100, T4
europe-west2-a
europe-west2-b
London, England, Europa T4
europe-west2-c London, England, Europa
europe-west3-a Frankfurt, Deutschland, Europa
europe-west3-b Frankfurt, Deutschland, Europa T4
europe-west3-c Frankfurt, Deutschland, Europa
europe-west4-a Eemshaven, Niederlande, Europa A100 40GB, T4, V100, P100
europe-west4-b Eemshaven, Niederlande, Europa A100 40GB, T4, P4, V100
europe-west4-c Eemshaven, Niederlande, Europa T4, P4, V100
europe-west6-a
europe-west6-b
europe-west6-c
Zürich, Schweiz, Europa
europe-west8-a
europe-west8-b
europe-west8-c
Mailand, Italien, Europa
europe-west9-a
europe-west9-b
europe-west9-c
Paris, Frankreich, Europa
europe-west12-a
europe-west12-b
europe-west12-c
Turin, Italien, Europa
europe-southwest1-a
europe-southwest1-b
europe-southwest1-c
Madrid, Spanien, Europa
me-west1-a Tel Aviv, Israel, Naher Osten
me-west1-b Tel Aviv, Israel, Naher Osten A100 40GB, T4
me-west1-c Tel Aviv, Israel, Naher Osten A100 40GB, T4
northamerica-northeast1-a Montreal, Québec, Nordamerika P4
northamerica-northeast1-b Montreal, Québec, Nordamerika P4
northamerica-northeast1-c Montreal, Québec, Nordamerika T4, P4
southamerica-east1-a Osasco, São Paulo, Brasilien, Südamerika T4
southamerica-east1-c Osasco, São Paulo, Brasilien, Südamerika T4
southamerica-west1-a
southamerica-west1-b
southamerica-west1-c
Santiago, Chile, Südamerika
us-central1-a Council Bluffs, Iowa, Nordamerika A100 40GB, T4, P4, V100
us-central1-b Council Bluffs, Iowa, Nordamerika A100 40GB, T4, V100
us-central1-c Council Bluffs, Iowa, Nordamerika A100 40GB, T4, P4, V100, P100
us-central1-f Council Bluffs, Iowa, Nordamerika A100 40GB, T4, V100, P100
us-east1-b Moncks Corner, South Carolina, Nordamerika A100 40GB, P100
us-east1-c Moncks Corner, South Carolina, Nordamerika T4, V100, P100
us-east1-d Moncks Corner, South Carolina, Nordamerika T4
us-east4-a Ashburn, Virginia, Nordamerika T4, P4
us-east4-b Ashburn, Virginia, Nordamerika T4, P4
us-east4-c Ashburn, Virginia, Nordamerika T4, P4
us-east5-a Columbus, Ohio, Nordamerika H100 80GB us-east5-b Columbus, Ohio, Nordamerika A100 80GB us-east5-c Columbus, Ohio, Nordamerika
us-west1-a The Dalles, Oregon, Nordamerika T4, V100, P100
us-west1-b The Dalles, Oregon, Nordamerika A100 40GB, T4, V100, P100
us-west1-c The Dalles, Oregon, Nordamerika

Nächste Schritte