GPUs werden verwendet, um Arbeitslasten zu beschleunigen. Cloud Workstations unterstützt das Anhängen von GPUs an Workstations. Cloud Workstations unterstützt viele der verschiedenen GPU-Modelle, die an Compute Engine-VMs angehängt werden können. Das Modell und die Anzahl der GPUs, die jeder Workstation hinzugefügt werden sollen, werden in der Workstationkonfiguration angegeben. Cloud Workstations übernimmt das Anhängen der GPUs und die Installation ihrer Gerätetreiber.
Das Anhängen von GPUs an Workstations wirkt sich auf die Kosten aus, wie in der Preisübersicht für Cloud Workstations beschrieben.
Beschränkungen
In einer Workstationkonfiguration können GPUs angegeben werden, wobei folgende Einschränkungen gelten:
- Die verschachtelte Virtualisierung kann für eine Workstationkonfiguration mit GPUs nicht aktiviert werden.
- Cloud Workstations unterstützt GPUs nur für Konfigurationen, die Maschinentypen der N1-Maschinenserie oder der A2-Maschinenserie angeben. Weitere Informationen finden Sie unter Unterstützte GPU-Modelle.
- In der Konfiguration müssen Replikatzonen angegeben werden, in denen das ausgewählte GPU-Modell verfügbar ist.
- Workstations können nicht so konfiguriert werden, dass mehrere GPU-Modelle gleichzeitig angehängt werden.
Unterstützte GPU-Modelle
Cloud Workstations unterstützt viele der von Compute Engine verfügbaren GPU-Modelle. Die unterstützten Modelle hängen von der Maschinenserie ab, die für die Workstationkonfiguration ausgewählt wurde, wie in der folgenden Tabelle zusammengefasst.
N1-Maschinenserie
Die N1-Maschinenserie für allgemeine Zwecke unterstützt mehrere GPU-Modelle. Workstationkonfigurationen, die einen der N1-Maschinentypen angeben, können auch eines der folgenden GPU-Modelle angeben. Für das ausgewählte GPU-Modell kann in der Konfiguration angegeben werden, wie viele GPU-Karten an jede Workstation angehängt werden.
GPU-Modell | GPU-Anzahl |
---|---|
NVIDIA T4 (nvidia-tesla-t4 ) |
1, 2 oder 4 GPUs |
NVIDIA P4 (nvidia-tesla-p4 ) |
1, 2 oder 4 GPUs |
NVIDIA V100 (nvidia-tesla-v100 ) |
1, 2, 4 oder 8 GPUs |
NVIDIA P100 (nvidia-tesla-p100 ) |
1, 2 oder 4 GPUs |
A2-Maschinenserie
An die beschleunigeroptimierte Maschinenserie A2-Standard ist eine feste Anzahl von NVIDIA A100-GPUs angehängt, die ausschließlich auf dem ausgewählten Maschinentyp basieren.
Die folgende Tabelle zeigt die Zuordnung vom Maschinentyp zur Anzahl der angehängten Karten.
GPU-Modell | Maschinentyp | GPU-Anzahl |
---|---|---|
NVIDIA A100 40GB (nvidia-tesla-a100 ) |
a2-highgpu-1g |
1 GPU |
a2-highgpu-2g |
2 GPUs | |
a2-highgpu-4g |
4 GPUs | |
a2-highgpu-8g |
8 GPUs | |
a2-megagpu-16g |
16 GPUs |
Cloud Workstations unterstützt keine A2 Ultra-Maschinentypen.
GPUs einer vorhandenen Workstationkonfiguration hinzufügen
Führen Sie die Schritte auf einem der folgenden Tabs aus, um einer Workstationkonfiguration GPUs hinzuzufügen.
Hinweise
Select the tab for how you plan to use the samples on this page:
Console
When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.
gcloud
Installieren Sie die Google Cloud CLI und initialisieren Sie sie mit folgendem Befehl:
gcloud init
In der Übersicht zu Cloud Workstations-Preisen können Sie nachlesen, wie sich die Konfiguration von GPUs auf Ihre Kosten auswirkt. Beachten Sie, dass GPUs an die vorab gestarteten virtuellen Maschinen (VMs) angehängt sind, die durch die Größe des Schnellstartpools einer Konfiguration angegeben werden.
Vorhandene Konfiguration aktualisieren
Console
Konfigurieren Sie GPUs in einer vorhandenen Workstationkonfiguration über die Google Cloud Console. Gehen Sie dazu so vor:
Rufen Sie in der Google Cloud Console die Seite Workstationkonfigurationen auf.
Klicken Sie in der Liste Workstationkonfigurationen auf den Namen der Konfiguration, der GPUs hinzugefügt werden sollen.
Klicken Sie auf der Seite Details zur Workstationkonfiguration auf Bearbeiten Bearbeiten.
Klicken Sie auf der Seite Workstationkonfiguration bearbeiten im Navigationsmenü auf Maschineneinstellungen.
Klicken Sie auf die Ein/Aus-Schaltfläche, um GPUs anstelle der Maschinenfamilie Für allgemeine Zwecke auszuwählen.
Wählen Sie im Feld GPU type (GPU-Typ) das GPU-Modell aus, das Sie verwenden möchten.
Wählen Sie im Feld Anzahl der GPUs die Anzahl der GPU-Karten aus, die Sie an jede Workstation anhängen möchten.
Wählen Sie im Feld Maschinentyp den Maschinentyp aus, den Sie verwenden möchten.
Klicken Sie auf Speichern, um die Konfiguration zu aktualisieren.
gcloud
Konfigurieren Sie GPUs in einer vorhandenen Workstationkonfiguration mit dem Befehl gcloud workstations configs update
.
Erfassen Sie zuerst einige Informationen, um zu sehen, welche GPU-Modelle verfügbar sind, und um eins für Ihre Konfiguration auszuwählen:
Prüfen Sie mit dem folgenden
gcloud
-Befehl der Befehlszeile, welche Replikatzonen in der Konfiguration angegeben sind:gcloud workstations configs describe \ --format="table(name.scope(workstationConfigs),replicaZones.list())" \ --project=PROJECT_ID \ --region=LOCATION \ --cluster=WORKSTATION_CLUSTER_ID \ WORKSTATION_CONFIG_ID
Ersetzen Sie Folgendes:
PROJECT_ID
: die ID des Projekts, das die Workstationkonfiguration enthält.LOCATION
: Der Standort des Workstationclusters.WORKSTATION_CLUSTER_ID
: der Name des Workstationclusters, der die Workstationkonfiguration enthält.WORKSTATION_CONFIG_ID
: der Name der Workstationkonfiguration.
Wählen Sie ein unterstütztes GPU-Modell aus, das in beiden Replikatzonen der Konfiguration verfügbar ist. Führen Sie dazu den Befehl
gcloud compute accelerator-types list
aus:gcloud compute accelerator-types list \ --format="table(name:sort=1,zone,description,maximumCardsPerInstance)" \ --filter='zone.basename()=(ZONES) AND name~"nvidia-tesla-(a100|p100|p4|t4|v100)$"' \ --project=PROJECT_ID
Ersetzen Sie
ZONES
durch eine durch Kommas getrennte Liste der Replikatzonen, die im vorherigen Schritt ermittelt wurden (z. B.us-central1-a,us-central1-c
).Wählen Sie ein GPU-Modell aus, das zweimal in der Tabelle aufgeführt ist. Dies zeigt an, dass es in beiden Replikatzonen verfügbar ist.
Notieren Sie sich die maximale Anzahl von Karten, die Sie für das ausgewählte GPU-Modell anhängen können.
Ermitteln Sie mit dem Befehl
gcloud compute machine-types list
, welche der unterstützten Maschinentypen in beiden Replikatzonen der Konfiguration verfügbar sind.Wenn Sie im vorherigen Schritt das GPU-Modell NVIDIA A100 mit 40 GB ausgewählt haben, muss Ihre Konfiguration die A2-Maschinenserie verwenden:
gcloud compute machine-types list \ --format="table(name,zone,guestCpus:sort=1)" \ --filter="name:a2-highgpu- OR name:a2-megagpu-" \ --zones=ZONES \ --project=PROJECT_ID
Wenn Sie im vorherigen Schritt ein anderes GPU-Modell ausgewählt haben, muss Ihre Konfiguration die N1-Maschinenserie verwenden:
gcloud compute machine-types list \ --format="table(name,zone,guestCpus:sort=1)" \ --filter="name:n1-standard-" \ --zones=ZONES \ --project=PROJECT_ID
Wählen Sie einen Maschinentyp aus, der in der Tabelle zweimal aufgeführt ist. Dies bedeutet, dass er in beiden Replikatzonen verfügbar ist.
Nachdem Sie ein GPU-Modell und einen kompatiblen Maschinentyp ausgewählt haben, aktualisieren Sie die Konfiguration:
Führen Sie bei NVIDIA A100-GPUs mit 40 GB den folgenden Befehl aus, um die Konfiguration zu aktualisieren:
gcloud beta workstations configs update \ --project=PROJECT_ID \ --region=LOCATION \ --cluster=WORKSTATION_CLUSTER_ID \ WORKSTATION_CONFIG_ID \ --machine-type=A2_MACHINE_TYPE
Ersetzen Sie
A2_MACHINE_TYPE
durch den im vorherigen Schritt ausgewählten A2-Maschinentyp (z. B.a2-highgpu-1g
).Führen Sie für alle anderen GPU-Modelle den folgenden Befehl aus:
gcloud beta workstations configs update \ --project=PROJECT_ID \ --region=LOCATION \ß --cluster=WORKSTATION_CLUSTER_ID \ WORKSTATION_CONFIG_ID \ --machine-type=N1_MACHINE_TYPE \ --accelerator-type=ACCELERATOR_TYPE \ --accelerator-count=ACCELERATOR_COUNT
Ersetzen Sie Folgendes:
N1_MACHINE_TYPE
: der ausgewählte Maschinentyp aus der N1-Serie (z. B.n1-standard-2
).ACCELERATOR_TYPE
: Name des ausgewählten GPU-Modells, z. B.nvidia-tesla-t4
ACCELERATOR_COUNT
: die Anzahl der GPUs, die mit jeder Workstation verbunden werden sollen (z. B.1
,2
,4
). Muss eine Potenz von zwei kleiner als das Maximum für das GPU-Modell sein.
Neue Workstationkonfiguration mit GPUs erstellen
Führen Sie die Schritte auf einem der folgenden Tabs aus, um eine neue Workstationkonfiguration zu erstellen, bei der GPUs an Workstations angehängt werden, die darauf basieren.
Hinweise
Select the tab for how you plan to use the samples on this page:
Console
When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.
gcloud
Installieren Sie die Google Cloud CLI und initialisieren Sie sie mit folgendem Befehl:
gcloud init
REST
Verwenden Sie die von der gcloud CLI bereitgestellten Anmeldedaten, um die REST API-Beispiele auf dieser Seite in einer lokalen Entwicklungsumgebung zu verwenden.
Installieren Sie die Google Cloud CLI und initialisieren Sie sie mit folgendem Befehl:
gcloud init
Weitere Informationen finden Sie unter Für die Verwendung von REST authentifizieren in der Dokumentation zur Google Cloud-Authentifizierung.
Wählen Sie ein GPU-Modell aus und sehen Sie sich die GPU-Verfügbarkeitstabelle an, um eine Region auszuwählen, in der das ausgewählte GPU-Modell in mindestens zwei Zonen verfügbar ist.
Wenn Sie in der ausgewählten Region, in der Sie eine neue Konfiguration erstellen können, noch keinen Cluster haben, führen Sie die Schritte zum Erstellen eines Workstationclusters in der Region aus.
In der Übersicht zu Cloud Workstations-Preisen können Sie nachlesen, wie sich die Konfiguration von GPUs auf Ihre Kosten auswirkt. Beachten Sie, dass GPUs an die vorab gestarteten virtuellen Maschinen (VMs) angehängt sind, die durch die Größe des Schnellstartpools einer Konfiguration angegeben werden.
Neue Konfiguration erstellen
Console
Erstellen Sie in der Google Cloud Console eine neue Workstationkonfiguration mit GPUs. Gehen Sie dazu so vor:
Rufen Sie in der Google Cloud Console die Seite Workstationkonfigurationen auf.
Klicken Sie auf der Seite Workstationkonfigurationen auf add_box Erstellen.
Geben Sie auf der Seite Workstationkonfiguration erstellen im Schritt Allgemeine Informationen im Feld Name einen Namen für Ihre Konfiguration an.
Wählen Sie im Feld Workstationcluster einen Cluster in der ausgewählten Region aus.
Klicken Sie auf Weiter, um zum Schritt Maschineneinstellungen zu gelangen.
Klicken Sie auf der Seite Workstationkonfiguration erstellen im Schritt Maschineneinstellungen auf die Ein/Aus-Schaltfläche, um GPUs anstelle der Maschinenfamilie für allgemeine Zwecke auszuwählen.
Klicken Sie dann im Feld Zonen auf die Kästchen neben zwei Zonen, in denen das ausgewählte GPU-Modell verfügbar ist (siehe Tabelle zur GPU-Verfügbarkeit).
Wählen Sie im Feld GPU type (GPU-Typ) das GPU-Modell aus, das Sie verwenden möchten.
Wählen Sie im Feld Anzahl der GPUs die Anzahl der GPU-Karten aus, die Sie an jede Workstation anhängen möchten.
Wählen Sie im Feld Maschinentyp einen kompatiblen Maschinentyp aus.
Klicken Sie auf Weiter, um die Umgebungseinstellungen und die IAM-Richtlinie zu konfigurieren. Klicken Sie dann auf Erstellen, um die neue Workstationkonfiguration bereitzustellen.
gcloud
Erstellen Sie mit der gcloud
-Befehlszeile eine neue Workstationkonfiguration mit GPUs. Führen Sie dazu den Befehl gcloud workstations configs create
aus.
Führen Sie für NVIDIA A100-GPUs mit 40 GB den folgenden Befehl aus, um die Konfiguration zu erstellen:
gcloud beta workstations configs create \ --project=PROJECT_ID \ --region=LOCATION \ --cluster=WORKSTATION_CLUSTER_ID \ WORKSTATION_CONFIG_ID \ --replica-zones=REPLICA_ZONES \ --machine-type=A2_MACHINE_TYPE
Ersetzen Sie Folgendes:
PROJECT_ID
: die ID des Projekts, das die neue Workstationkonfiguration enthält.LOCATION
: Der Standort des Workstationclusters, in dem die Konfiguration enthalten sein soll.WORKSTATION_CLUSTER_ID
: Der Name des Workstationclusters, der die neue Workstationkonfiguration enthält.WORKSTATION_CONFIG_ID
: der Name der neuen Workstationkonfiguration.REPLICA_ZONES
: genau zwei Zonen in der Region des Clusters, in der das ausgewählte GPU-Modell verfügbar ist (z. B.us-central1-a,us-central1-c
).A2_MACHINE_TYPE
: der ausgewählte Maschinentyp der A2-Serie (z. B.a2-highgpu-1g
).
Führen Sie für alle anderen GPU-Modelle diesen Befehl aus, um Ihre Konfiguration zu erstellen:
gcloud beta workstations configs create \ --project=PROJECT_ID \ --region=LOCATION \ --cluster=WORKSTATION_CLUSTER_ID \ WORKSTATION_CONFIG_ID \ --replica-zones=REPLICA_ZONES \ --machine-type=N1_MACHINE_TYPE \ --accelerator-type=ACCELERATOR_TYPE \ --accelerator-count=ACCELERATOR_COUNT
Ersetzen Sie Folgendes:
PROJECT_ID
: die ID des Projekts, das die neue Workstationkonfiguration enthält.LOCATION
: Der Standort des Workstationclusters, in dem die Konfiguration enthalten sein soll.WORKSTATION_CLUSTER_ID
: Der Name des Workstationclusters, der die neue Workstationkonfiguration enthält.WORKSTATION_CONFIG_ID
: der Name der neuen Workstationkonfiguration.REPLICA_ZONES
: genau zwei Zonen in der Region des Clusters, in der das ausgewählte GPU-Modell verfügbar ist (z. B.us-central1-a,us-central1-c
).N1_MACHINE_TYPE
: der ausgewählte Maschinentyp der N1-Serie (z. B.n1-standard-2
).ACCELERATOR_TYPE
: Name des ausgewählten GPU-Modells, z. B.nvidia-tesla-t4
ACCELERATOR_COUNT
: die Anzahl der GPUs, die an jede Workstation angehängt werden sollen (z. B.1
,2
,4
).
NVIDIA GPU-Gerätetreiber
Cloud Workstations installiert während des VM-Starts die NVIDIA-Gerätetreiber auf den Host-VMs der Workstations.
Führen Sie den folgenden Befehl aus, um zu ermitteln, welche Versionsgerätetreiber auf einer Workstation installiert wurden:
nvidia-smi --query-gpu=name,driver_version --format=csv
GPU-Verfügbarkeit nach Region und Zone
Sie können nach Standort oder GPU-Modell oder einer Kombination aus beidem suchen.
Zonen | Standort | GPU-Plattformen | ||||||
---|---|---|---|---|---|---|---|---|
asia-east1-a |
Changhua County, Taiwan, APAC | T4, P100 | ||||||
asia-east1-b |
Changhua County, Taiwan, APAC | |||||||
asia-east1-c |
Changhua County, Taiwan, APAC | T4, V100, P100 | ||||||
asia-east2-a |
Hongkong, APAC | T4 | ||||||
asia-east2-b |
Hongkong, APAC | |||||||
asia-east2-c |
Hongkong, APAC | T4 | ||||||
asia-northeast1-a |
Tokio, Japan, APAC | A100 40GB, T4 | ||||||
asia-northeast1-b |
Tokio, Japan, APAC | |||||||
asia-northeast1-c |
Tokio, Japan, APAC | A100 40GB, T4 | ||||||
asia-northeast3-a |
Seoul, Südkorea, APAC | A100 40GB | ||||||
asia-northeast3-b |
Seoul, Südkorea, APAC | A100 40GB, T4 | ||||||
asia-northeast3-c |
Seoul, Südkorea, APAC | T4 | ||||||
asia-south1-a |
Mumbai, Indien, APAC | T4 | ||||||
asia-south1-b |
Mumbai, Indien, APAC | T4 | ||||||
asia-south1-c |
Mumbai, Indien, APAC | T4 | ||||||
asia-southeast1-a |
Jurong West, Singapur, APAC | T4 | ||||||
asia-southeast1-b |
Jurong West, Singapur, APAC | A100 40GB, T4, P4 | ||||||
asia-southeast1-c |
Jurong West, Singapur, APAC | A100 40GB, T4, P4 | ||||||
australia-southeast1-a |
Sydney, Australien, APAC | T4, P4 | ||||||
australia-southeast1-b |
Sydney, Australien, APAC | P4 | ||||||
australia-southeast1-c |
Sydney, Australien, APAC | T4, P100 | ||||||
europe-north1-a europe-north1-b europe-north1-c |
Hamina, Finnland, Europa | |||||||
europe-west1-b |
St. Ghislain, Belgien, Europa | T4, P100 | ||||||
europe-west1-c |
St. Ghislain, Belgien, Europa | T4 | ||||||
europe-west1-d |
St. Ghislain, Belgien, Europa | P100, T4 | ||||||
europe-west2-a |
London, England, Europa | T4 | ||||||
europe-west2-c |
London, England, Europa | |||||||
europe-west3-a |
Frankfurt, Deutschland, Europa | |||||||
europe-west3-b |
Frankfurt, Deutschland, Europa | T4 | ||||||
europe-west3-c |
Frankfurt, Deutschland, Europa | |||||||
europe-west4-a |
Eemshaven, Niederlande, Europa | A100 40GB, T4, V100, P100 | ||||||
europe-west4-b |
Eemshaven, Niederlande, Europa | A100 40GB, T4, P4, V100 | ||||||
europe-west4-c |
Eemshaven, Niederlande, Europa | T4, P4, V100 | ||||||
europe-west6-a europe-west6-b europe-west6-c |
Zürich, Schweiz, Europa | |||||||
europe-west8-a europe-west8-b europe-west8-c |
Mailand, Italien, Europa | |||||||
europe-west9-a europe-west9-b europe-west9-c |
Paris, Frankreich, Europa | |||||||
europe-west12-a europe-west12-b europe-west12-c |
Turin, Italien, Europa | |||||||
europe-southwest1-a europe-southwest1-b europe-southwest1-c |
Madrid, Spanien, Europa | |||||||
me-west1-a |
Tel Aviv, Israel, Naher Osten | |||||||
me-west1-b |
Tel Aviv, Israel, Naher Osten | A100 40GB, T4 | ||||||
me-west1-c |
Tel Aviv, Israel, Naher Osten | A100 40GB, T4 | ||||||
northamerica-northeast1-a |
Montreal, Québec, Nordamerika | P4 | ||||||
northamerica-northeast1-b |
Montreal, Québec, Nordamerika | P4 | ||||||
northamerica-northeast1-c |
Montreal, Québec, Nordamerika | T4, P4 | ||||||
southamerica-east1-a |
Osasco, São Paulo, Brasilien, Südamerika | T4 | ||||||
southamerica-east1-c |
Osasco, São Paulo, Brasilien, Südamerika | T4 | ||||||
southamerica-west1-a southamerica-west1-b southamerica-west1-c |
Santiago, Chile, Südamerika | |||||||
us-central1-a |
Council Bluffs, Iowa, Nordamerika | A100 40GB, T4, P4, V100 | ||||||
us-central1-b |
Council Bluffs, Iowa, Nordamerika | A100 40GB, T4, V100 | ||||||
us-central1-c |
Council Bluffs, Iowa, Nordamerika | A100 40GB, T4, P4, V100, P100 | ||||||
us-central1-f |
Council Bluffs, Iowa, Nordamerika | A100 40GB, T4, V100, P100 | ||||||
us-east1-b |
Moncks Corner, South Carolina, Nordamerika | A100 40GB, P100 | ||||||
us-east1-c |
Moncks Corner, South Carolina, Nordamerika | T4, V100, P100 | ||||||
us-east1-d |
Moncks Corner, South Carolina, Nordamerika | T4 | ||||||
us-east4-a |
Ashburn, Virginia, Nordamerika | T4, P4 | ||||||
us-east4-b |
Ashburn, Virginia, Nordamerika | T4, P4 | ||||||
us-east4-c |
Ashburn, Virginia, Nordamerika | T4, P4 | ||||||
us-east5-a |
Columbus, Ohio, Nordamerika | H100 80GB | us-east5-b |
Columbus, Ohio, Nordamerika | A100 80GB | us-east5-c |
Columbus, Ohio, Nordamerika | |
us-west1-a |
The Dalles, Oregon, Nordamerika | T4, V100, P100 | ||||||
us-west1-b |
The Dalles, Oregon, Nordamerika | A100 40GB, T4, V100, P100 | ||||||
us-west1-c |
The Dalles, Oregon, Nordamerika |
Nächste Schritte
GPUs mithilfe der Cloud Workstations API angeben
Sehen Sie sich dazu die vollständige Liste der Compute Engine-Maschinentypen an.
Sofern nicht anders angegeben, sind die Inhalte dieser Seite unter der Creative Commons Attribution 4.0 License und Codebeispiele unter der Apache 2.0 License lizenziert. Weitere Informationen finden Sie in den Websiterichtlinien von Google Developers. Java ist eine eingetragene Marke von Oracle und/oder seinen Partnern.
Zuletzt aktualisiert: 2024-07-05 (UTC).