Compute Engine stellt Grafikprozessoren (Graphics Processing Units, GPUs) bereit, die Sie Ihren virtuellen Maschinen (VMs) hinzufügen können. Sie können diese GPUs nutzen, um bestimmte Arbeitslasten wie maschinelles Lernen und Datenverarbeitung auf Ihren VMs zu beschleunigen.
In diesem Dokument erhalten Sie eine Übersicht über die Schritte, die zum Erstellen einer VM mit angehängten GPUs erforderlich sind.
Weitere Informationen zu GPUs in Compute Engine finden Sie unter GPUs.
GPU-Modell auswählen
Eine Liste der verfügbaren GPU-Modelle finden Sie unter GPU-Plattformen. Notieren Sie sich den Maschinentyp, der für das ausgewählte GPU-Modell unterstützt wird.
Für jedes Modell kann es auch hilfreich sein, Folgendes zu prüfen:
- Unterstützte Regionen und Zonen.
- GPU-Preise, um die Kosten für die Nutzung der einzelnen GPU-Modelle auf Ihren VMs zu verstehen. Weitere Informationen zu VMs, die beschleunigungsoptimierte Maschinen verwenden, finden Sie unter Preise für VM-Instanzen.
- Lesen Sie mehr über die Einschränkungen für VMs mit GPUs.
Betriebssystem auswählen
Wenn Sie GPUs für maschinelles Lernen nutzen, können Sie ein Deep-Learning-VM-Image für Ihre VM verwenden. Auf jedem Deep-Learning-VM-Image ist ein GPU-Treiber vorinstalliert und es enthält Pakete wie TensorFlow und PyTorch. Sie können die Deep-Learning-VM-Images auch für allgemeine GPU-Arbeitslasten verwenden. Informationen zu den verfügbaren Images und den in den Images installierten Paketen finden Sie unter Image auswählen. Sie können auch ein beliebiges öffentliches Image oder ein benutzerdefiniertes Image verwenden. Manche Images erfordern aber unter Umständen einen speziellen Treiber oder einen Installationsvorgang, der in diesem Dokument nicht behandelt wird.
Sie müssen erkennen, welche Treiber für Ihr Betriebssystem-Image geeignet sind. Hinweise zur Installation von Treibern finden Sie unter GPU-Treiber installieren.
GPU-Kontingent prüfen
Zum Schutz der Systeme und Nutzer von Compute Engine haben neue Projekte ein globales GPU-Kontingent, das die Gesamtzahl der GPUs begrenzt, die Sie in einer unterstützten Zone erstellen können. Informationen zum GPU-Kontingent finden Sie unter GPU-Kontingent.
Fordern Sie eine Kontingentaufstockung an, falls Sie Ihr GPU-Kontingent erhöhen müssen. Wenn Sie ein GPU-Kontingent anfordern, müssen Sie ein Kontingent für die GPU-Typen, die Sie in den einzelnen Regionen erstellen möchten, sowie ein zusätzliches globales Kontingent für die Gesamtzahl der GPUs aller Typen in allen Zonen anfordern.
Wenn Ihr Projekt einen bestehenden Abrechnungsverlauf hat, wird es nach Ihrer Anfrage automatisch Kontingente erhalten.
GPU-VMs und Kontingente auf Abruf
Ressourcen für VMs, die das Standardbereitstellungsmodell (Standard-VMs) verwenden, können in der Regel keine Kontingente auf Abruf verwenden, die für temporäre Arbeitslasten vorgesehen sind und in der Regel mehr verfügbar sind. Wenn Ihr Projekt kein Kontingent auf Abruf hat und Sie kein Kontingent auf Abruf angefordert haben, verbrauchen alle VMs in diesem Projekt Standardzuweisungskontingente.
Wenn Sie jedoch ein Kontingent für die Zuteilung auf Abruf anfordern, können die Standard-VMs, die alle folgenden Kriterien erfüllen, nur ein Kontingent für die Zuteilung auf Abruf verbrauchen.
- An die VM sind GPUs angehängt. Dies kann entweder eine N1-VM mit angehängten GPUs oder eine beschleunigungsoptimierte VM sein.
- Die VM ist so konfiguriert, dass sie nach einer vordefinierten Laufzeit
von maximal sieben Tagen mithilfe einer der folgenden Methoden automatisch gelöscht wird:
- Verwenden Sie entweder das Feld
maxRunDuration
oderterminationTime
. Weitere Informationen finden Sie unter Laufzeit einer VM begrenzen oder Laufzeit von VMs in einer verwalteten Instanzgruppe begrenzen. - Mithilfe des Felds
requestedRunDuration
, das nur für verwaltete Instanzgruppen (MIGs) verfügbar ist Weitere Informationen finden Sie unter Anfragen zur Größenänderung in einer MIG.
- Verwenden Sie entweder das Feld
- Die VM darf keine Reservierungen nutzen. Weitere Informationen finden Sie unter VMs erstellen, ohne Reservierungen zu nutzen
Durch die Nutzung des Zuteilungskontingents auf Abruf für solche Arbeitslasten profitieren Sie sowohl von den Vorteilen einer unterbrechungsfreien Laufzeit von Standard-VMs als auch einer verbesserten Erreichbarkeit durch das Zuteilungskontingent auf Abruf.
Unabhängig vom verwendeten Kontingent kommen Standard-VMs nicht für Spot-VMs infrage, die nicht vorzeitig beendet werden.
Weitere Informationen finden Sie unter Kontingente auf Abruf.
VM mit angehängten GPUs erstellen
Führen Sie die folgenden Schritte aus, um eine VM mit angehängten GPUs zu erstellen:
Erstellen Sie die VM. Die zum Erstellen einer VM verwendete Methode hängt vom ausgewählten GPU-Modell ab.
- Informationen zum Erstellen einer VM mit angehängten NVIDIA H100-, A100- oder L4-GPUs finden Sie unter Beschleunigungsoptimierte VM erstellen.
- Informationen zum Erstellen einer VM mit angehängten NVIDIA T4-, P4-, P100- und V100-GPUs finden Sie unter N1-VM mit angehängten GPUs erstellen.
Damit die VM die GPU verwenden kann, müssen Sie den GPU-Treiber auf Ihrer VM installieren. Wenn Sie eine virtuelle NVIDIA RTX-Workstation (früher NVIDIA GRID) aktiviert haben, installieren Sie einen Treiber für eine virtuelle Workstation.
Nächste Schritte
Weitere Informationen zu GPU-Plattformen
Weitere Informationen über die Features und Einschränkungen der Verwendung von GPUs
So erfahren Sie, wie Sie die tatsächliche und prognostizierte Nutzung Ihrer GPUs aufrufen können.