Gruppen von GPU-Instanzen mit Instanzvorlagen erstellen

Mit Instanzvorlagen können Sie verwaltete Instanzgruppen erstellen und dabei jeder Instanz GPUs hinzufügen. Verwaltete Instanzgruppen verwenden die Vorlage, um mehrere identische Instanzen zu erstellen. Die Anzahl der Instanzen in der Gruppe können Sie entsprechend Ihrer Arbeitslast skalieren.

Da für die erstellten Instanzen das CUDA-Toolkit und der NVIDIA-Treiber installiert sein müssen, lautet der Prozess zum Erstellen einer Instanzvorlage für GPU-Instanzen:

  1. Erstellen Sie eine Instanz mit angehängten GPUs.
  2. Installieren Sie einen GPU-Treiber für die Instanz.
  3. Erstellen Sie ein Image von dem Laufwerk, das mit der VM-Instanz verknüpft ist, auf der die GPUs und Treiber installiert sind.
  4. Verwenden Sie das Image, um eine Instanzvorlage zu erstellen.
  5. Verwenden Sie die Vorlage, um eine Instanzgruppe zu erstellen.

Hinweis

Instanzvorlage erstellen

Schritte zum Erstellen einer Instanzvorlage finden Sie unter Instanzvorlagen erstellen.

Console

Damit Sie die Instanzvorlage mithilfe der Console erstellen können, müssen Sie die folgenden Anpassungen vornehmen:

  • Geben Sie den Maschinentyp an.
  • Geben Sie den Namen und die Familie Ihres benutzerdefinierten Images mit den angehängten GPUs und Treibern an.

Weitere Informationen zur Verwendung benutzerdefinierter Images finden Sie unter Verwendung benutzerdefinierter und öffentlicher Images in Ihren Instanzvorlagen.

gcloud

Fügen Sie die Flags --accelerators und --maintenance-policy TERMINATE ein, um die Instanzvorlage mithilfe des Befehls gcloud compute instance-templates create zu erstellen.

Im folgenden Beispiel wird eine Instanzvorlage mit 2 vCPUs, einem Bootlaufwerk mit 250 GB erstellt, das auf Ihrem Image (mit installierten Treibern) beruht, und einer NVIDIA® K80-GPU. Ersetzen Sie my-image und my-project durch das Image und den Projektnamen für das Image mit den angehängten GPUs und Treibern.

gcloud compute instance-templates create gpu-template \
    --machine-type n1-standard-2 \
    --boot-disk-size 250GB \
    --accelerator type=nvidia-tesla-k80,count=1 \
    --image-family my-image \
    --image-project my-project \
    --maintenance-policy TERMINATE \
    --restart-on-failure

Instanzgruppe erstellen

Verwenden Sie die neue Vorlage, um eine Instanzgruppe zu erstellen. Jedes Mal, wenn Sie der Gruppe eine Instanz hinzufügen, wird die Instanz mit den Einstellungen in der Instanzvorlage hochgefahren.

Wenn Sie eine regional verwaltete Instanzgruppe erstellen, müssen Sie Zonen auswählen, die das gewünschte GPU-Modell unterstützen. Eine Liste der GPU-Modelle und verfügbaren Zonen finden Sie unter GPUs in Compute Engine. Im folgenden Beispiel wird eine regional verwaltete Instanzgruppe über zwei Zonen erstellt, die das Modell nvidia-tesla-k80 unterstützen.

gcloud compute instance-groups managed create example-rmig \
    --template gpu-template --base-instance-name example-instances \
    --size 30 --zones us-east1-c,us-east1-d

Nächste Schritte