Dataproc-Cluster skalieren

Nachdem Sie einen Dataproc-Cluster erstellt haben, können Sie den Cluster anpassen ("skalieren"), indem Sie die Anzahl der primären oder sekundären Worker-Knoten (horizontale Skalierung) im Cluster erhöhen oder verringern. Dataproc-Cluster können jederzeit skaliert werden, auch wenn Jobs auf dem Cluster ausgeführt werden. Der Maschinentyp eines vorhandenen Clusters (vertikale Skalierung) kann nicht geändert werden. Erstellen Sie zur vertikalen Skalierung einen Cluster mit einem unterstützten Maschinentyp und migrieren Sie dann Jobs zum neuen Cluster.

Dataproc-Autoscaling nutzen. Aktivieren Sie Autoscaling, statt Cluster manuell zu skalieren, damit Dataproc für Ihre Arbeitslasten die "richtige" Anzahl von Workern festlegt.

Welche Vorteile bieten Dataproc-Cluster?

1. Erhöhen der Anzahl vorhandener Worker, um die Ausführung eines Jobs zu beschleunigen
2. Reduzieren der Anzahl der Worker, um Geld zu sparen. (Beachten Sie beim Reduzieren eines Clusters die ordnungsgemäße Außerbetriebnahme, um den Verlust laufender Aufgaben zu vermeiden.)
3. Erhöhen der Anzahl vorhandener Knoten, um verfügbaren HDFS-Speicher (Hadoop Distributed Filesystem) zu erweitern

Hinweis: Sie können keinen Cluster mit einem einzelnen Knoten skalieren.

Da Cluster mehrmals skaliert werden können, kann es sinnvoll sein, die Clustergröße einmalig zu erhöhen/verringern und dann zu einem späteren Zeitpunkt zu verringern/erhöhen.

Worker entfernen: Achten Sie beim Entfernen von Workern aus dem Cluster darauf, dass die neue Clustergröße für die Verarbeitung Ihrer Arbeitslast ausreicht. Andernfalls kann die Ausführung Ihrer Jobs lange dauern oder nicht mehr reagieren.

Skalierung verwenden

Es gibt drei Methoden zum Skalieren von Dataproc-Clustern:

1. Verwenden Sie das gcloud-Befehlszeilentool in der gcloud CLI.
2. Bearbeiten Sie die Clusterkonfiguration in der Google Cloud Console.
3. Verwenden der Rest API

Neue Worker, die einem Cluster hinzugefügt wurden, verwenden den gleichen Maschinentyp wie bestehende Worker. Beispiel: Wird ein Cluster mit Workern des Maschinentyps n1-standard-8 erstellt, so nutzen neue Worker ebenfalls den Maschinentyp n1-standard-8.

Hinweis: Dataproc unterstützt das Ändern der Worker-Größe (vCPUs, Arbeitsspeicher, nichtflüchtiger Speicher) nicht, wenn Sie einem Cluster Worker hinzufügen.

Sie können die Anzahl der primären Worker, der sekundären Worker (Worker auf Abruf) oder beider skalieren. Wenn Sie beispielsweise nur die Anzahl der Worker (auf Abruf) skalieren, bleibt die Anzahl der primären Worker unverändert.

gcloud

gcloud CLI einrichten: Sie müssen die gcloud CLI einrichten und konfigurieren, um die Google Cloud CLI zu verwenden.

Führen Sie den folgenden Befehl aus, um einen Cluster mit gcloud dataproc clusters update zu skalieren.

gcloud dataproc clusters update cluster-name \
    --region=region \
    [--num-workers and/or --num-secondary-workers]=new-number-of-workers

cluster-name ist der Name des zu aktualisierenden Clusters und new-number-of-workers die aktualisierte Anzahl der primären und/oder sekundären Worker-Knoten. Wenn Sie beispielsweise einen Cluster namens "dataproc-1" zur Verwendung von fünf Worker-Knoten skalieren möchten, führen Sie den folgenden Befehl aus:

gcloud dataproc clusters update dataproc-1 \
    --region=region \
    --num-workers=5
...
Waiting on operation [operations/projects/project-id/operations/...].
Waiting for cluster update operation...done.
Updated [https://dataproc.googleapis.com/...].
clusterName: my-test-cluster
...
  masterDiskConfiguration:
    bootDiskSizeGb: 500
  masterName: dataproc-1-m
  numWorkers: 5
  ...
  workers:
  - my-test-cluster-w-0
  - my-test-cluster-w-1
  - my-test-cluster-w-2
  - my-test-cluster-w-3
  - my-test-cluster-w-4
...

REST API

Weitere Informationen finden Sie unter clusters.patch.

Beispiel

PATCH /v1/projects/project-id/regions/us-central1/clusters/example-cluster?updateMask=config.worker_config.num_instances,config.secondary_worker_config.num_instances
{
  "config": {
    "workerConfig": {
      "numInstances": 4
    },
    "secondaryWorkerConfig": {
      "numInstances": 2
    }
  },
  "labels": null
}

Anfrage zur Clustereraktualisierung über die Console stellen: Sie können in der Google Cloud Console unten auf der Seite „Dataproc-Clusterdetails“ → „Konfiguration“ auf den Link Entsprechende REST-Anfrage/-Antwort klicken, damit die Konsole eine entsprechende API-REST-PATCH-Anfrage erstellt.

Console

Nachdem ein Cluster erstellt wurde, können Sie ihn skalieren. Öffnen Sie dazu in der Google Cloud Console auf der Seite Cluster die Seite Clusterdetails und klicken Sie auf dem Tab Konfiguration auf die Schaltfläche Bearbeiten.

Geben Sie einen neuen Wert für die Anzahl der Worker-Knoten und/oder Worker-Knoten auf Abruf ein (im folgenden Screenshot auf "5" bzw. "2" aktualisiert).

Klicken Sie auf Speichern, um den Cluster zu aktualisieren.

So wählt Dataproc Clusterknoten zum Entfernen aus

Bei Clustern, die mit den Image-Versionen 1.5.83+, 2.0.57+ und 2.1.5+ erstellt wurden, versucht Dataproc beim Herunterskalieren eines Clusters die Auswirkungen des Entfernens von Knoten auf ausgeführte YARN-Anwendungen zu minimieren. Dazu werden zuerst inaktive, fehlerhafte und inaktive Knoten entfernt und danach Knoten mit den wenigsten ausgeführten YARN-Anwendungsmastern und ausgeführten Containern entfernt.

Ordnungsgemäße Außerbetriebnahme

Wenn Sie einen Cluster herunterskalieren, werden laufende Aufgaben möglicherweise beendet, bevor sie abgeschlossen sind. Wenn Sie Dataproc v 1.2 oder höher verwenden, können Sie die ordnungsgemäße Außerbetriebnahme verwenden, was die ordnungsgemäße Außerbetriebnahme von YARN-Knoten beinhaltet, um die laufende Arbeit an einem Worker zu beenden, bevor er aus dem Cloud Dataproc-Cluster entfernt wird.

Hinweis: Ein Worker wird erst aus einem Cluster entfernt, wenn die Ausführung der YARN-Anwendungen abgeschlossen ist.

Ordnungsgemäße Außerbetriebnahme und sekundäre Worker

Die sekundäre Worker-Gruppe (Worker-Gruppe auf Abruf) stellt Worker weiter bereit oder löscht sie, um die erwartete Größe zu erreichen, nachdem ein Cluster-Skalierungsvorgang als abgeschlossen markiert wurde. Wenn Sie versuchen, einen sekundären Worker ordnungsgemäß außer Betrieb zu nehmen, erhalten Sie möglicherweise eine Fehlermeldung wie die folgende:

"Die sekundäre Worker-Gruppe kann nicht außerhalb von Dataproc geändert werden. Wenn Sie diesen Cluster vor Kurzem erstellt oder aktualisiert haben, warten Sie einige Minuten, bevor Sie ihn ordnungsgemäß außer Betrieb nehmen, damit alle sekundären Instanzen hinzugefügt bzw. aus dem Cluster entfernt werden können. Erwartete Größe der sekundären Worker-Gruppe: x, tatsächliche Größe: y".

Warten Sie einige Minuten und wiederholen Sie dann die Anfrage zur ordnungsgemäßen Außerbetriebnahme.

Beachten Sie außerdem Folgendes:

• Sie können präemptive Worker jederzeit zwangsweise außer Betrieb nehmen.
• Primäre Worker werden immer ordnungsgemäß außer Betrieb genommen.

Ordnungsgemäße Außerbetriebnahme anwenden

Die ordnungsgemäße Außerbetriebnahme von Dataproc umfasst auch die ordnungsgemäße Außerbetriebnahme von YARN-Knoten. Damit werden laufende Aufgaben für einen Worker beendet, bevor sie aus dem Cloud Dataproc-Cluster entfernt werden. Die ordnungsgemäße Außerbetriebnahme ist standardmäßig deaktiviert. Sie kann aktiviert werden, indem Sie einen Zeitüberschreitungswert festlegen, wenn Sie Ihren Cluster aktualisieren, um einen oder mehrere Worker aus dem Cluster zu entfernen.

gcloud

Wenn Sie einen Cluster aktualisieren, um einen oder mehrere Worker zu entfernen, verwenden Sie den Befehl gcloud dataproc clusters update mit dem Flag --graceful-decommission-timeout. Die Zeitüberschreitungswerte (String) können den Wert "0s" (Standardeinstellung; erzwungene Außerbetriebnahme, nicht ordnungsgemäß) oder eine positive Dauer relativ zum aktuellen Zeitpunkt (z. B. "3s") haben. Die maximale Dauer beträgt 1 Tag.

Dauer: Geben Sie die Dauer für eine ordnungsgemäße Außerbetriebnahme mit einer nicht-negativen ganzen Zahl mit einem der folgenden Kleinbuchstaben an: "s", "m", "h" oder "d" für Sekunden, Minuten, Stunden oder Tage. Die maximale Dauer für die ordnungsgemäße Außerbetriebnahme ist "1d" (ein Tag). Wenn das Suffix weggelassen wird, wird von Sekunden ausgegangen.

gcloud dataproc clusters update cluster-name \
    --region=region \
    --graceful-decommission-timeout="timeout-value" \
    [--num-workers and/or --num-secondary-workers]=decreased-number-of-workers \
    ... other args ...

REST API

Weitere Informationen finden Sie unter clusters.patch.gracefulDecommissionTimeout. Die Zeitüberschreitungswerte (String) können den Wert "0" (Standardeinstellung; erzwungene Außerbetriebnahme, nicht ordnungsgemäß) oder eine Dauer in Sekunden (z. B. "3s") haben. Die maximale Dauer beträgt 1 Tag.

Console

Nachdem ein Cluster erstellt wurde, können Sie die ordnungsgemäße Außerbetriebnahme eines Clusters auswählen. Öffnen Sie dazu in der Google Cloud Console auf der Seite Cluster die Seite Clusterdetails für den Cluster und klicken Sie auf dem Tab Konfiguration auf die Schaltfläche Bearbeiten.

Klicken Sie im Abschnitt Ordnungsgemäße Außerbetriebnahme das Kästchen "Ordnungsgemäße Außerbetriebnahme verwenden" an und wählen Sie ein Zeitlimit aus.

Klicken Sie auf Speichern, um den Cluster zu aktualisieren.

Herunterskalieren einer ordnungsgemäßen Außerbetriebnahme abbrechen

Bei Dataproc-Clustern, die mit Image-Versionen 2.0.57+ oder 2.1.5+ erstellt wurden, können Sie den Befehl gcloud dataproc operations cancel ausführen oder eine Dataproc API-Anfrage vom Typ operations.cancel senden, um eine Skalierung der ordnungsgemäßen Außerbetriebnahme abzubrechen.

Sie können den Ressourcennamen, einschließlich der ID, eines Verkleinerungsvorgangs abrufen, indem Sie gcloud dataproc Operations list ausführen oder eine operations.list-Anfrage an die Dataproc API senden.

Wenn Sie eine Skalierung der ordnungsgemäßen Außerbetriebnahme abbrechen, geschieht Folgendes:

• Worker mit dem Status DECOMMISSIONING werden wieder in Betrieb genommen und erhalten nach Abschluss des Vorgangs den Status ACTIVE.

• Wenn der Verkleinerungsvorgang Labelaktualisierungen umfasst, werden die Aktualisierungen möglicherweise nicht wirksam.

Hinweis: Das Abbrechen eines Skalierungsvorgangs ist asynchron. Dataproc versucht, den Vorgang nach Möglichkeit abzubrechen, aber der Erfolg des Abbruchs wird nicht garantiert.

Um den Status der Abbruchanfrage zu prüfen, können Sie den Befehl gcloud dataproc operations describe ausführen oder eine Dataproc API-operations.get-Anfrage senden. Wenn der Abbruchvorgang erfolgreich ist, wird der Status des inneren Vorgangs als STORNIERT gekennzeichnet.