Geplante Snapshots konfigurieren

Cloud Composer 3 | Cloud Composer 2 | Cloud Composer 1

Auf dieser Seite wird beschrieben, wie Sie Ihre Umgebung so konfigurieren, dass Snapshots nach einem Zeitplan gespeichert werden.

Weitere Informationen zur Funktionsweise von Umgebungs-Snapshots und zum manuellen Speichern von Snapshots finden Sie unter Snapshots speichern und laden.

Funktionsweise geplanter Snapshots

Wenn Sie geplante Snapshots aktivieren, speichert Cloud Composer regelmäßig Snapshots der Umgebung in einem Cloud Storage-Bucket.

Wenn Sie Snapshots manuell erstellen, speichert Cloud Composer sie standardmäßig im Bucket der Umgebung. Bei geplanten Snapshots empfehlen wir, die Snapshots in einem separaten Bucket zu speichern. So können Sie Berechtigungen und eine Lebenszykluskonfiguration für diesen Bucket einrichten. Ein Bucket kann Snapshots aus mehreren Umgebungen enthalten. Außerdem können Sie Buckets erstellen, die regional redundant sind.

Hinweis

• Weitere Informationen zu den Anforderungen und Einschränkungen von Snapshots finden Sie unter Snapshots speichern und laden.

• Cloud Composer unterstützt geplante Snapshots ab Version 2.0.32. Umgebungs-Snapshots werden ab Version 2.0.9 unterstützt.

Bucket für geplante Snapshots erstellen

Erstellen Sie einen Bucket für geplante Snapshots. Überlegen Sie, wie Sie Umgebungs-Snapshots verwenden möchten. Wenn dies Teil Ihres Notfallwiederherstellungsplans ist, verwenden Sie einen redundanten Bucket über mehrere Regionen hinweg oder einen Bucket in einer anderen Region, damit Sie auch bei einem vollständigen regionalen Ausfall auf die Daten zugreifen können. Andernfalls ist ein Bucket in derselben Region wie die Umgebung möglicherweise besser geeignet. In diesem Fall reduzieren Sie die Kosten für die Übertragung von Daten zwischen Regionen.

Berechtigungen für den Bucket konfigurieren

Warnung :Snapshots können vertrauliche Informationen enthalten, z. B. Airflow-Verbindungs-Extras und Passwörter, die aus einem Umgebungs-Snapshot entschlüsselt werden können. Wir empfehlen, den Zugriff auf den Bucket nur auf vertrauenswürdige Entitäten zu beschränken.

Um dieses Sicherheitsrisiko zu minimieren, können Sie vertrauliche Informationen, die von Airflow-DAGs verwendet werden, z. B. Schlüssel oder Passwörter, in Secret Manager speichern. Weitere Informationen finden Sie unter Secret Manager für Ihre Umgebung konfigurieren.

Konfigurieren Sie die folgenden Berechtigungen:

• Das Dienstkonto Ihrer Umgebung muss Lese- und Schreibberechtigungen für diesen Bucket haben. Die Rolle Storage Object Admin hat beispielsweise solche Berechtigungen.

• Nutzerkonten benötigen keine zusätzlichen Berechtigungen für den Bucket, um Snapshots daraus zu laden, es sei denn, Sie möchten den Inhalt des Buckets über die Google Cloud Console aufrufen. In diesem Fall muss ein Nutzerkonto Leseberechtigung für den Bucket haben.

Lebenszykluskonfiguration für den Bucket festlegen

Um Speicherkosten zu sparen, können Sie eine Regel konfigurieren, mit der Umgebungs-Snapshots nach einem bestimmten Zeitraum gelöscht werden.

So löschen Sie beispielsweise automatisch Snapshots, die älter als 30 Tage sind:

1. Legen Sie eine Lebenszykluskonfiguration für den Bucket fest.
2. Geben Sie die Aktion Objekt löschen an.
3. Wählen Sie als Bedingung Alter und 30 Tage aus.

Snapshot-Zeitplan für Ihre Umgebung aktivieren

Console

1. Rufen Sie in der Google Cloud Console die Seite Umgebungen auf.

   Zur Seite Umgebungen

2. Klicken Sie in der Liste der Umgebungen auf den Namen Ihrer Umgebung. Die Seite Umgebungsdetails wird geöffnet.

3. Rufen Sie den Tab Umgebungskonfiguration auf.

4. Klicken Sie unter Wiederherstellungskonfiguration > Zeitplan für Snapshots auf Bearbeiten. Der Bereich Snapshot-Zeitplan wird geöffnet.

5. Wählen Sie im Bereich Snapshot-Zeitplan die Option Snapshots regelmäßig anhand des angegebenen Zeitplans erstellen aus.

6. Wählen Sie in der Drop-down-Liste Planungshäufigkeit die Option „Täglich“, „Wöchentlich“ oder „Benutzerdefiniert“ für Snapshots aus.

   Sie können einen benutzerdefinierten Zeitplan im unix-cron-Format angeben. Wenn Sie beispielsweise alle 30 Minuten Snapshots speichern möchten, geben Sie */30 * * * * an.

7. Wählen Sie im Feld Snapshot-Speicherort den Bucket-Ordner aus, in dem Sie Snapshots speichern möchten.

gcloud

Aktualisieren Sie die Umgebungskonfiguration. Mit den folgenden Argumenten werden Parameter für geplante Snapshots definiert:

• Mit --enable-scheduled-snapshot-creation werden geplante Snapshots aktiviert.
• --snapshot-location gibt einen Bucket-Ordner an, in dem Snapshots gespeichert werden sollen.

• Mit --snapshot-creation-schedule wird angegeben, wie oft Umgebungs-Snapshots im Unix-Cron-Format erstellt werden müssen. Wenn Sie beispielsweise alle 30 Minuten einen Snapshot erstellen möchten, geben Sie */30 * * * * an.

• --snapshot-schedule-timezone definiert eine Zeitzone für den Zeitplan. Dieser Wert ist ein Zeitoffset und berücksichtigt keine Änderungen der Sommerzeit. Gültige Werte sind UTC-12 bis UTC+12. Beispiele: UTC, UTC-01, UTC+03.

gcloud composer environments update ENVIRONMENT_NAME \
    --location LOCATION \
    --enable-scheduled-snapshot-creation \
    --snapshot-location "gs://SNAPSHOTS_FOLDER" \
    --snapshot-creation-schedule "CRON_EXPRESSION" \
    --snapshot-schedule-timezone "TIME_ZONE"

Ersetzen Sie:

• ENVIRONMENT_NAME durch den Namen der Umgebung.
• LOCATION durch die Region, in der sich die Umgebung befindet.
• SNAPSHOTS_FOLDER durch den URI eines Bucket-Ordners, in dem der Snapshot gespeichert werden soll.
• CRON_EXPRESSION mit dem Zeitplan im unix-cron-Format.
• TIME_ZONE mit einer Zeitzone für den Zeitplan.

Beispiel (jeden Tag um 4:00 Uhr, UTC+01):

gcloud composer environments update example-environment \
    --location us-central1 \
    --enable-scheduled-snapshot-creation \
    --snapshot-location "gs://example-bucket/environment_snapshots" \
    --snapshot-creation-schedule "0 4 * * *" \
    --snapshot-schedule-timezone "UTC+01"

API

Erstellen Sie eine API-Anfrage environments.patch.

In dieser Anfrage:

1. Geben Sie im Parameter updateMask die Maske config.recoveryConfig.scheduledSnapshotsConfig an, um die vorhandene Konfiguration für geplante Snapshots zu ersetzen.

2. Geben Sie im Anfragetext die Konfiguration für Snapshots an:

   {
     "config": {
       "recoveryConfig": {
         "scheduledSnapshotsConfig": {
           "enabled": true,
           "snapshot_location": "gs://SNAPSHOTS_FOLDER",
           "snapshot_creation_schedule": "CRON_EXPRESSION",
           "time_zone": "TIME_ZONE"
         }
       }
     }
   }
   

   Ersetzen Sie:

   • SNAPSHOTS_FOLDER durch den URI eines Bucket-Ordners, in dem der Snapshot gespeichert werden soll.

   • CRON_EXPRESSION mit dem Zeitplan im unix-cron-Format.

   • TIME_ZONE mit einer Zeitzone für den Zeitplan. Dieser Wert ist ein Zeitoffset und berücksichtigt keine Änderungen der Sommerzeit. Gültige Werte sind UTC-12 bis UTC+12. Beispiele: UTC, UTC-01, UTC+03.

   Beispiel (jeden Tag um 4:00 Uhr, UTC+01):

     // PATCH https://composer.googleapis.com/v1/projects/example-project/
     // locations/us-central1/environments/example-environment?updateMask=
     // config.recoveryConfig.scheduledSnapshotsConfig
       {
         "config": {
           "recoveryConfig": {
             "scheduledSnapshotsConfig": {
               "enabled": true,
               "snapshot_location": "gs://example-bucket/environment_snapshots",
               "snapshot_creation_schedule": "0 4 * * *",
               "time_zone": "UTC+01"
             }
           }
         }
       }
   

Terraform

Mit scheduled_snapshots_config im Block recovery_config werden Parameter für geplante Snapshots definiert:

• Mit enabled werden geplante Snapshots aktiviert.
• snapshot_location gibt einen Bucket-Ordner an, in dem Snapshots gespeichert werden sollen.
• Mit snapshot_creation_schedule wird angegeben, wie oft Umgebungs-Snapshots im Unix-Cron-Format erstellt werden müssen. Wenn Sie beispielsweise alle 30 Minuten einen Snapshot erstellen möchten, geben Sie */30 * * * * an.

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "ENVIRONMENT_NAME"
  region = "LOCATION"

  recovery_config {
    scheduled_snapshots_config {
      enabled = true
      snapshot_location = "gs://SNAPSHOTS_FOLDER"
      snapshot_creation_schedule = "CRON_EXPRESSION"
      time_zone = "TIME_ZONE"
    }
  }
}

Ersetzen Sie:

• SNAPSHOTS_FOLDER durch den URI eines Bucket-Ordners, in dem der Snapshot gespeichert werden soll.

• CRON_EXPRESSION mit dem Zeitplan im unix-cron-Format.

• TIME_ZONE mit einer Zeitzone für den Zeitplan. Dieser Wert ist ein Zeitoffset und berücksichtigt keine Änderungen der Sommerzeit. Gültige Werte sind UTC-12 bis UTC+12. Beispiele: UTC, UTC-01, UTC+03.

Beispiel (jeden Tag um 4:00 Uhr, UTC+01):

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "example-environment"
  region = "us-central1"

  recovery_config {
    scheduled_snapshots_config {
      enabled = true
      snapshot_location = "gs://example-bucket/environment_snapshots"
      snapshot_creation_schedule = "0 4 * * *"
      time_zone = "UTC+01"
    }
  }
}

Geplante Snapshots deaktivieren

Wenn Sie geplante Snapshots deaktivieren, werden alle vorhandenen Snapshots, die bereits erstellt wurden, nicht geändert oder entfernt. Diese Snapshots bleiben an dem Speicherort, an dem sie gespeichert wurden.

Console

1. Rufen Sie in der Google Cloud Console die Seite Umgebungen auf.

   Zur Seite Umgebungen

2. Klicken Sie in der Liste der Umgebungen auf den Namen Ihrer Umgebung. Die Seite Umgebungsdetails wird geöffnet.

3. Rufen Sie den Tab Umgebungskonfiguration auf.

4. Klicken Sie unter Wiederherstellungskonfiguration > Zeitplan für Snapshots auf Bearbeiten. Der Bereich Snapshot-Zeitplan wird geöffnet.

5. Wählen Sie im Bereich Snapshot-Zeitplan die Option Snapshots nicht automatisch erstellen aus.

gcloud

Aktualisieren Sie die Umgebungskonfiguration. Mit dem Argument --disable-scheduled-snapshot-creation werden geplante Snapshots deaktiviert.

gcloud composer environments update ENVIRONMENT_NAME \
    --location LOCATION \
    --disable-scheduled-snapshot-creation

Ersetzen Sie:

• ENVIRONMENT_NAME durch den Namen der Umgebung.
• LOCATION durch die Region, in der sich die Umgebung befindet.

Beispiel:

gcloud composer environments update example-environment \
    --location us-central1 \
    --disable-scheduled-snapshot-creation

API

Erstellen Sie eine API-Anfrage environments.patch.

In dieser Anfrage:

1. Geben Sie im Parameter updateMask die Maske config.recoveryConfig.scheduledSnapshotsConfig.enabled an, um den Wert des Felds enabled zu ersetzen.

2. Geben Sie im Anfragetext den neuen Wert an:

   {
     "config": {
       "recoveryConfig": {
         "scheduledSnapshotsConfig": {
           "enabled": false
         }
       }
     }
   }
   

Beispiel:

// PATCH https://composer.googleapis.com/v1/projects/example-project/
// locations/us-central1/environments/example-environment?updateMask=
// config.recoveryConfig.scheduledSnapshotsConfig.enabled
{
"config": {
  "recoveryConfig": {
    "scheduledSnapshotsConfig": {
      "enabled": false
    }
  }
}
}

Terraform

Wenn Sie geplante Snapshots deaktivieren möchten, legen Sie das Feld enabled im Block scheduled_snapshots_config auf false fest:

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "ENVIRONMENT_NAME"
  region = "LOCATION"

  recovery_config {
    scheduled_snapshots_config {
      enabled = false
    }
  }
}

Beispiel:

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "example-environment"
  region = "us-central1"

  recovery_config {
    scheduled_snapshots_config {
      enabled = false
      // Other scheduled snapshots parameters
    }
  }
}

Nächste Schritte

• Umgebungs-Snapshots speichern und laden
• Notfallwiederherstellung mit Snapshots
• Zugriffskontrolle