Configura instantáneas programadas

Cloud Composer 1 | Cloud Composer 2 | Cloud Composer 3

En esta página, se explica cómo configurar tu entorno para guardar instantáneas en un de un proyecto.

Obtén más información sobre cómo funcionan las instantáneas de entorno y cómo guardarlas. de forma manual, consulta Guarda y carga instantáneas.

Cómo funcionan las instantáneas programadas

Cuando habilitas las instantáneas programadas, Cloud Composer periódicamente guarda las instantáneas de tu entorno en un bucket de Cloud Storage.

Si creas instantáneas manualmente, Cloud Composer las guarda en el bucket del entorno de forma predeterminada. En el caso de las instantáneas programadas, te recomendamos que las guardes en un bucket independiente. Así, podrás configurar y una configuración del ciclo de vida para este bucket. Un bucket puede contener instantáneas de varios entornos, y también puedes crear buckets que sean redundantes en varias regiones.

Antes de comenzar

• Para obtener más información sobre los requisitos y las limitaciones de las instantáneas, consulta Cómo guardar y cargar instantáneas.

• Cloud Composer admite instantáneas programadas en 2.0.32 y versiones posteriores. versiones. Las instantáneas de entorno son compatibles con la versión 2.0.9 y versiones posteriores.

Crea un bucket para las instantáneas programadas

Crea un bucket para las instantáneas programadas. Considera cómo por lo que quieres usar instantáneas del entorno. Si es parte de tu plan de recuperación ante desastres y, luego, bucket que es redundante entre regiones o una bucket en una región diferente, por lo que tendrás acceso a los datos incluso en caso de una para una interrupción total a nivel regional. De lo contrario, un bucket que se encuentre en la misma región que el entorno sería más adecuado y, en este caso, reducirás los costos de transferencia datos entre regiones.

Configura los permisos para el bucket

Advertencia: Las instantáneas pueden contener información sensible, como contraseñas y extras de conexión de Airflow, que se pueden desencriptar desde una instantánea del entorno. Te recomendamos que limites el acceso al bucket solo a entidades de confianza.

Para mitigar este riesgo de seguridad, puedes almacenar la información sensible que usan los DAG de Airflow, como claves o contraseñas, en Secret Manager. Para obtener más información, consulta Configura Secret Manager para tu entorno.

Configura los siguientes permisos:

• La cuenta de servicio de tu entorno debe tener operaciones de lectura y permisos de escritura para este bucket. Por ejemplo, el rol de administrador de objetos de almacenamiento tiene esos permisos.

• Las cuentas de usuario no necesitan ningún permiso adicional para el bucket para cargar instantáneas, a menos que quieras ver el contenido del bucket de la consola de Google Cloud. En este caso, una cuenta de usuario debe tener permiso de lectura en el bucket.

Establece una configuración del ciclo de vida para el bucket

Para ahorrar costos de almacenamiento, puedes configurar una regla que borre el entorno instantáneas después de cierto período.

Por ejemplo, para borrar de forma automática las instantáneas de más de 30 días de antigüedad, haz lo siguiente:

1. Establece una configuración del ciclo de vida para el bucket.
2. Especifica la acción Borrar objeto.
3. Selecciona Antigüedad y 30 días como condición.

Habilita una programación de instantáneas para tu entorno

Console

1. En la consola de Google Cloud, ve a la página Entornos.

   Ir a Entornos

2. En la lista de entornos, haz clic en el nombre de tu entorno. Se abrirá la página Detalles del entorno.

3. Ve a la pestaña Configuración del entorno.

4. En Configuración de recuperación > Programación de instantáneas, haz clic en Editar. Se abrirá el panel Programación de instantáneas.

5. En el panel Programación de instantáneas, selecciona Crear instantáneas periódicamente según el programa especificado.

6. En la lista desplegable Frecuencia de programación, selecciona el período diario, semanal o personalizado para las instantáneas.

   Puedes especificar un programa personalizado con la formato unix-cron. Por ejemplo, para guardar instantáneas cada 30 minutos, especifica */30 * * * *.

   Importante: Los límites de cuota permiten hasta 52 operaciones de guardado de instantáneas por día para un solo entorno. Si quieres que las instantáneas programadas se tomen a la a intervalos regulares, el intervalo entre ellos debe ser de, al menos, 30 minutos.

7. En el campo Ubicación de instantáneas, selecciona la carpeta del bucket en la que deseas guardar las instantáneas.

gcloud

Actualiza la configuración de tu entorno. Los siguientes argumentos definen los parámetros de las instantáneas programadas:

• --enable-scheduled-snapshot-creation habilita las instantáneas programadas.
• --snapshot-location especifica una carpeta de bucket en la que deseas guardar las instantáneas.

• --snapshot-creation-schedule especifica con qué frecuencia se deben tomar las instantáneas del entorno, en el formato unix-cron. Por ejemplo, para crear una instantánea cada 30 minutos, especifica */30 * * * *.

  Importante: Los límites de cuota permiten hasta 52 operaciones de guardado de instantáneas por día para un solo entorno. Si deseas que se tomen instantáneas programadas en intervalos regulares, el intervalo entre ellas debe ser de al menos 30 minutos.

• --snapshot-schedule-timezone define una zona horaria para el programa. Este valor es un desfase de tiempo y no tiene en cuenta los cambios en el horario de verano. Los valores válidos van desde UTC-12 hasta UTC+12. Ejemplos: UTC, UTC-01, UTC+03.

gcloud beta composer environments update ENVIRONMENT_NAME \
    --location LOCATION \
    --enable-scheduled-snapshot-creation \
    --snapshot-location "gs://SNAPSHOTS_FOLDER" \
    --snapshot-creation-schedule "CRON_EXPRESSION" \
    --snapshot-schedule-timezone "TIME_ZONE"

Reemplaza lo siguiente:

• ENVIRONMENT_NAME por el nombre del entorno.
• LOCATION por la región en la que se encuentra el entorno
• SNAPSHOTS_FOLDER con el URI de una carpeta de bucket en la que se guardará la instantánea.
• CRON_EXPRESSION con el programa, en el formato unix-cron.
• TIME_ZONE por una zona horaria para el programa

Ejemplo (todos los días a las 4:00, UTC+01):

gcloud beta composer environments update example-environment \
    --location us-central1 \
    --enable-scheduled-snapshot-creation \
    --snapshot-location "gs://example-bucket/environment_snapshots" \
    --snapshot-creation-schedule "0 4 * * *" \
    --snapshot-schedule-timezone "UTC+01"

API

Realiza una solicitud a la API de environments.patch.

En esta solicitud, realiza lo siguiente:

1. En el parámetro updateMask, especifica la máscara config.recoveryConfig.scheduledSnapshotsConfig para reemplazar la configuración existente de instantáneas programadas.

2. En el cuerpo de la solicitud, especifica la configuración para las instantáneas:

   {
     "config": {
       "recoveryConfig": {
         "scheduledSnapshotsConfig": {
           "enabled": true,
           "snapshot_location": "gs://SNAPSHOTS_FOLDER",
           "snapshot_creation_schedule": "CRON_EXPRESSION",
           "time_zone": "TIME_ZONE"
         }
       }
     }
   }
   

   Reemplaza lo siguiente:

   • SNAPSHOTS_FOLDER con el URI de una carpeta de bucket en la que se guardará la instantánea.

   • CRON_EXPRESSION con el programa, en formato unix-cron.

     Importante: Los límites de cuota permiten hasta 52 operaciones de guardado de instantáneas por día para un solo entorno. Si quieres que las instantáneas programadas se tomen a la a intervalos regulares, el intervalo entre ellos debe ser de, al menos, 30 minutos.

   • TIME_ZONE por una zona horaria para el programa Esta es una compensación de tiempo y no tiene en cuenta el horario de verano cambia el horario. Los valores válidos van desde UTC-12 hasta UTC+12. Ejemplos: UTC, UTC-01 y UTC+03.

   Ejemplo (todos los días a las 4:00, UTC+01):

     // PATCH https://composer.googleapis.com/v1beta1/projects/example-project/
     // locations/us-central1/environments/example-environment?updateMask=
     // config.recoveryConfig.scheduledSnapshotsConfig
       {
         "config": {
           "recoveryConfig": {
             "scheduledSnapshotsConfig": {
               "enabled": true,
               "snapshot_location": "gs://example-bucket/environment_snapshots",
               "snapshot_creation_schedule": "0 4 * * *",
               "time_zone": "UTC+01"
             }
           }
         }
       }
   

Terraform

El scheduled_snapshots_config en el bloque recovery_config define los parámetros para las instantáneas programadas:

• enabled habilita las instantáneas programadas.
• snapshot_location especifica la carpeta del bucket en la que deseas guardar. instantáneas.
• snapshot_creation_schedule especifica la frecuencia se deben tomar instantáneas de entorno, en el formato unix-cron. Por ejemplo, para crear una instantánea cada 30 minutos, especifica */30 * * * *.

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "ENVIRONMENT_NAME"
  region = "LOCATION"

  recovery_config {
    scheduled_snapshots_config {
      enabled = true
      snapshot_location = "gs://SNAPSHOTS_FOLDER"
      snapshot_creation_schedule = "CRON_EXPRESSION"
      time_zone = "TIME_ZONE"
    }
  }
}

Reemplaza lo siguiente:

• SNAPSHOTS_FOLDER por el URI de una carpeta del bucket en la que se realizará guardar la instantánea.

• CRON_EXPRESSION con el programa, en el formato unix-cron.

  Importante: Los límites de cuota permiten hasta 52 operaciones de guardado de instantáneas por día para un solo entorno. Si quieres que las instantáneas programadas se tomen a la a intervalos regulares, el intervalo entre ellos debe ser de, al menos, 30 minutos.

• TIME_ZONE por una zona horaria para el programa Esta es una compensación de tiempo y no tiene en cuenta el horario de verano cambia el horario. Los valores válidos van desde UTC-12 hasta UTC+12. Ejemplos: UTC, UTC-01 y UTC+03.

Ejemplo (todos los días a las 4:00 a.m., UTC+01):

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "example-environment"
  region = "us-central1"

  recovery_config {
    scheduled_snapshots_config {
      enabled = true
      snapshot_location = "gs://example-bucket/environment_snapshots"
      snapshot_creation_schedule = "0 4 * * *"
      time_zone = "UTC+01"
    }
  }
}

Inhabilita las instantáneas programadas

Si inhabilitas las instantáneas programadas, no se modifican ni quitan todas las instantáneas existentes que ya se tomaron. Estas instantáneas permanecen en la ubicación de que se salvó.

Console

1. En la consola de Google Cloud, ve a la página Entornos.

   Ir a Entornos

2. En la lista de entornos, haz clic en el nombre de tu entorno. Se abrirá la página Detalles del entorno.

3. Ve a la pestaña Configuración del entorno.

4. En Configuración de recuperación > Programación de instantáneas, haz clic en Editar. Se abrirá el panel Programación de instantáneas.

5. En el panel Programación de instantáneas, selecciona No crear instantáneas automáticamente.

gcloud

Actualiza la configuración de tu entorno. El El argumento --disable-scheduled-snapshot-creation inhabilita la programación instantáneas.

gcloud beta composer environments update ENVIRONMENT_NAME \
    --location LOCATION \
    --disable-scheduled-snapshot-creation

Reemplaza lo siguiente:

• ENVIRONMENT_NAME por el nombre del entorno.
• LOCATION por la región en la que se encuentra el entorno

Ejemplo:

gcloud beta composer environments update example-environment \
    --location us-central1 \
    --disable-scheduled-snapshot-creation

API

Realiza una solicitud a la API de environments.patch.

En esta solicitud, realiza lo siguiente:

1. En el parámetro updateMask, especifica la máscara config.recoveryConfig.scheduledSnapshotsConfig.enabled para reemplazar el valor del campo enabled.

2. En el cuerpo de la solicitud, especifica el valor nuevo:

   {
     "config": {
       "recoveryConfig": {
         "scheduledSnapshotsConfig": {
           "enabled": false
         }
       }
     }
   }
   

Ejemplo:

// PATCH https://composer.googleapis.com/v1beta1/projects/example-project/
// locations/us-central1/environments/example-environment?updateMask=
// config.recoveryConfig.scheduledSnapshotsConfig.enabled
{
"config": {
  "recoveryConfig": {
    "scheduledSnapshotsConfig": {
      "enabled": false
    }
  }
}
}

Terraform

Para inhabilitar las instantáneas programadas, establece el campo enabled en el bloque scheduled_snapshots_config como false:

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "ENVIRONMENT_NAME"
  region = "LOCATION"

  recovery_config {
    scheduled_snapshots_config {
      enabled = false
    }
  }
}

Ejemplo:

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "example-environment"
  region = "us-central1"

  recovery_config {
    scheduled_snapshots_config {
      enabled = false
      // Other scheduled snapshots parameters
    }
  }
}

¿Qué sigue?

• Guarda y carga instantáneas del entorno
• Recuperación ante desastres con instantáneas
• Control de acceso