Escalar entornos

Cloud Composer 1 | Cloud Composer 2 | Cloud Composer 3

En esta página, se describe cómo escalar entornos de Cloud Composer.

Otras páginas sobre el escalamiento:

• Si deseas obtener una guía para seleccionar los parámetros de escalamiento y rendimiento óptimos para tu entorno, consulta Cómo optimizar el rendimiento y los costos del entorno.
• Para obtener información sobre cómo funciona el escalamiento del entorno, consulta Escalamiento del entorno.

Escalamiento vertical y horizontal

Opciones de escalamiento horizontal:

• Ajusta la cantidad mínima y máxima de trabajadores.
• Ajusta la cantidad de programadores y activadores.

Opciones de escalamiento vertical:

• Ajusta el trabajador, el programador, el activador, y servidor web. parámetros de escala y rendimiento.
• Ajusta el tamaño del entorno.

Límites de recursos

Componente	Cantidad mínima	Cantidad máxima	Cantidad mínima de CPU virtuales	CPU virtual máxima	Paso mínimo de CPU virtual	Memoria mínima (GB)	Memoria máxima (GB)	Paso mínimo de memoria (GB)	Memoria mínima por 1 CPU virtual (GB)	Memoria máxima por 1 CPU virtual (GB)	Almacenamiento mínimo (GB)	Almacenamiento máximo (GB)	Paso mínimo de almacenamiento (GB)
Programadores	1	10	0.5	28	0.25	0.5	80	-	1	6.5	0.05	10	-
Activadores	0	10	0.5	1	0.25	0.5	80	-	1	6.5	-	-	-
Servidor web	-	-	0.5	28	0.25	1	80	-	1	6.5	0.05	10	-
Trabajadores	1	100	0.5	28	0.25	0.5	80	-	1	6.5	0.05	10	-

Ajusta los parámetros de los trabajadores

Puedes configurar la cantidad mínima y máxima de trabajadores para tu entorno. Cloud Composer escala automáticamente tu entorno dentro de los límites establecidos. Puedes ajustar estos límites en cualquier momento.

Puedes especificar la cantidad de CPU, memoria y espacio en el disco que Airflow usará a los trabajadores de tu entorno. De esta manera, puedes aumentar el rendimiento de tu entorno, además del escalamiento horizontal proporcionado mediante el uso de varios trabajadores.

Nota: Para obtener información sobre los posibles valores y límites de los recursos, consulta la sección Límites de recursos.

Console

1. En la consola de Google Cloud, ve a la página Entornos.

   Ir a Entornos

2. En la lista de entornos, haz clic en el nombre de tu entorno. Se abrirá la página Detalles del entorno.

3. Ve a la pestaña Configuración del entorno.

4. En el elemento Recursos > Configuración de las cargas de trabajo, Haz clic en Editar.

5. En el panel Configuración de cargas de trabajo, ajusta los parámetros de Airflow trabajadores:

   • En el campo Cantidad mínima de trabajadores, especifica la cantidad de trabajadores de Airflow que tu entorno debe ejecutar en todo momento. La cantidad de trabajadores en tu entorno no es inferior a esta cantidad durante el funcionamiento normal del entorno, incluso si una cantidad menor de trabajadores puede manejar la carga.

     Nota: La cantidad de trabajadores puede ser menor de forma temporal por debajo del mínimo. la cantidad de trabajadores durante las operaciones de mantenimiento y cuándo actualizar tu entorno.

   • En el campo Cantidad máxima de trabajadores, especifica la cantidad máxima de trabajadores de Airflow que tu entorno puede ejecutar. La cantidad de trabajadores en tu entorno no supera esta cantidad, incluso si se requiere una mayor cantidad de trabajadores para manejar la carga.

   • En los campos CPU, Memoria y Almacenamiento, especifica la cantidad de CPUs, memoria y almacenamiento para los trabajadores de Airflow. Cada trabajador usa la cantidad especificada de recursos.

6. Haz clic en Guardar.

gcloud

Los siguientes parámetros de trabajadores de Airflow están disponibles:

• --min-workers: Es la cantidad de trabajadores de Airflow que tu entorno siempre debe ejecutar. La cantidad de trabajadores en tu entorno no es inferior a este número, incluso si un número menor de trabajadores pueda controlar la carga.
• --max-workers: Es la cantidad máxima de trabajadores de Airflow que un entorno de ejecución. La cantidad de trabajadores en tu entorno no supera esta cantidad, incluso si se requiere una mayor cantidad de trabajadores para manejar la carga.
• --worker-cpu: Es la cantidad de CPU para un trabajador de Airflow.
• --worker-memory: Es la cantidad de memoria para un trabajador de Airflow.
• --worker-storage: Es la cantidad de espacio en el disco para un trabajador de Airflow.

Ejecuta el siguiente comando de Google Cloud CLI:

gcloud composer environments update ENVIRONMENT_NAME \
  --location LOCATION \
  --min-workers WORKERS_MIN \
  --max-workers WORKERS_MAX \
  --worker-cpu WORKER_CPU \
  --worker-memory WORKER_MEMORY \
  --worker-storage WORKER_STORAGE

Reemplaza lo siguiente:

• ENVIRONMENT_NAME: Es el nombre del entorno.
• LOCATION: Es la región en la que se encuentra el entorno.
• WORKERS_MIN: Es la cantidad mínima de trabajadores de Airflow.
• WORKERS_MAX: Es la cantidad máxima de trabajadores de Airflow.
• WORKER_CPU: Es la cantidad de CPU para un trabajador, en unidades de CPU virtual.
• WORKER_MEMORY: Es la cantidad de memoria para un trabajador.
• WORKER_STORAGE: Es el tamaño del disco de un trabajador.

Nota: El valor especificado para la memoria y el espacio en el disco debe ser un número entero. seguida de una unidad de tamaño de KB para kilobyte, MB para megabyte o GB para gigabyte. La unidad de tamaño predeterminada es GB. Por ejemplo, 10GB produce un 10. de gigabytes de almacenamiento.

Ejemplo:

gcloud composer environments update example-environment \
  --location us-central1 \
  --min-workers 2 \
  --max-workers 6 \
  --worker-cpu 1 \
  --worker-memory 2 \
  --worker-storage 2

API

1. Realiza una solicitud a la API de environments.patch.

2. En esta solicitud, realiza lo siguiente:

   1. En el parámetro updateMask, especifica los campos que deseas actualizar. Por ejemplo, para actualizar todas para los trabajadores, especifica config.workloadsConfig.worker.cpu,config.workloadsConfig.worker.memoryGb,config.workloadsConfig.worker.storageGB,config.softwareConfig.workloadsConfig.worker.minCount,config.softwareConfig.workloadsConfig.worker.maxCount.

   2. En el cuerpo de la solicitud, especifica los parámetros del trabajador nuevo.

"config": {
  "workloadsConfig": {
    "worker": {
      "minCount": WORKERS_MIN,
      "maxCount": WORKERS_MAX,
      "cpu": WORKER_CPU,
      "memoryGb": WORKER_MEMORY,
      "storageGb": WORKER_STORAGE
    }
  }
}

Reemplaza lo siguiente:

• ENVIRONMENT_NAME: Es el nombre del entorno.
• LOCATION: Es la región en la que se encuentra el entorno.
• WORKERS_MIN: Es la cantidad mínima de trabajadores de Airflow.
• WORKERS_MAX: Es la cantidad máxima de trabajadores de Airflow.
• WORKER_CPU: Es la cantidad de CPUs para un trabajador, en unidades de CPU virtual.
• WORKER_MEMORY: Es la cantidad de memoria para un trabajador, en GB.
• WORKER_STORAGE: Es el tamaño del disco de un trabajador, en GB.

Ejemplo:

// PATCH https://composer.googleapis.com/v1/projects/example-project/
// locations/us-central1/environments/example-environment?updateMask=
// config.workloadsConfig.worker.minCount,
// config.workloadsConfig.worker.maxCount
// config.workloadsConfig.worker.cpu,
// config.workloadsConfig.worker.memoryGb,
// config.workloadsConfig.worker.storageGB

"config": {
  "workloadsConfig": {
    "worker": {
      "minCount": 2,
      "maxCount": 6,
      "cpu": 1,
      "memoryGb": 2,
      "storageGb": 2
    }
  }
}

Terraform

Los siguientes campos del bloque workloads_config.worker controlan los parámetros del trabajador de Airflow. Cada trabajador utiliza la cantidad especificada de recursos.

• worker.min_count: Es la cantidad de trabajadores de Airflow que tu entorno siempre debe ejecutar. La cantidad de trabajadores en tu entorno no es inferior a este número, incluso si un número menor de trabajadores pueda controlar la carga.
• worker.max_count: Es la cantidad máxima de trabajadores de Airflow que un entorno de ejecución. La cantidad de trabajadores en tu entorno no supera esta cantidad, incluso si se requiere una mayor cantidad de trabajadores para manejar la carga.
• worker.cpu: Es la cantidad de CPUs para un trabajador de Airflow.
• worker.memory_gb: Es la cantidad de memoria para un trabajador de Airflow.
• El worker.storage_gb: Es la cantidad de espacio en disco para un trabajador de Airflow.

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "ENVIRONMENT_NAME"
  region = "LOCATION"

  config {

    workloads_config {
      worker {
        min_count = WORKERS_MIN
        max_count = WORKERS_MAX
        cpu = WORKER_CPU
        memory_gb = WORKER_MEMORY
        storage_gb = WORKER_STORAGE
      }
    }

  }
}

Reemplaza lo siguiente:

• ENVIRONMENT_NAME: Es el nombre del entorno.
• LOCATION: Es la región en la que se encuentra el entorno.
• WORKERS_MIN: Es la cantidad mínima de trabajadores de Airflow.
• WORKERS_MAX: Es la cantidad máxima de trabajadores de Airflow.
• WORKER_CPU: Es la cantidad de CPUs para un trabajador, en unidades de CPU virtual.
• WORKER_MEMORY: Es la cantidad de memoria para un trabajador, en GB.
• WORKER_STORAGE: Es el tamaño del disco de un trabajador, en GB.

Ejemplo:

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "example-environment"
  region = "us-central1"

  config {

    workloads_config {
      worker {
        min_count = 2
        max_count = 6
        cpu = 1
        memory_gb = 2
        storage_gb = 2
      }
    }

  }
}

Ajusta los parámetros del programador

Tu entorno puede ejecutar más de un programador de Airflow al mismo tiempo. Usa varios programadores para distribuir la carga entre varias instancias del programador a fin de mejorar el rendimiento y la confiabilidad.

Puedes tener hasta (10) a los programadores de tu entorno.

Aumentar la cantidad de programadores no siempre mejora el rendimiento de Airflow. Por ejemplo, tener solo un programador puede proporcionar un mejor rendimiento que tener dos. Esto puede suceder cuando no se usa el programador adicional y, por lo tanto, consume recursos de tu entorno sin contribuir al rendimiento general. El rendimiento real del programador depende de la cantidad de trabajadores de Airflow, la cantidad de DAG y tareas que se ejecutan en tu entorno y la configuración de Airflow y el entorno.

Recomendamos comenzar con dos programadores y, luego, supervisar el rendimiento del entorno. Si cambias la cantidad de programadores, siempre puedes volver a escalar el entorno a la cantidad original.

Para obtener más información sobre la configuración de varios programadores, consulta la documentación de Airflow.

Puedes especificar la cantidad de CPU, memoria y espacio en el disco que usan los programadores de Airflow en tu entorno. De esta manera, puedes aumentar el rendimiento de tu entorno, además del escalamiento horizontal proporcionado mediante el uso de varios programadores.

Nota: Para obtener información sobre los posibles valores y límites de los recursos, consulta el Sección Límites de recursos.

Console

1. En la consola de Google Cloud, ve a la página Entornos.

   Ir a Entornos

2. En la lista de entornos, haz clic en el nombre de tu entorno. Se abrirá la página Detalles del entorno.

3. Ve a la pestaña Configuración del entorno.

4. En el elemento Recursos > Configuración de cargas de trabajo, haz clic en Editar.

5. En el panel Configuración de cargas de trabajo, ajusta los parámetros de Airflow schedulers:

   • En la lista desplegable Número de programadores, selecciona el número de programadores de software para tu entorno.

   • En los campos CPU, Memoria y Almacenamiento, especifica la cantidad de CPUs, memoria y almacenamiento para los programadores de Airflow. Cada programador usa la cantidad especificada de recursos.

6. Haz clic en Guardar.

gcloud

Están disponibles los siguientes parámetros del programador de Airflow:

• --scheduler-count: Es la cantidad de programadores en tu entorno.

• --scheduler-cpu: Es la cantidad de CPU para un programador de Airflow.

• --scheduler-memory: Es la cantidad de memoria para un programador de Airflow.

• --scheduler-storage: Es la cantidad de espacio en el disco para un programador de Airflow.

Ejecuta el siguiente comando de Google Cloud CLI:

gcloud composer environments update ENVIRONMENT_NAME \
  --location LOCATION \
  --scheduler-cpu SCHEDULER_CPU \
  --scheduler-memory SCHEDULER_MEMORY \
  --scheduler-storage SCHEDULER_STORAGE \
  --scheduler-count SCHEDULER_COUNT

Reemplaza lo siguiente:

• ENVIRONMENT_NAME: Es el nombre del entorno.

• LOCATION: Es la región en la que se encuentra el entorno.

• SCHEDULER_CPU: Es la cantidad de CPU para un programador, en unidades de CPU virtual.

• SCHEDULER_MEMORY: Es la cantidad de memoria para un programador.

• SCHEDULER_STORAGE: Es el tamaño del disco de un programador.

• SCHEDULER_COUNT: Es la cantidad de programadores.

Nota: El valor especificado para la memoria y el espacio en el disco debe ser un número entero seguido de una unidad de tamaño de KB para kilobyte, MB para megabyte o GB para gigabyte. La unidad de tamaño predeterminada es GB. Por ejemplo, 10GB produce un almacenamiento de 10 gigabytes.

Ejemplo:

gcloud composer environments update example-environment \
  --location us-central1 \
  --scheduler-cpu 0.5 \
  --scheduler-memory 2.5 \
  --scheduler-storage 2 \
  --scheduler-count 2

API

1. Realiza una solicitud a la API de environments.patch.

2. En esta solicitud, realiza lo siguiente:

   1. En el parámetro updateMask, especifica la máscara config.workloadsConfig.scheduler para actualizar todos los parámetros del programador o solo la cantidad de programadores. También puedes actualizar parámetros de programador individuales, excepto count, si especificas una máscara. Por ejemplo, config.workloadsConfig.scheduler.cpu.

   2. En el cuerpo de la solicitud, especifica los nuevos parámetros del programador.

"config": {
  "workloadsConfig": {
    "scheduler": {
      "cpu": SCHEDULER_CPU,
      "memoryGb": SCHEDULER_MEMORY,
      "storageGb": SCHEDULER_STORAGE,
      "count": SCHEDULER_COUNT
    }
  }
}

Reemplaza lo siguiente:

• ENVIRONMENT_NAME: Es el nombre del entorno.

• LOCATION: Es la región en la que se encuentra el entorno.

• SCHEDULER_CPU: Es la cantidad de CPU para un programador, en unidades de CPU virtual.

• SCHEDULER_MEMORY: Es la cantidad de memoria para un programador, en GB.

• SCHEDULER_STORAGE: Es el tamaño del disco para un programador, en GB.

• SCHEDULER_COUNT: Es la cantidad de programadores.

Ejemplo:

// PATCH https://composer.googleapis.com/v1/projects/example-project/
// locations/us-central1/environments/example-environment?updateMask=
// config.workloadsConfig.scheduler

"config": {
  "workloadsConfig": {
    "scheduler": {
      "cpu": 0.5,
      "memoryGb": 2.5,
      "storageGb": 2,
      "count": 2
    }
  }
}

Terraform

Los siguientes campos del bloque workloads_config.scheduler controlan la Parámetros del programador de Airflow. Cada programador utiliza la cantidad especificada de de Google Cloud.

• scheduler.count: Es la cantidad de programadores en tu entorno.

• scheduler.cpu: Es la cantidad de CPU para un programador de Airflow.

• scheduler.memory_gb: Es la cantidad de memoria para un programador de Airflow.

• scheduler.storage_gb: Es la cantidad de espacio en el disco para un programador.

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "ENVIRONMENT_NAME"
  region = "LOCATION"

  config {

    workloads_config {
      scheduler {
        cpu = SCHEDULER_CPU
        memory_gb = SCHEDULER_MEMORY
        storage_gb = SCHEDULER_STORAGE
        count = SCHEDULER_COUNT
      }
    }

  }
}

Reemplaza lo siguiente:

• ENVIRONMENT_NAME: Es el nombre del entorno.

• LOCATION: Es la región en la que se encuentra el entorno.

• SCHEDULER_CPU: Es la cantidad de CPU para un programador, en unidades de CPU virtual.

• SCHEDULER_MEMORY: Es la cantidad de memoria para un programador, en GB.

• SCHEDULER_STORAGE: Es el tamaño del disco para un programador, en GB.

• SCHEDULER_COUNT: Es la cantidad de programadores.

Ejemplo:

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "example-environment"
  region = "us-central1"

  config {

    workloads_config {
      scheduler {
        
        cpu = 0.5
        memory_gb = 1.875
        storage_gb = 1
        
        count = 2
      }
    }

  }
}

Ajusta los parámetros del activador

Puedes establecer la cantidad de activadores en cero, pero necesitas al menos uno instancia de activador en tu entorno (o al menos dos en entornos entornos), para usar operadores diferibles en tus DAG.

Según la configuración del entorno modo de resiliencia, Existen diferentes opciones de configuración posibles para la cantidad de activadores:

• Resiliencia estándar: Puedes ejecutar hasta 10 activadores.
• Resiliencia alta: al menos 2 activadores, hasta un máximo de

Incluso si la cantidad de activadores se establece en cero, se crea una definición de pod de activador y se puede ver en el clúster de tu entorno, pero no se ejecutan cargas de trabajo de activador reales.

También puedes especificar la cantidad de CPU, memoria y espacio en el disco que Airflow usa. activadores de tu entorno. De esta manera, puedes aumentar el rendimiento de tu entorno, además del escalamiento horizontal proporcionado mediante el uso de varios activadores.

Nota: Para obtener información sobre los posibles valores y límites de los recursos, consulta la sección Límites de recursos.

Console

1. En la consola de Google Cloud, ve a la página Entornos.

   Ir a Entornos

2. En la lista de entornos, haz clic en el nombre de tu entorno. Se abrirá la página Detalles del entorno.

3. Ve a la pestaña Configuración del entorno.

4. En el elemento Recursos > Configuración de cargas de trabajo, haz clic en Editar.

5. En el panel Configuración de las cargas de trabajo, ajusta los parámetros de los activadores de Airflow:

   1. En la sección Activador, en el campo Cantidad de activadores, ingresa la cantidad de activadores de tu entorno.

      Si configuras al menos un activador para tu entorno, usa también los campos CPU y Memoria para configurar la asignación de recursos para los activadores.

   2. En CPU y Memoria, especifica la cantidad de CPUs, memoria y almacenamiento para los activadores de Airflow. Cada activador usa la cantidad especificada de recursos.

6. Haz clic en Guardar.

gcloud

Los siguientes parámetros del activador de Airflow están disponibles:

Precaución: Usa siempre los tres argumentos: --triggerer-cpu, --triggerer-memory y --triggerer-count. Si omites un parámetro, su valor actual se restablece al valor predeterminado: 0.5 CPU virtual, 0.5 GB de memoria o la cantidad de activadores el modo de resiliencia.

• --triggerer-count: Es la cantidad de activadores en tu entorno.

  • Para entornos de resiliencia estándar, usa un valor entre 0 y 10.
  • Para entornos de alta resiliencia, usa 0: o un valor entre 2 y 10

• --triggerer-cpu: Es la cantidad de CPUs de un activador de Airflow.

• --triggerer-memory: Es la cantidad de memoria de un Airflow. activador.

Ejecuta el siguiente comando de Google Cloud CLI:

gcloud composer environments update ENVIRONMENT_NAME \
  --location LOCATION \
  --triggerer-count TRIGGERER_COUNT \
  --triggerer-cpu TRIGGERER_CPU \
  --triggerer-memory TRIGGERER_MEMORY

Reemplaza lo siguiente:

• ENVIRONMENT_NAME: Es el nombre del entorno.
• LOCATION: Es la región en la que se encuentra el entorno.
• TRIGGERER_COUNT: Es la cantidad de activadores.
• TRIGGERER_CPU: Es la cantidad de CPU para un activador, en unidades de CPU virtual.
• TRIGGERER_MEMORY: Es la cantidad de memoria para un activador.

Nota: El valor especificado para la memoria y el espacio en el disco debe ser un número entero seguido de una unidad de tamaño de KB para kilobyte, MB para megabyte o GB para gigabyte. La unidad de tamaño predeterminada es GB. Por ejemplo, 10GB produce un 10. de gigabytes de almacenamiento.

Ejemplos:

• Escala a cuatro instancias del activador:

  gcloud composer environments update example-environment \
    --location us-central1 \
    --triggerer-count 4 \
    --triggerer-cpu 1 \
    --triggerer-memory 1
  ```

- Disable triggerers by setting triggerer count to `0`. This operation
  doesn't require specifying CPU or memory for the triggerers.

```bash
  gcloud composer environments update example-environment \
    --location us-central1 \
    --triggerer-count 0
  ```

API

1. En el parámetro de consulta updateMask, especifica la máscara config.workloadsConfig.triggerer.

2. En el cuerpo de la solicitud, especifica los tres parámetros para los activadores.

"config": {
  "workloadsConfig": {
    "triggerer": {
      "count": TRIGGERER_COUNT,
      "cpu": TRIGGERER_CPU,
      "memoryGb": TRIGGERER_MEMORY
    }
  }
}

Reemplaza lo siguiente:

• TRIGGERER_COUNT: Es la cantidad de activadores.

  • Para entornos de resiliencia estándar, usa un valor entre 0 y 10.
  • Para entornos de alta resiliencia, usa 0: o un valor entre 2 y 10

• TRIGGERER_CPU: Es la cantidad de CPUs para un activador, en unidades de CPU virtual.

• TRIGGERER_MEMORY: Es la cantidad de memoria para un activador.

Ejemplos:

• Para inhabilitar los activadores, establece el recuento de activadores en 0. Esta operación no requiere especificar la CPU o la memoria de los activadores.

// PATCH https://composer.googleapis.com/v1/projects/example-project/
// locations/us-central1/environments/example-environment?updateMask=
// config.workloadsConfig.triggerer
"config": {
  "workloadsConfig": {
    "triggerer": {
      "count": 0
    }
  }
}

• Escala a cuatro instancias del activador:

// PATCH https://composer.googleapis.com/v1/projects/example-project/
// locations/us-central1/environments/example-environment?updateMask=
// config.workloadsConfig.triggerer
"config": {
  "workloadsConfig": {
    "triggerer": {
      "count": 4,
      "cpu": 1,
      "memoryGb": 1
    }
  }
}

Terraform

Los siguientes campos del bloque workloads_config.triggerer controlan la Parámetros del activador de Airflow. Cada activador usa la cantidad especificada de recursos.

• triggerer.count: Es la cantidad de activadores en tu entorno.

  • Para entornos de resiliencia estándar, usa un valor entre 0 y 10.
  • Para entornos altamente resilientes, usa 0 o un valor entre 2 y 10.

• triggerer.cpu: Es la cantidad de CPU para un activador de Airflow.

• triggerer.memory_gb: Es la cantidad de memoria de un activador de Airflow.

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "ENVIRONMENT_NAME"
  region = "LOCATION"

  config {

    workloads_config {
      triggerer {
        count = TRIGGERER_COUNT
        cpu = TRIGGERER_CPU
        memory_gb = TRIGGERER_MEMORY
      }
    }

  }
}

Reemplaza lo siguiente:

• ENVIRONMENT_NAME: Es el nombre del entorno.
• LOCATION: Es la región en la que se encuentra el entorno.
• TRIGGERER_COUNT: Es la cantidad de activadores.
• TRIGGERER_CPU: Es la cantidad de CPUs para un activador, en unidades de CPU virtual.
• TRIGGERER_MEMORY: Es la cantidad de memoria para un activador, en GB.

Ejemplo:

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "example-environment"
  region = "us-central1"

  config {

    workloads_config {
      triggerer {
        count = 1
        cpu = 0.5
        memory_gb = 0.5
      }
    }

  }
}

Ajusta los parámetros del servidor web

Puedes especificar la cantidad de CPU, memoria y espacio en el disco que usa el servidor web de Airflow en tu entorno. De esta manera, puedes escalar el rendimiento de la IU de Airflow, por ejemplo, para que coincida con la demanda de una gran cantidad de usuarios o una gran cantidad de DAG administrados.

Nota: Para obtener información sobre los posibles valores y límites de los recursos, consulta el Sección Límites de recursos.

Console

1. En la consola de Google Cloud, ve a la página Entornos.

   Ir a Entornos

2. En la lista de entornos, haz clic en el nombre de tu entorno. Se abrirá la página Detalles del entorno.

3. Ve a la pestaña Configuración del entorno.

4. En el elemento Recursos > Configuración de cargas de trabajo, haz clic en Editar.

5. En el panel Configuración de las cargas de trabajo, ajusta los parámetros de los servidor web. En los campos CPU, Memoria y Almacenamiento, especifica la cantidad de CPUs, memoria y almacenamiento para el servidor web.

6. Haz clic en Guardar.

gcloud

Los siguientes parámetros del servidor web de Airflow están disponibles:

• --web-server-cpu: Es la cantidad de CPU para el servidor web de Airflow.
• --web-server-memory: la cantidad de memoria para el servidor web de Airflow.
• --web-server-storage: Es la cantidad de espacio en el disco para Airflow. servidor web.

Ejecuta el siguiente comando de Google Cloud CLI:

gcloud composer environments update ENVIRONMENT_NAME \
  --location LOCATION \
  --web-server-cpu WEB_SERVER_CPU \
  --web-server-memory WEB_SERVER_MEMORY \
  --web-server-storage WEB_SERVER_STORAGE

Reemplaza lo siguiente:

• ENVIRONMENT_NAME: Es el nombre del entorno.
• LOCATION: Es la región en la que se encuentra el entorno.
• WEB_SERVER_CPU: Es la cantidad de CPU para el servidor web en unidades de CPU virtual.
• WEB_SERVER_MEMORY: Es la cantidad de memoria del servidor web.
• WEB_SERVER_STORAGE: Es la cantidad de memoria para el servidor web.

Nota: El valor especificado para la memoria y el espacio en el disco debe ser un número entero seguido de una unidad de tamaño de KB para kilobyte, MB para megabyte o GB para gigabyte. La unidad de tamaño predeterminada es GB. Por ejemplo, 10GB produce un almacenamiento de 10 gigabytes.

Ejemplo:

gcloud composer environments update example-environment \
  --location us-central1 \
  --web-server-cpu 1 \
  --web-server-memory 2.5 \
  --web-server-storage 2

API

1. Realiza una solicitud a la API de environments.patch.

2. En esta solicitud, realiza lo siguiente:

   1. En el parámetro updateMask, especifica la máscara config.workloadsConfig.webServer para actualizar todos los parámetros del servidor web. También puedes actualizar los parámetros individuales del servidor web especificando una máscara para esos parámetros: config.workloadsConfig.webServer.cpu: config.workloadsConfig.webServer.memoryGb, config.workloadsConfig.webServer.storageGb

   2. En el cuerpo de la solicitud, especifica los nuevos parámetros del servidor web.

"config": {
  "workloadsConfig": {
    "webServer": {
      "cpu": WEB_SERVER_CPU,
      "memoryGb": WEB_SERVER_MEMORY,
      "storageGb": WEB_SERVER_STORAGE
    }
  }
}

Reemplaza lo siguiente:

• ENVIRONMENT_NAME: Es el nombre del entorno.
• LOCATION: Es la región en la que se encuentra el entorno.
• WEB_SERVER_CPU: Es la cantidad de CPU para el servidor web en unidades de CPU virtual.
• WEB_SERVER_MEMORY: Es la cantidad de memoria para el servidor web, en GB.
• WEB_SERVER_STORAGE: Es el tamaño del disco para el servidor web, en GB.

Ejemplo:

// PATCH https://composer.googleapis.com/v1/projects/example-project/
// locations/us-central1/environments/example-environment?updateMask=
// config.workloadsConfig.webServer.cpu,
// config.workloadsConfig.webServer.memoryGb,
// config.workloadsConfig.webServer.storageGb

"config": {
  "workloadsConfig": {
    "webServer": {
      "cpu": 0.5,
      "memoryGb": 2.5,
      "storageGb": 2
    }
  }
}

Terraform

Los siguientes campos del bloque workloads_config.web_server controlan los parámetros del servidor web.

• web_server.cpu: Es la cantidad de CPUs para el servidor web.
• La web_server.memory_gb: Es la cantidad de memoria para el servidor web.
• La web_server.storage_gb: Es la cantidad de espacio en disco para el servidor web.

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "ENVIRONMENT_NAME"
  region = "LOCATION"

  config {

    workloads_config {
      web_server {
        cpu = WEB_SERVER_CPU
        memory_gb = WEB_SERVER_MEMORY
        storage_gb = WEB_SERVER_STORAGE
      }
    }

  }
}

Reemplaza lo siguiente:

• ENVIRONMENT_NAME: Es el nombre del entorno.
• LOCATION: Es la región en la que se encuentra el entorno.
• WEB_SERVER_CPU: Es la cantidad de CPU para el servidor web en unidades de CPU virtual.
• WEB_SERVER_MEMORY: Es la cantidad de memoria para el servidor web, en GB.
• WEB_SERVER_STORAGE: Es el tamaño del disco para el servidor web, en GB.

Ejemplo:

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "example-environment"
  region = "us-central1"

  config {

    workloads_config {
      web_server {
        cpu = 0.5
        memory_gb = 1.875
        storage_gb = 1
      }
    }

  }
}

Ajusta el tamaño del entorno

El tamaño del entorno controla los parámetros de rendimiento de la cuenta infraestructura de Cloud Composer que incluye, por ejemplo, los de la base de datos de Airflow.

Considera seleccionar un tamaño de entorno más grande si deseas ejecutar una gran cantidad de DAG y tareas.

Nota: El tamaño del entorno es diferente de los ajustes predeterminados del entorno. Los ajustes predeterminados del entorno, que puedes seleccionar cuando creas un entorno, determinan todos los límites y los parámetros de rendimiento y escalamiento del entorno, incluido su tamaño. El tamaño del entorno determina solo los parámetros de rendimiento de la infraestructura administrada de Cloud Composer de tu entorno.

Console

1. En la consola de Google Cloud, ve a la página Entornos.

   Ir a Entornos

2. En la lista de entornos, haz clic en el nombre de tu entorno. Se abrirá la página Detalles del entorno.

3. Ve a la pestaña Configuración del entorno.

4. En el elemento Recursos > Configuración de cargas de trabajo, haz clic en Editar.

5. En el elemento Recursos > Infraestructura principal, haz clic en Editar.

6. En el panel Infraestructura principal, en el campo Tamaño del entorno, especifica el tamaño del entorno.

7. Haz clic en Guardar.

gcloud

El argumento --environment-size controla el tamaño del entorno:

gcloud composer environments update ENVIRONMENT_NAME \
    --location LOCATION \
    --environment-size ENVIRONMENT_SIZE

Reemplaza lo siguiente:

• ENVIRONMENT_NAME: Es el nombre del entorno.
• LOCATION: Es la región en la que se encuentra el entorno.
• ENVIRONMENT_SIZE: small, medium o large.

Ejemplo:

gcloud composer environments update example-environment \
    --location us-central1 \
    --environment-size medium

API

1. Crea una solicitud a la API de environments.patch.

2. En esta solicitud, realiza lo siguiente:

   1. En el parámetro updateMask, especifica la máscara config.environmentSize.

   2. En el cuerpo de la solicitud, especifica el tamaño del entorno.

  "config": {
    "environmentSize": "ENVIRONMENT_SIZE"
  }

Reemplaza lo siguiente:

• ENVIRONMENT_SIZE: Es el tamaño del entorno, ENVIRONMENT_SIZE_SMALL. ENVIRONMENT_SIZE_MEDIUM o ENVIRONMENT_SIZE_LARGE.

Ejemplo:

// PATCH https://composer.googleapis.com/v1/projects/example-project/
// locations/us-central1/environments/example-environment?updateMask=
// config.environmentSize

"config": {
  "environmentSize": "ENVIRONMENT_SIZE_MEDIUM"
}

Terraform

El campo environment_size en el bloque config controla el entorno. tamaño:

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "ENVIRONMENT_NAME"
  region = "LOCATION"

  config {

    environment_size = "ENVIRONMENT_SIZE"

  }
}

Reemplaza lo siguiente:

• ENVIRONMENT_NAME: Es el nombre del entorno.
• LOCATION: Es la región en la que se encuentra el entorno.
• ENVIRONMENT_SIZE: Es el tamaño del entorno, ENVIRONMENT_SIZE_SMALL. ENVIRONMENT_SIZE_MEDIUM o ENVIRONMENT_SIZE_LARGE.

Ejemplo:

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "example-environment"
  region = "us-central1"

  config {

    environment_size = "ENVIRONMENT_SIZE_SMALL"

    }
  }
}

¿Qué sigue?

• Escalamiento y rendimiento del entorno
• Precios de Cloud Composer
• Actualización de entornos
• Arquitectura del entorno