Arquitectura del entorno de Cloud Composer

Organízate con las colecciones Guarda y clasifica el contenido según tus preferencias.

Cloud Composer 1 | Cloud Composer 2

En esta página, se describe la arquitectura de los entornos de Cloud Composer 1.

Configuración de la arquitectura del entorno

Los entornos de Cloud Composer 1 pueden tener las siguientes opciones de configuración de la arquitectura:

Cada configuración altera ligeramente la arquitectura de los recursos del entorno.

Proyectos del cliente y el usuario

Cuando creas un entorno, Cloud Composer distribuye los recursos del entorno entre un proyecto del usuario y uno del cliente.

El proyecto de cliente es un proyecto de Google Cloud en el que creas tus entornos. Puedes crear más de un entorno en un solo proyecto de cliente.

El proyecto de usuario es un proyecto de usuario administrado por Google. El proyecto de usuario proporciona un control de acceso unificado y una capa adicional de seguridad de datos para tu entorno. Cada entorno de Cloud Composer tiene su propio proyecto de usuario.

Componentes del entorno

Un entorno de Cloud Composer consta de componentes de entorno.

Un componente del entorno es un elemento de una infraestructura administrada de Airflow que se ejecuta en Google Cloud, como parte de tu entorno.

Los componentes del entorno se ejecutan en el proyecto del usuario o del cliente de tu entorno.

Algunos de los componentes de tu entorno se basan en productos independientes de Google Cloud. Las cuotas y los límites de estos productos también se aplican a tus entornos. Por ejemplo, los entornos de Cloud Composer usan intercambios de tráfico de VPC. Las cuotas para la cantidad máxima de intercambios de tráfico de VPC se aplican al proyecto de cliente, por lo que una vez que el proyecto alcance esta cantidad máxima de intercambios de tráfico, no podrás crear entornos adicionales.

Clúster del entorno

El clúster del entorno es un clúster de Google Kubernetes Engine nativo de VPC o basado en rutas en modo estándar de tu entorno:

  • Los nodos del entorno son VM en el clúster del entorno.

  • Los pods del clúster del entorno ejecutan contenedores con otros componentes del entorno, como los trabajadores y los programadores de Airflow. Los pods se ejecutan en nodos de entorno.

  • Los recursos de las cargas de trabajo del clúster de tu entorno administran conjuntos de pods en el clúster de tu entorno. Muchos componentes del entorno se implementan como diferentes tipos de recursos de las cargas de trabajo. Por ejemplo, los trabajadores de Airflow se ejecutan como implementaciones. Además de las implementaciones, tu entorno también tiene tipos de carga de trabajo StatefulSets, DaemonSets y Jobs.

De forma predeterminada, Cloud Composer habilita las actualizaciones automáticas de nodos y la reparación automática de nodos para proteger el clúster de tu entorno de las vulnerabilidades de seguridad. Estas operaciones ocurren durante los períodos de mantenimiento que especificas para tu entorno.

Programadores y trabajadores de Airflow y cola de Redis

Los programadores de Airflow controlan la programación de las ejecuciones del DAG y las tareas individuales de los DAG. Los programadores distribuyen las tareas entre los trabajadores de Airflow mediante una cola de Redis, que se ejecuta como una aplicación en el clúster de tu entorno. Los programadores de Airflow se ejecutan como implementaciones en el clúster de tu entorno.

Los trabajadores de Airflow ejecutan tareas individuales desde los DAG. Para ello, las toman de la cola de Redis. Los trabajadores de Airflow se ejecutan como implementaciones en el clúster de tu entorno.

La cola de Redis contiene una cola de tareas individuales de tus DAG. Los programadores de Airflow llenan la cola. Los trabajadores de Airflow toman sus tareas de ella. La cola de Redis se ejecuta como una aplicación StatefulSet en el clúster de tu entorno, para que los mensajes se mantengan en los reinicios de los contenedores.

Servidor web de Airflow

El servidor web de Airflow ejecuta la IU de Airflow de tu entorno.

En Cloud Composer 1, el servidor web de Airflow es una instancia de App Engine Flex que se ejecuta en el proyecto de usuario de tu entorno.

El servidor web de Airflow está integrado en Identity-Aware Proxy. Cloud Composer oculta los detalles de integración de IAP y proporciona acceso al servidor web para las cuentas de usuario que tienen suficientes permisos para acceder al servidor web.

El servidor web de Airflow se ejecuta en una cuenta de servicio diferente a los trabajadores y programadores de Airflow. La cuenta de servicio para el servidor web se genera automáticamente durante la creación del entorno y se deriva del dominio del servidor web. Por ejemplo, si el dominio es example.appspot.com, la cuenta de servicio es example@appspot.gserviceaccount.com.

Base de datos de Airflow

La base de datos de Airflow es una instancia de Cloud SQL que se ejecuta en el proyecto de usuario de tu entorno. Aloja la base de datos de metadatos de Airflow.

Para proteger la información sensible del flujo de trabajo y la conexión, Cloud Composer permite el acceso a la base de datos solo a la cuenta de servicio de tu entorno.

Bucket del entorno

El bucket de entorno es un bucket de Cloud Storage que almacena DAG, complementos, dependencias de datos y registros de Airflow. El bucket del entorno reside en el proyecto del cliente.

Cuando subes tus archivos DAG a la carpeta /dags en el bucket de tu entorno, Cloud Composer sincroniza los DAG con los trabajadores, los programadores y el servidor web de tu entorno. Puedes almacenar tus artefactos de flujo de trabajo en las carpetas data/ y logs/ sin preocuparte por las limitaciones de tamaño y conservar el control total de acceso a tus datos.

Otros componentes del entorno

Un entorno de Cloud Composer tiene varios componentes adicionales del entorno:

  • Almacenamiento de Cloud SQL: Almacena las copias de seguridad de la base de datos de Airflow. Cloud Composer realiza copias de seguridad de los metadatos de Airflow diariamente para minimizar la posible pérdida de datos.

    El almacenamiento de Cloud SQL se ejecuta en el proyecto de usuario de tu entorno. No puedes acceder al contenido de Cloud SQL Storage.

  • Proxy de Cloud SQL: Conecta otros componentes de tu entorno con la base de datos de Airflow.

    Tu entorno puede tener una o más instancias de proxy de Cloud SQL que tengan funciones diferentes, según la arquitectura del entorno.

    Un proxy de Cloud SQL se ejecuta como una implementación en el clúster de tu entorno o en una instancia de App Engine Flex en el proyecto de usuario.

    Cuando se implementa en el clúster de tu entorno, el proxy de Cloud SQL también autoriza el acceso a tu instancia de Cloud SQL desde una aplicación, un cliente u otro servicio de Google Cloud.

  • HAProxy: La carga balancea el tráfico a la instancia de Cloud SQL entre dos instancias del proxy de Cloud SQL que se ejecutan en el proyecto de usuario. Este componente se usa en arquitecturas de entorno de IP privada y se ejecuta como un contenedor en la implementación del proxy de Cloud SQL.

  • Supervisión de Airflow: Informa las métricas de entorno a Cloud Monitoring y activa el DAG airflow_monitoring. El DAG airflow_monitoring informa los datos de estado del entorno, que más adelante se recomienda, por ejemplo, en el panel de supervisión de tu entorno. La supervisión de Airflow se ejecuta como una implementación en el clúster de tu entorno.

  • El agente del compositor realiza operaciones de entorno, como crear, actualizar, mejorar y borrar entornos. En general, este componente es responsable de realizar cambios en el entorno. Se ejecuta como un Job en el clúster de tu entorno.

  • Airflow InitDB crea una instancia de Cloud SQL y un esquema de base de datos inicial. Airflow InitDB se ejecuta como un Job en el clúster de tu entorno.

  • FluentD: Recopila registros de todos los componentes del entorno y los sube a Cloud Logging. Se ejecuta como un DaemonSet en el clúster de tu entorno.

  • Suscripciones de Pub/Sub: Tu entorno se comunica con el agente de servicio de GKE a través de suscripciones de Pub/Sub. Se basa en el comportamiento predeterminado de Pub/Sub para administrar mensajes. No borres los temas .*-composer-.* de Pub/Sub. Pub/Sub admite un máximo de 10,000 temas por proyecto.

  • Sincronización de buckets: Este proceso sincroniza los buckets del entorno en los proyectos del cliente y el usuario. Este componente se usa en la IP privada con la arquitectura de entorno de DRS. Este componente se ejecuta como un contenedor en los pods de otros componentes que usan depósitos de entorno.

    Arquitectura del entorno de IP pública

    Recursos del entorno de IP pública de Cloud Composer en el proyecto de usuario y el proyecto de cliente
    Figura 1. Arquitectura del entorno de IP pública (haz clic para ampliar)

    En una arquitectura del entorno de IP pública para Cloud Composer 1, haz lo siguiente:

    • El proyecto del usuario aloja una instancia de Cloud SQL, un almacenamiento de Cloud SQL y una instancia flexible de App Engine que ejecuta el servidor web de Airflow.
    • El proyecto del cliente aloja todos los demás componentes del entorno.
    • Los programadores y los trabajadores de Airflow en el proyecto del cliente se comunican con la base de datos de Airflow a través de instancias del proxy de Cloud SQL ubicadas en el proyecto del cliente.
    • El servidor web de Airflow en el proyecto del usuario se comunica con la base de datos de Airflow a través de una instancia de proxy de Cloud SQL ubicada en el proyecto del usuario.

    Arquitectura del entorno de IP privada

    Recursos del entorno de IP privada de Cloud Composer en el proyecto de usuario y el proyecto de cliente
    Figura 2. Arquitectura del entorno de IP privada (haz clic para ampliar)

    En una arquitectura de entorno de IP privada, realiza lo siguiente:

    • El proyecto de usuario aloja una instancia de Cloud SQL, un almacenamiento de Cloud SQL y dos instancias de App Engine que ejecutan el servidor web de Airflow.
    • El proyecto del cliente aloja todos los demás componentes del entorno.
    • Los programadores y trabajadores de Airflow se conectan a la base de datos de Airflow a través del proceso de HAProxy en el clúster del entorno.
    • La carga del proceso HAProxy balancea el tráfico a la instancia de Cloud SQL entre dos instancias del proxy de Cloud SQL que se encuentran en el proyecto de usuario. Los entornos de IP privada usan dos instancias de proxy de Cloud SQL porque el proyecto del cliente no accede a la base de datos directamente debido a limitaciones de red. Se necesitan dos instancias para garantizar que los componentes del entorno tengan acceso a la base de datos en todo momento.

    IP privada con DRS

    IP privada con recursos de entorno de DRS de Cloud Composer en el proyecto de usuario y el proyecto de cliente (haz clic para ampliar)
    Figura 3. Arquitectura del entorno de IP privada (haz clic para ampliar)

    Si la política de la organización de uso compartido restringido al dominio (DRS) está activada en tu proyecto, Cloud Composer usa la IP privada con la arquitectura del entorno de DRS.

    En la arquitectura de IP privada con entorno DRS, sigue estos pasos:

    • El proyecto de usuario aloja una instancia de Cloud SQL, un almacenamiento de Cloud SQL y dos instancias de App Engine que ejecutan el servidor web de Airflow.

    • El proyecto de usuario aloja un bucket de entorno adicional. El servidor web de Airflow accede a este bucket directamente.

    • El proyecto del cliente aloja todos los demás componentes del entorno.

    • El proyecto del cliente aloja el proceso de sincronización de buckets en el clúster del entorno. Este proceso sincroniza dos depósitos de entorno.

    • Los programadores y trabajadores de Airflow se conectan a la base de datos de Airflow a través del proceso de HAProxy en el clúster del entorno.

    • La carga del proceso HAProxy balancea el tráfico a la instancia de Cloud SQL entre dos instancias del proxy de Cloud SQL que se encuentran en el proyecto de usuario. Los entornos de IP privada usan dos instancias de proxy de Cloud SQL porque el proyecto del cliente no accede a la base de datos directamente debido a limitaciones de red. Se necesitan dos instancias para garantizar que los componentes del entorno tengan acceso a la base de datos en todo momento.

    Integración en Cloud Logging y Cloud Monitoring

    Cloud Composer se integra en Cloud Logging y Cloud Monitoring de tu proyecto de Google Cloud para que tengas un lugar central en el que consultar los registros de flujo de trabajo y servicio de Airflow.

    Cloud Monitoring recopila y transfiere métricas, eventos y metadatos de Cloud Composer para generar estadísticas a través de paneles y gráficos.

    Debido a la naturaleza de transmisión de Cloud Logging, puedes ver los registros que el programador y los trabajadores de Airflow emiten inmediatamente en lugar de esperar a que los registros de Airflow aparezcan en el bucket de Cloud Storage de tu entorno. Debido a que los registros de Cloud Logging para Cloud Composer se basan en google-fluentd, tienes acceso a todos los registros que producen los trabajadores y programadores de Airflow.

    Para limitar la cantidad de registros en tu proyecto de Google Cloud, puedes detener la transferencia de todos los registros. No inhabilites Logging.

    ¿Qué sigue?