Accede a la interfaz web de Airflow

Organízate con las colecciones Guarda y clasifica el contenido según tus preferencias.

Cloud Composer 1 | Cloud Composer 2

Apache Airflow incluye una interfaz web que puedes usar para administrar flujos de trabajo (DAG), el entorno de Airflow y realizar acciones administrativas. Por ejemplo, puedes usar la interfaz web para revisar el progreso de un DAG, configurar una nueva conexión de datos o revisar los registros de ejecuciones anteriores del DAG.

Servidor web de Airflow

Cada entorno de Cloud Composer tiene un servidor web que ejecuta la interfaz web de Airflow. El servidor web es parte de la arquitectura del entorno de Cloud Composer.

El servidor web analiza los archivos de definición de DAG en la carpeta dags/ y debe poder acceder a los datos y recursos de un DAG para cargarlo y entregar solicitudes HTTP.

El servidor web actualiza los DAG cada 60 segundos, que es el worker_refresh_interval predeterminado en Cloud Composer. Un error del servidor web puede ocurrir si el servidor web no puede analizar todos los DAG dentro del intervalo de actualización.

Si hay una gran cantidad de archivos de DAG o si hay una carga de trabajo no trivial para subir los DAG, es posible que se superen los 60 segundos para subir los DAG. Para garantizar el acceso al servidor web independientemente del tiempo de carga del DAG, puedes configurar carga asíncrona de DAG para analizar y subir DAG en segundo plano en un intervalo preconfigurado (disponible en composer-1.7.1-airflow-1.10.2 y versiones posteriores ). Con esta configuración, también se puede reducir el tiempo de actualización del DAG.

Además de superar el intervalo de actualización del trabajador, el servidor web puede manejar correctamente los errores de carga de DAG en la mayoría de los casos. Los DAG que provocan la falla o la salida del servidor web pueden provocar errores en el navegador. Para obtener más información, consulta Solución de problemas de DAG.

Si continúas teniendo problemas con el servidor web debido al análisis de DAG, te recomendamos que uses la carga asíncrona de DAG.

Reinicia el servidor web

Cuando depuras o solucionas problemas de entornos de Cloud Composer, puedes resolver algunos problemas si reinicias el servidor web de Airflow. Puedes reiniciar el servidor web con la API de RestartWebServer o el comando de gcloud restart-web-server:

gcloud beta composer environments restart-web-server ENVIRONMENT_NAME \
  --location=LOCATION

Antes de comenzar

  • Debes tener una función que pueda ver los entornos de Cloud Composer. Para obtener más información, consulta Guía de control de acceso.

  • Durante la creación del entorno, Cloud Composer configura la URL del servidor web que ejecuta la interfaz web de Airflow. La URL no se puede personalizar.

  • La función Control de acceso a la IU de Airflow (Control de acceso basado en funciones de Airflow) para la interfaz web de Airflow es compatible con los entornos de Cloud Composer que ejecutan la versión 1.13.4 o posterior de Airflow y la versión 1.10.10 o posterior de Airflow, y Python 3.

Accede a la interfaz web

El servicio de servidor web de Airflow se implementa en el dominio appspot.com y proporciona acceso a la interfaz web de Airflow. Identity-Aware Proxy protege la interfaz y el acceso en función de las identidades de los usuarios.

Después de crear un nuevo entorno de Cloud Composer, la interfaz web demora hasta 25 minutos en terminar el hosting y estar accesible.

Accede a la interfaz web desde Google Cloud Console

Siga estos pasos para acceder a la interfaz web de Airflow desde Google Cloud Console:

  1. En Google Cloud Console, ve a la página Entornos.

    Ir a Entornos

  2. En la columna Servidor web de Airflow, sigue el vínculo de Airflow para tu entorno.

  3. Accede con la Cuenta de Google que tiene los permisos correspondientes.

Limita el acceso al servidor web de Airflow

Los entornos de Composer te permiten limitar el acceso al servidor web de Airflow.

Puedes bloquear todo el acceso o permitir el acceso desde rangos de IP IPv4 o IPv6 externos específicos.

Actualmente, no puedes configurar los rangos de IP permitidos mediante direcciones IP privadas.

Recupera la URL de la interfaz web a través de la herramienta de línea de comandos de gcloud

Puedes acceder a la interfaz web de Airflow desde cualquier navegador web. Para obtener la URL de la interfaz web, ingresa el siguiente comando de gcloud:

gcloud composer environments describe ENVIRONMENT_NAME \
--location LOCATION

En el ejemplo anterior, se ilustra lo siguiente:

  • ENVIRONMENT_NAME es el nombre del entorno.
  • LOCATION es la región en la que se encuentra el entorno.

El comando de gcloud muestra las propiedades de un entorno de Cloud Composer, incluida la URL de la interfaz web. La URL aparece como airflowUri.

config:
  airflowUri: https://example-tp.appspot.com

Configura la carga asíncrona de DAG

Cuando la carga asíncrona del DAG está habilitada, el servidor web de Airflow crea un proceso nuevo. Este proceso carga DAG en segundo plano, envía DAG recién cargados en intervalos definidos por la opción dagbag_sync_interval y, luego, se suspende.

El proceso se activa periódicamente para volver a subir los DAG. El intervalo se define con la opción collect_dags_interval.

Para habilitar la carga asíncrona de DAG, haz lo siguiente:

  1. Inhabilita la serialización del DAG. La carga asíncrona de DAG no se puede usar con la serialización de DAG. El uso de las opciones de configuración de Airflow async_dagbag_loader y store_serialized_dags produce errores HTTP 503 e interrumpe tu entorno.

  2. Anula las siguientes opciones de configuración de Airflow:

    Sección Clave Valor Notas
    webserver async_dagbag_loader True El valor predeterminado es False.
    webserver collect_dags_interval 30 El valor predeterminado es 30. Usa un valor menor para realizar actualizaciones más rápidas.
    webserver dagbag_sync_interval 10 El valor predeterminado es 10.
    webserver worker_refresh_interval 3600 El valor predeterminado es 60. Con la carga asíncrona de DAG, puedes usar un intervalo de actualización mayor.