Cloud Composer 3 | Cloud Composer 2 | Cloud Composer 1
En esta página, se explica cómo obtener información sobre los DAG en tu entorno.
Formas de ver información sobre los DAG
Cloud Composer proporciona varias formas de obtener información detallada sobre los DAG en tu entorno:
- La IU de DAG es una sección de la interfaz de la Google Cloud consola de Cloud Composer dedicada a ver y supervisar DAG, ejecuciones de DAG y tareas individuales.
- La IU de Airflow es la interfaz web integrada de Airflow.
- Airflow CLI es la interfaz de línea de comandos de Airflow. Puedes obtener información sobre los DAGs ejecutando comandos de la CLI de Airflow con
gcloud.
Acerca de la IU de DAG de Cloud Composer
La IU de DAG es una sección de la interfaz de la Google Cloud consola de Cloud Composer dedicada a ver y supervisar DAG, ejecuciones de DAG y tareas individuales.
En la IU de DAG, puedes hacer lo siguiente:
Consulta una lista de los DAG de tu entorno, incluidos los intervalos de programación, los estados y las descripciones de los DAG.
Pausar, reanudar y activar DAG
Consulta los detalles de las ejecuciones de DAG, incluidas las ejecuciones correctas, activas y fallidas, y el tiempo transcurrido desde la última ejecución completada. Para cada DAG, puedes ver el historial de ejecuciones de DAG y las instancias de tareas asociadas con este DAG en particular, incluidos los registros de las tareas ejecutadas.
Filtra los detalles de la ejecución de DAG. Por ejemplo, puedes elegir un intervalo de tiempo y crear consultas para seleccionar la información que necesitas.
Consulta información detallada sobre DAG y tareas individuales. Esto incluye diagramas de DAG visualizados, información sobre las tareas dentro de un DAG, el código fuente de DAG y la información adicional sobre los DAG.
Antes de comenzar
Asegúrate de que tu cuenta tenga un rol que pueda acceder a la IU de DAG y ver sus detalles. Para obtener más información, consulta Guía de control de acceso.
La IU de DAG requiere que la serialización del DAG esté habilitada.
La IU de DAG es compatible con Cloud Composer 1.17.8 y versiones posteriores.
Cómo ver la lista de DAG de tu entorno
Console
En la pestaña DAGs de tu entorno, se muestra la lista de DAG junto con los detalles de la ejecución de cada DAG.
Para ver la lista de DAG, sigue estos pasos:
En la Google Cloud consola, ve a la página Environments.
En la columna Lista de DAG, sigue el vínculo DAG de tu entorno.
Puedes usar filtros para ver los detalles solo de ciertos DAG o de ciertas condiciones. Por ejemplo:
- Selecciona el campo Filtros.
- En la lista desplegable, selecciona la propiedad DAG id.
- Especifica el identificador del DAG. Los resultados muestran detalles solo para el DAG seleccionado.
- Para incluir más DAG, agrega operadores
ORseguidos de los IDs de DAG (opcional). - Para filtrar por otras condiciones, agrega otras propiedades en el campo Filtros (opcional). Por ejemplo, puedes filtrar DAG con ejecuciones fallidas si especificas
Failed runs:>0.
IU de Airflow
Para ver la lista de DAG en la interfaz web de Airflow, sigue estos pasos:
En la Google Cloud consola, ve a la página Environments.
En la columna Servidor web de Airflow, sigue el vínculo de Airflow para tu entorno.
Accede con la Cuenta de Google que tiene los permisos correspondientes.
En la interfaz web de Airflow, en la página DAGs, se muestra una lista de DAGs para tu entorno.
gcloud
En Airflow 1.10.*, ejecuta el comando list_dags de la CLI de Airflow:
gcloud composer environments run ENVIRONMENT_NAME \
--location LOCATION \
list_dags
En Airflow 2, ejecuta el comando dags list de la CLI de Airflow:
gcloud composer environments run ENVIRONMENT_NAME \
--location LOCATION \
dags list -- -o plain
Reemplaza lo siguiente:
ENVIRONMENT_NAMEpor el nombre del entorno.LOCATIONpor la región en la que se encuentra el entorno.
Consulta el historial de ejecuciones y tareas de DAG
Console
En la pestaña Ejecuciones de la página Detalles del DAG, se muestra el historial de ejecuciones de DAG para un DAG individual.
Para ver el historial de ejecuciones de DAG, sigue estos pasos:
En la Google Cloud consola, ve a la página Environments.
En la columna Lista de DAG, sigue el vínculo DAG de tu entorno.
Selecciona un DAG.
En la página Detalles del DAG, ve a la pestaña Ejecuciones.
Selecciona una ejecución de DAG de la lista para ver sus detalles, como el estado de las instancias de tareas para esta ejecución de DAG, la cantidad de intentos y la duración de la ejecución. Puedes seleccionar tareas individuales para ver los registros de instancias de tareas.
IU de Airflow
Para ver la lista de DAG en la interfaz web de Airflow, sigue estos pasos:
En la Google Cloud consola, ve a la página Environments.
En la columna Servidor web de Airflow, sigue el vínculo de Airflow para tu entorno.
Accede con la Cuenta de Google que tiene los permisos correspondientes.
En la interfaz web de Airflow, en el menú, selecciona Explorar > Ejecuciones de DAG. En la página Ejecuciones de DAG, se muestran las ejecuciones de DAG de tu entorno. Puedes hacer clic en el vínculo de la columna ID de ejecución para obtener información adicional sobre las tareas.
gcloud
En Airflow 1.10.*, ejecuta el comando list_dag_runs de la CLI de Airflow:
gcloud composer environments run ENVIRONMENT_NAME \
--location LOCATION \
list_dag_runs -- DAG_ID
En Airflow 2, ejecuta el comando dags list-runs de la CLI de Airflow:
gcloud composer environments run ENVIRONMENT_NAME \
--location LOCATION \
dags list-runs -- -d DAG_ID
Reemplaza lo siguiente:
ENVIRONMENT_NAMEpor el nombre del entorno.LOCATIONpor la región en la que se encuentra el entorno.DAG_IDpor el nombre del DAG.
Para obtener información adicional sobre las instancias de tareas, ejecuta los comandos tasks state y tasks states-for-dag-run de la CLI de Airflow.
Para obtener más información, consulta Cómo acceder a la CLI de Airflow y la referencia de la CLI de Airflow para Airflow 1 y Airflow 2.
Cómo ver diagramas de DAG
Console
En la pestaña Diagrama de la página Detalles del DAG, se muestra la visualización de un DAG con dependencias de tareas.
Para ver el diagrama de un DAG, sigue estos pasos:
En la Google Cloud consola, ve a la página Environments.
En la columna Lista de DAG, sigue el vínculo DAG de tu entorno.
Selecciona un DAG.
En la página Detalles del DAG, ve a la pestaña Diagrama.
Para ver información adicional sobre las tareas, selecciona tareas individuales en el diagrama (opcional).
IU de Airflow
Para ver el diagrama de un DAG en la interfaz web de Airflow, sigue estos pasos:
En la Google Cloud consola, ve a la página Environments.
En la columna Servidor web de Airflow, sigue el vínculo de Airflow para tu entorno.
Accede con la Cuenta de Google que tiene los permisos correspondientes.
En la interfaz web de Airflow, en la página DAGs, se muestra una lista de DAGs para tu entorno.
En tu DAG, en la columna Vínculos, sigue el vínculo Vista de gráfico.
Consulta el código fuente de los DAG y la información adicional sobre ellos
Console
Puedes ver el código fuente de tus DAG y la información adicional, como los identificadores de DAG y los vínculos a los archivos de definición de DAG en el bucket del entorno.
En la Google Cloud consola, ve a la página Environments.
En la columna Lista de DAG, sigue el vínculo DAG de tu entorno.
Selecciona un DAG.
Para ver el código fuente del DAG, ve a la pestaña Diagrama.
Para ver información adicional sobre el DAG, ve a la pestaña Fuente.
IU de Airflow
Para ver el diagrama de un DAG en la interfaz web de Airflow, sigue estos pasos:
En la Google Cloud consola, ve a la página Environments.
En la columna Servidor web de Airflow, sigue el vínculo de Airflow para tu entorno.
Accede con la Cuenta de Google que tiene los permisos correspondientes.
En la interfaz web de Airflow, en la página DAGs, haz clic en el nombre de tu DAG.
En la página con los detalles del DAG, navega a las pestañas disponibles para ver información adicional sobre el DAG.