Visualizza i DAG, le esecuzioni di DAG e le attività

Cloud Composer 1 | Cloud Composer 2

Questa pagina spiega come ottenere informazioni sui DAG nel tuo ambiente.

Modalità di visualizzazione delle informazioni sui DAG

Cloud Composer offre diversi modi per ottenere informazioni dettagliate sui DAG nel tuo ambiente:

  • La UI DAG è una sezione dell'interfaccia della console Google Cloud per Cloud Composer dedicata alla visualizzazione e al monitoraggio dei DAG, delle esecuzioni di DAG e delle singole attività.
  • La UI di Airflow è l'interfaccia web integrata di Airflow.
  • L'interfaccia a riga di comando di Airflow è l'interfaccia a riga di comando di Airflow. Puoi ottenere informazioni sui DAG eseguendo i comandi dell'interfaccia a riga di comando di Airflow con gcloud.

Informazioni sull'interfaccia utente dei DAG di Cloud Composer

La UI DAG è una sezione dell'interfaccia della console Google Cloud per Cloud Composer dedicata alla visualizzazione e al monitoraggio dei DAG, delle esecuzioni di DAG e delle singole attività.

Nella UI dei DAG puoi:

  • Visualizza un elenco di DAG nel tuo ambiente, inclusi intervalli di pianificazione, stati dei DAG e descrizioni.

  • Mettere in pausa, riattivare e attivare i DAG.

  • Visualizza i dettagli delle esecuzioni di DAG, tra cui le esecuzioni riuscite, attive e non riuscite, dal momento dell'ultima esecuzione completata. Per ogni DAG, puoi visualizzare la cronologia delle esecuzioni di DAG e delle istanze di attività associate a questo specifico DAG, inclusi i log per le attività eseguite.

  • Filtra i dettagli dell'esecuzione di DAG. Ad esempio, puoi scegliere un intervallo di tempo e creare query per selezionare le informazioni di cui hai bisogno.

  • Visualizza informazioni dettagliate su singoli DAG e attività. Ciò include diagrammi DAG visualizzati, informazioni sulle attività all'interno di un DAG, codice sorgente DAG e informazioni aggiuntive sui DAG.

Prima di iniziare

  • Assicurati che il tuo account abbia un ruolo che può accedere alla UI dei DAG e visualizzare i dettagli dei DAG. Per ulteriori informazioni, vedi Controllo dell'accesso.

  • La UI DAG è supportata in Cloud Composer 2.0.1 e versioni successive.

    Visualizza l'elenco dei DAG per il tuo ambiente

    Console

    La scheda DAG del tuo ambiente mostra l'elenco dei DAG insieme ai dettagli delle esecuzioni di DAG per ciascun DAG.

    Per visualizzare l'elenco dei DAG:

    1. Nella console Google Cloud, vai alla pagina Ambienti.

      Vai a Ambienti

    2. Nella colonna Elenco di DAG, segui il link dei DAG per il tuo ambiente.

    Puoi utilizzare i filtri per visualizzare i dettagli solo per determinati DAG o per determinate condizioni. Ad esempio:

    1. Seleziona il campo Filtri.
    2. Dall'elenco a discesa, seleziona la proprietà DAG id.
    3. Specifica l'identificatore del DAG. I risultati mostrano i dettagli solo per il DAG selezionato.
    4. (Facoltativo) Per includere altri DAG, aggiungi gli operatori OR seguiti dagli ID dei DAG.
    5. (Facoltativo) Per filtrare in base ad altre condizioni, aggiungi altre proprietà nel campo Filtri. Ad esempio, puoi filtrare in base ai DAG con esecuzioni non riuscite specificando Failed runs:>0.

    UI di Airflow

    Per visualizzare l'elenco dei DAG nell'interfaccia web di Airflow:

    1. Nella console Google Cloud, vai alla pagina Ambienti.

      Vai a Ambienti

    2. Nella colonna Server web Airflow, segui il link Airflow per il tuo ambiente.

    3. Accedi con l'Account Google che dispone delle autorizzazioni appropriate.

    4. Nella pagina DAG dell'interfaccia web di Airflow viene visualizzato un elenco di DAG per il tuo ambiente.

    gcloud

    Esegui il comando dell'interfaccia a riga di comando di Airflow dags list:

      gcloud composer environments run ENVIRONMENT_NAME \
    --location LOCATION \
    dags list -- -o plain

    Sostituisci:

    • ENVIRONMENT_NAME con il nome dell'ambiente.
    • LOCATION con la regione in cui si trova l'ambiente.

    Visualizzare la cronologia delle esecuzioni e delle attività di DAG

    Console

    La scheda Esecuzioni nella pagina Dettagli DAG mostra la cronologia delle esecuzioni di DAG per un singolo DAG.

    Per visualizzare la cronologia delle esecuzioni di DAG:

    1. Nella console Google Cloud, vai alla pagina Ambienti.

      Vai a Ambienti

    2. Nella colonna Elenco di DAG, segui il link dei DAG per il tuo ambiente.

    3. Seleziona un DAG.

    4. Nella pagina Dettagli DAG, vai alla scheda Esecuzioni.

    5. Seleziona un'esecuzione di DAG dall'elenco per visualizzare i dettagli dell'esecuzione, ad esempio lo stato delle istanze di attività per questa esecuzione di DAG, il numero di tentativi e la durata dell'esecuzione. Puoi selezionare singole attività per visualizzare i log delle istanze delle attività.

    UI di Airflow

    Per visualizzare l'elenco dei DAG nell'interfaccia web di Airflow:

    1. Nella console Google Cloud, vai alla pagina Ambienti.

      Vai a Ambienti

    2. Nella colonna Server web Airflow, segui il link Airflow per il tuo ambiente.

    3. Accedi con l'Account Google che dispone delle autorizzazioni appropriate.

    4. Nel menu dell'interfaccia web di Airflow, seleziona Sfoglia > Esecuzioni DAG. Nella pagina Esecuzioni DAG vengono visualizzate le esecuzioni di DAG per il tuo ambiente. Puoi seguire il link nella colonna ID esecuzione per ottenere ulteriori informazioni sulle attività.

    gcloud

    Esegui il comando dell'interfaccia a riga di comando di Airflow dags list-runs:

      gcloud composer environments run ENVIRONMENT_NAME \
    --location LOCATION \
    dags list-runs -- -d DAG_ID

    Sostituisci:

    • ENVIRONMENT_NAME con il nome dell'ambiente.
    • LOCATION con la regione in cui si trova l'ambiente.
    • DAG_ID con il nome del DAG.

    Puoi ottenere ulteriori informazioni sulle istanze delle attività eseguendo i comandi dell'interfaccia a riga di comando di Airflow tasks state e tasks states-for-dag-run.

    Per maggiori informazioni, consulta Accedere all'interfaccia a riga di comando di Airflow e Riferimento dell'interfaccia a riga di comando di Airflow.

    Visualizza i diagrammi dei DAG

    Console

    La scheda Diagramma nella pagina Dettagli DAG mostra la visualizzazione di un DAG con dipendenze delle attività.

    Per visualizzare il diagramma di un DAG:

    1. Nella console Google Cloud, vai alla pagina Ambienti.

      Vai a Ambienti

    2. Nella colonna Elenco di DAG, segui il link dei DAG per il tuo ambiente.

    3. Seleziona un DAG.

    4. Nella pagina Dettagli DAG, vai alla scheda Diagramma.

    5. (Facoltativo) Per visualizzare ulteriori informazioni sulle attività, seleziona le singole attività nel diagramma.

    UI di Airflow

    Per visualizzare il diagramma di un DAG nell'interfaccia web di Airflow:

    1. Nella console Google Cloud, vai alla pagina Ambienti.

      Vai a Ambienti

    2. Nella colonna Server web Airflow, segui il link Airflow per il tuo ambiente.

    3. Accedi con l'Account Google che dispone delle autorizzazioni appropriate.

    4. Nella pagina DAG dell'interfaccia web di Airflow viene visualizzato un elenco di DAG per il tuo ambiente.

    5. Per il DAG, nella colonna Link, segui il link Visualizzazione grafico.

    Visualizzare il codice sorgente dei DAG e ulteriori informazioni sui DAG

    Console

    Puoi visualizzare il codice sorgente dei tuoi DAG e informazioni aggiuntive come identificatori DAG e link ai file di definizione DAG nel bucket dell'ambiente.

    1. Nella console Google Cloud, vai alla pagina Ambienti.

      Vai a Ambienti

    2. Nella colonna Elenco di DAG, segui il link dei DAG per il tuo ambiente.

    3. Seleziona un DAG.

    4. Per visualizzare il codice sorgente del DAG, vai alla scheda Diagramma.

    5. Per visualizzare ulteriori informazioni sul DAG, vai alla scheda Origine.

    UI di Airflow

    Per visualizzare il diagramma di un DAG nell'interfaccia web di Airflow:

    1. Nella console Google Cloud, vai alla pagina Ambienti.

      Vai a Ambienti

    2. Nella colonna Server web Airflow, segui il link Airflow per il tuo ambiente.

    3. Accedi con l'Account Google che dispone delle autorizzazioni appropriate.

    4. Nella pagina DAG dell'interfaccia web di Airflow, fai clic sul nome del DAG.

    5. Nella pagina con i dettagli dei DAG, vai alle schede disponibili per visualizzare ulteriori informazioni sui DAG.

    Passaggi successivi