Monitoraggio degli ambienti con Cloud Monitoring

Cloud Composer 1 | Cloud Composer 2 | Cloud Composer 3

Puoi utilizzare Cloud Monitoring e Cloud Logging con Cloud Composer.

Cloud Monitoring offre visibilità sulle prestazioni, l'uptime e l'integrità complessiva delle applicazioni basate su cloud. Cloud Monitoring raccoglie e importa metriche, eventi e metadati da Cloud Composer per generare approfondimenti in dashboard e grafici. Puoi utilizzare Cloud Monitoring per comprendere le prestazioni e l'integrità dei tuoi ambienti Cloud Composer e delle metriche di Airflow.

Il logging acquisisce i log generati dai container dello scheduler e dei worker nel cluster del tuo ambiente. Questi log contengono informazioni sulle dipendenze a livello di sistema e di Airflow per facilitare il debugging. Per informazioni sulla visualizzazione dei log, consulta Visualizza i log di Airflow.

Prima di iniziare

  • Per accedere a log e metriche sono necessarie le seguenti autorizzazioni per il tuo ambiente Cloud Composer:

    • Accesso di sola lettura a log e metriche: logging.viewer e monitoring.viewer
    • Accesso di sola lettura ai log, inclusi quelli privati: logging.privateLogViewer
    • Accesso in lettura/scrittura alle metriche: monitoring.editor

    Per ulteriori informazioni su altri ruoli e autorizzazioni per Cloud Composer, consulta Controllo dell'accesso.

  • Per evitare log duplicati, Cloud Logging per Google Kubernetes Engine è disabilitato.

  • Cloud Logging produce una voce per ogni stato e ogni evento che si verificano nel tuo progetto Google Cloud. Puoi utilizzare i filtri di esclusione per ridurre il volume dei log, inclusi quelli prodotti da Cloud Logging per Cloud Composer.

    L'esclusione dei log da jobs.py può causare errori del controllo di integrità e CrashLoopBackOff errori. Devi includere -jobs.py nei filtri di esclusione per impedirne l'esclusione.

  • Il monitoraggio non può tracciare i valori del conteggio per i DAG e che vengono eseguite più di una volta al minuto e non traccia le metriche non riuscite.

Metriche di ambiente

Puoi utilizzare le metriche dell'ambiente per controllare l'utilizzo delle risorse e l'integrità dei tuoi ambienti Cloud Composer.

Integrità dell'ambiente

Per controllare l'integrità del tuo ambiente, puoi utilizzare la seguente metrica dello stato di integrità: composer.googleapis.com/environment/healthy.

Cloud Composer esegue un DAG di verifica dell'integrità denominato airflow_monitoring, che viene eseguito in base a una pianificazione e segnala lo stato dell'ambiente come segue:

  • Se l'esecuzione del DAG di attività termina correttamente, lo stato di integrità è True.
  • Se l'esecuzione del DAG di attività non va a buon fine, lo stato di integrità è False.

Il DAG di verifica dell'attività è archiviato nella cartella dags/ ed è visibile nell'interfaccia utente di Airflow. La frequenza e i contenuti del DAG di attualità sono immutabili e non devono essere modificati. Le modifiche al DAG di attualità non vengono conservate.

Controlli delle dipendenze dell'ambiente

Cloud Composer controlla periodicamente che l'ambiente possa raggiungere i servizi necessari per il suo funzionamento e che disponga delle autorizzazioni sufficienti per interagire con loro. Alcuni esempi di servizi richiesti per il funzionamento dell'ambiente sono Artifact Registry, Cloud Logging e Cloud Monitoring.

Per i controlli delle dipendenze dell'ambiente sono disponibili le seguenti metriche:

Metrica delle dipendenze API Descrizione
Numero di controlli delle dipendenze composer.googleapis.com/environment/health/dependency_check_count Questa metrica monitora il numero di volte in cui vengono eseguiti i controlli di raggiungibilità sui servizi richiesti per il funzionamento dell'ambiente.
Numero di controlli delle autorizzazioni di dipendenza composer.googleapis.com/environment/health/dependency_permissions_check_count Questa metrica tiene traccia del numero di volte in cui vengono eseguiti i controlli delle autorizzazioni necessari per il funzionamento dell'ambiente.

Integrità del database

Per controllare l'integrità del database, puoi utilizzare la seguente metrica dello stato di salute: composer.googleapis.com/environment/database_health.

Il pod di monitoraggio di Airflow esegue un ping al database ogni minuto e segnala lo stato di salute come True se è possibile stabilire una connessione SQL o False se non è possibile.

Metriche del database

Per i metadati Airflow sono disponibili le seguenti metriche di ambiente utilizzato dagli ambienti Cloud Composer. Puoi utilizzare queste metriche per monitorare le prestazioni e l'utilizzo delle risorse dell'istanza del database del tuo ambiente.

Ad esempio, potresti voler aumentare le dimensioni del tuo ambiente se si avvicina ai limiti di risorse. Oppure potresti voler ottimizzare le dimensioni del database eseguendo una pulizia del database.

Metrica del database API Descrizione
Utilizzo CPU database composer.googleapis.com/environment/database/cpu/usage_time
Core della CPU del database composer.googleapis.com/environment/database/cpu/reserved_cores
Utilizzo CPU database composer.googleapis.com/environment/database/cpu/utilization
Utilizzo memoria database composer.googleapis.com/environment/database/memory/bytes_used
Quota di memoria del database composer.googleapis.com/environment/database/memory/quota
Utilizzo della memoria del database composer.googleapis.com/environment/database/memory/utilization
Utilizzo disco di database composer.googleapis.com/environment/database/disk/bytes_used
Quota disco database composer.googleapis.com/environment/database/disk/quota
Utilizzo del disco del database composer.googleapis.com/environment/database/disk/utilization
Limite di connessioni al database composer.googleapis.com/environment/database/network/max_connections
Connessioni al database composer.googleapis.com/environment/database/network/connections
Database disponibile per il failover composer.googleapis.com/environment/database/available_for_failover È True se l'istanza Cloud SQL dell'ambiente si trova nel livello ed è pronto per il failover.
Conteggio delle richieste di failover automatico del database composer.googleapis.com/environment/database/auto_failover_request_count Numero totale di richieste di failover automatico dell'istanza Cloud SQL dell'ambiente.

Metriche dei worker

La seguente metrica di ambiente è disponibile per i worker Airflow utilizzati dagli ambienti Cloud Composer 2.

Questa metrica viene utilizzata per scalare automaticamente il numero di worker nel tuo ambiente. Horizontal Pod Autoscaler imposta questa metrica, che viene poi utilizzata dal componente dell'ambiente Airflow Worker Set Controller per scalare il numero di worker Airflow verso l'alto o verso il basso, a seconda del valore della metrica.

Metrica del worker API
Target del fattore di scala composer.googleapis.com/environment/worker/scale_factor_target

Metriche di Scheduler

Nome API Descrizione
Scheduler attivi composer.googleapis.com/environment/active_schedulers Numero di istanze dello scheduler attive.

Metriche attivatore

Le seguenti metriche degli attivatori sono fornite esclusivamente per Cloud Composer:

Nome API Descrizione
Trigger attivi composer.googleapis.com/environment/active_triggerers Il numero di istanze dell'attivatore attive.

Inoltre, le seguenti metriche di Airflow sono disponibili tramite Metriche di Cloud Composer:

Nome API Nome in Airflow Descrizione
Numero totale di trigger in esecuzione composer.googleapis.com/workload/triggerer/num_running_triggers triggers.running Il numero di trigger in esecuzione per istanza di attivatore.
Trigger di blocco composer.googleapis.com/environment/trigger/blocking_count triggers.blocked_main_thread Numero di trigger che hanno bloccato il thread principale (probabilmente perché non completamente asincroni).
Trigger non riusciti composer.googleapis.com/environment/trigger/failed_count triggers.failed Numero di attivatori che non sono riusciti a causa di un errore prima di poter attivare un evento.
Trigger riusciti composer.googleapis.com/environment/trigger/succeeded_count triggers.succeeded Numero di attivatori che hanno attivato almeno un evento.

Metriche del server web

Per il server web Airflow utilizzato dagli ambienti Cloud Composer sono disponibili le seguenti metriche dell'ambiente. Puoi utilizzare queste metriche per controlla le prestazioni e l'utilizzo delle risorse del web Airflow dell'ambiente o un'istanza del server.

Ad esempio, potresti voler aumentare i parametri di scalabilità e prestazioni del server web se si avvicina costantemente ai limiti di risorse.

Nome API Descrizione
Utilizzo CPU server web composer.googleapis.com/environment/web_server/cpu/usage_time
Quota di CPU per il server web composer.googleapis.com/environment/web_server/cpu/reserved_cores
Utilizzo memoria server web composer.googleapis.com/environment/web_server/memory/bytes_used
Quota di memoria del server web composer.googleapis.com/environment/web_server/memory/quota
Server web attivi composer.googleapis.com/environment/active_webservers Numero di istanze attive del server web.

Metriche DAG

Aiuta a monitorare l'efficienza delle esecuzioni dei DAG e identificare le attività che causano una latenza elevata, il seguente DAG disponibili.

Metrica DAG API
Numero di esecuzioni di DAG composer.googleapis.com/workflow/run_count
Durata di ogni esecuzione del DAG composer.googleapis.com/workflow/run_duration
Numero di esecuzioni di attività composer.googleapis.com/workflow/task/run_count
Durata di ogni esecuzione dell'attività composer.googleapis.com/workflow/task/run_duration

Cloud Monitoring mostra solo le metriche per il flusso di lavoro completato e le esecuzioni di attività (riuscita o non riuscita). Nessun dato viene visualizzato quando non sono all'attività del flusso di lavoro e alle esecuzioni di attività e flussi di lavoro in corso.

Metriche Celery Executor

Sono disponibili le seguenti metriche di Celery Executor. Queste metriche può aiutarti a determinare se sono disponibili risorse worker sufficienti del tuo ambiente.

Metrica dell'esecutore Celery API
Numero di attività in coda composer.googleapis.com/environment/task_queue_length
Numero di worker Celery online composer.googleapis.com/environment/num_celery_workers

Metriche Airflow

Sono disponibili le seguenti metriche Airflow. Queste metriche corrispondono alle metriche fornite da Airflow.

Nome API Nome in Airflow Descrizione
Codici di uscita diversi da zero dell'attività Celery composer.googleapis.com/environment/celery/execute_command_failure_count celery.execute_command.failure Numero di codice di uscita diverso da zero delle attività Celery.
Timeout della pubblicazione delle attività Celery composer.googleapis.com/environment/celery/task_timeout_error_count celery.task_timeout_error Numero di AirflowTaskTimeout errori generati durante la pubblicazione dell'attività nel broker Celery.
Durata del recupero del DAG serializzato composer.googleapis.com/environment/collect_db_dag_duration collect_db_dags Tempo impiegato per recuperare tutti i DAG serializzati dal database.
Errori di aggiornamento del DAG composer.googleapis.com/environment/dag_callback/exception_count dag.callback_exceptions Numero di eccezioni sollevate dai callback DAG. In questo caso, significa che un callback del DAG non funziona.
Errori di aggiornamento del DAG composer.googleapis.com/environment/dag_file/refresh_error_count dag_file_refresh_error Numero di errori durante il caricamento di file DAG.
Tempo di caricamento del file DAG composer.googleapis.com/environment/dag_processing/last_duration dag_processing.last_duration.<dag_file> Tempo necessario per caricare un file DAG specifico.
Tempo dall'elaborazione dei file DAG composer.googleapis.com/environment/dag_processing/last_run_elapsed_time dag_processing.last_run.seconds_ago.<dag_file> Secondi trascorsi dall'ultima elaborazione di un file DAG.
Conteggio blocchi DagFileProcessorManager composer.googleapis.com/environment/dag_processing/manager_stall_count dag_processing.manager_stalls Numero di processi DagFileProcessorManager in stallo.
Errori di analisi dei DAG composer.googleapis.com/environment/dag_processing/parse_error_count dag_processing.import_errors Numero di errori generati durante l'analisi dei file DAG.
Processi di analisi DAG in esecuzione composer.googleapis.com/environment/dag_processing/processes dag_processing.processes Numero di processi di analisi DAG attualmente in esecuzione.
Timeout del processore composer.googleapis.com/environment/dag_processing/processor_timeout_count dag_processing.processor_timeouts Numero di elaboratori di file che sono stati interrotti perché richiedevano troppo tempo.
Tempo impiegato per scansionare e importare tutti i file DAG composer.googleapis.com/environment/dag_processing/total_parse_time dag_processing.total_parse_time Tempo totale necessario per eseguire la scansione e importare tutti i file DAG una volta.
Dimensione bag DAG corrente composer.googleapis.com/environment/dagbag_size dagbag_size Numero di DAG trovati quando lo scheduler ha eseguito una scansione in base alla relativa configurazione.
Notifiche via email per mancato rispetto del contratto di servizio composer.googleapis.com/environment/email/sla_notification_failure_count sla_email_notification_failure Numero di tentativi di invio di notifiche via email per mancato rispetto dello SLA non riusciti.
Slot aperti sull'esecutore composer.googleapis.com/environment/executor/open_slots executor.open_slots Numero di slot aperti nell'eseguitore.
Attività in coda sull'esecutore composer.googleapis.com/environment/executor/queued_tasks executor.queued_tasks Numero di attività in coda nell'esecutore.
Esecuzione di attività sull'esecutore composer.googleapis.com/environment/executor/running_tasks executor.running_tasks Numero di attività in esecuzione sull'esecutore.
Istanze di attività riuscite/non riuscite composer.googleapis.com/environment/finished_task_instance_count ti_failures, ti_successes Riusciti/errori complessivi delle istanze di attività.
Job avviati/completati composer.googleapis.com/environment/job/count <job_name>_start, <job_name>_end Numero di job avviati/finiti, ad esempio SchedulerJob, LocalTaskJob.
Errori di heartbeat del job composer.googleapis.com/environment/job/heartbeat_failure_count <job_name>_heartbeat_failure Numero di heartbeat non riusciti per un job.
Attività create per operatore composer.googleapis.com/environment/operator/created_task_instance_count task_instance_created-<operator_name> Numero di istanze di attività create per un determinato operatore.
Esecuzioni operatori composer.googleapis.com/environment/operator/finished_task_instance_count operator_failures_<operator_name>, operator_successes_<operator_name> Numero di istanze di attività completate per operatore
Slot aperti nel pool composer.googleapis.com/environment/pool/open_slots pool.open_slots.<pool_name> Numero di slot aperti nel pool.
Slot in coda nel pool composer.googleapis.com/environment/pool/queued_slots pool.queued_slots.<pool_name> Numero di slot in coda nel pool.
Slot in esecuzione nel pool composer.googleapis.com/environment/pool/running_slots pool.running_slots.<pool_name> Numero di slot in esecuzione nel pool.
Attività aggiunte alla fame nel pool composer.googleapis.com/environment/pool/starving_tasks pool.starving_tasks.<pool_name> Numero di attività soggette a fame nel pool.
Tempo trascorso nella sezione critica dello scheduler composer.googleapis.com/environment/scheduler/critical_section_duration scheduler.critical_section_duration Tempo trascorso nella sezione critica del loop dello scheduler. Solo un pianificatore alla volta può entrare in questo loop.
Errori di blocco della sezione critica composer.googleapis.com/environment/scheduler/critical_section_lock_failure_count scheduler.critical_section_busy Conteggio del numero di volte in cui un processo di pianificazione ha tentato di acquisire un blocco nella sezione critica (necessario per inviare le attività all'eseguitore) e lo ha trovato bloccato da un altro processo.
Attività interrotte esternamente composer.googleapis.com/environment/scheduler/task/externally_killed_count scheduler.tasks.killed_externally Numero di attività terminate esternamente.
Attività orfane composer.googleapis.com/environment/scheduler/task/orphan_count scheduler.orphaned_tasks.cleared, scheduler.orphaned_tasks.adopted Numero di attività orfane cancellate/adozione dallo scheduler.
Attività in esecuzione/bloccate/eseguibili composer.googleapis.com/environment/scheduler/tasks scheduler.tasks.running, scheduler.tasks.starving, scheduler.tasks.executable Numero di attività in esecuzione/speciali/eseguibili.
Heartbeat dello scheduler composer.googleapis.com/environment/scheduler_heartbeat_count scheduler_heartbeat Heartbeat dello scheduler.
Notifiche di chiamata di ritorno per SLA non riuscita composer.googleapis.com/environment/sla_callback_notification_failure_count sla_callback_notification_failure Numero di tentativi di invio di notifiche di mancata risposta allo SLA non riusciti.
Errori di eccezione relativi al poking del sensore intelligente composer.googleapis.com/environment/smart_sensor/exception_failures smart_sensor_operator.exception_failures Numero di errori causati da eccezioni nel loop di poking del sensore intelligente precedente.
Errori dell'infrastruttura dei sensori smart composer.googleapis.com/environment/smart_sensor/infra_failures smart_sensor_operator.infra_failures Numero di guasti dell'infrastruttura nel precedente ciclo di poking dei sensori smart.
Esclusioni per il poking del sensore intelligente composer.googleapis.com/environment/smart_sensor/poked_exception smart_sensor_operator.poked_exception Numero di eccezioni nel loop di poking del sensore intelligente precedente.
Il sensore smart ha avviato le attività correttamente composer.googleapis.com/environment/smart_sensor/poked_success smart_sensor_operator.poked_success Numero di attività appena riuscite sottoposte a polling dal sensore intelligente nel ciclo di polling precedente.
Attività di tocco del sensore smart composer.googleapis.com/environment/smart_sensor/poked_tasks smart_sensor_operator.poked_tasks Numero di attività eseguite dal sensore smart nel precedente ciclo di poking.
Istanze di attività riuscite in precedenza composer.googleapis.com/environment/task_instance/previously_succeeded_count previously_succeeded Numero di istanze di attività riuscite in precedenza.
Attività zombie interrotte composer.googleapis.com/environment/zombie_task_killed_count zombies_killed Numero di attività zombie interrotte.
Durata esecuzione DAG composer.googleapis.com/workflow/dag/run_duration dagrun.duration.success.<dag_id>, dagrun.duration.failed.<dag_id> Tempo impiegato da un DagRun per raggiungere lo stato riuscito/non riuscito.
Durata del controllo delle dipendenze DAG composer.googleapis.com/workflow/dependency_check_duration dagrun.dependency-check.<dag_id> Tempo necessario per controllare le dipendenze DAG. Questa metrica è diversa dalle metriche dei controlli di dipendenza e autorizzazioni dell'ambiente e si applica ai DAG
Ritardo pianificazione esecuzione DAG composer.googleapis.com/workflow/schedule_delay dagrun.schedule_delay.<dag_id> Tempo di ritardo tra la data di inizio pianificata di DagRun e la data di inizio effettiva di DagRun.
Attività completate composer.googleapis.com/workflow/task_instance/finished_count ti.finish.<dag_id>.<task_id>.<state> Numero di attività completate in un determinato DAG.
Durata di esecuzione dell'istanza dell'attività composer.googleapis.com/workflow/task_instance/run_duration dag.<dag_id>.<task_id>.duration Tempo impiegato per completare un'attività.
Attività avviate composer.googleapis.com/workflow/task_instance/started_count ti.start.<dag_id>.<task_id> Numero di attività avviate in un determinato DAG.
Durata in coda dell'istanza di attività composer.googleapis.com/workflow/task_instance/queued_duration dag.<dag_id>.<task_id>.queued_duration Tempo trascorso da un'attività nello stato In coda prima che passi allo stato In esecuzione.
Attività rimosse dal DAG composer.googleapis.com/workflow/task/removed_from_dag_count task_removed_from_dag.<dag_id> Numero di attività rimosse per un determinato DAG (in altre parole, l'attività non esiste più nel DAG).
Attività ripristinate nel DAG composer.googleapis.com/workflow/task/restored_to_dag_count task_restored_to_dag.<dag_id> Numero di attività ripristinate per un determinato DAG (ovvero l'istanza dell'attività che in precedenza era in stato REMOVED nel DB viene aggiunta al file DAG).
Ritardo nella pianificazione dell'attività composer.googleapis.com/workflow/task/schedule_delay dagrun.schedule_delay.<dag_id> Tempo trascorso tra la data iniziale della prima attività e l'inizio previsto dagrun.

Utilizzo del monitoraggio per gli ambienti Cloud Composer

Console

Puoi utilizzare Esplora metriche per visualizzare le metriche relative ai tuoi ambienti e ai tuoi DAG:

  • La risorsa Ambiente Cloud Composer contiene metriche per gli ambienti.

    Per visualizzare le metriche per un ambiente specifico, filtra le metriche in base all'etichetta environment_name. Puoi anche filtrare in base ad altre etichette, ad esempio località o versione dell'immagine dell'ambiente.

  • La risorsa Cloud Composer Workflow contiene metriche per i DAG.

    Per mostrare le metriche per un DAG o un'attività specifici, filtra le metriche in base al workflow_name e task_name. Puoi anche filtrare in base ad altre etichette, ad esempio lo stato della task o il nome dell'operatore Airflow.

API e gcloud

Puoi creare e gestire dashboard personalizzate e widget tramite la l'API Cloud Monitoring e il comando gcloud monitoring dashboards. Per saperne di più, consulta Gestire le dashboard tramite API.

Per ulteriori informazioni su risorse, metriche e filtri, consulta la documentazione di riferimento dell'API Cloud Monitoring:

Utilizzo degli avvisi di Cloud Monitoring

Puoi creare criteri di avviso per monitorare i valori delle metriche e ricevere una notifica quando queste violano una condizione.

  1. Nella console Google Cloud, vai alla pagina  Avvisi:

    Vai ad Avvisi

    Se utilizzi la barra di ricerca per trovare questa pagina, seleziona il risultato con il sottotitolo Monitoring.

  2. Se non hai creato i canali di notifica e vuoi ricevere notifiche, fai clic su Modifica canali di notifica e aggiungi i tuoi canali di notifica. Torna alla pagina Avvisi dopo aver aggiunto i tuoi canali.
  3. Nella pagina Avvisi, seleziona Crea criterio.
  4. Per selezionare la metrica, espandi il menu Seleziona una metrica e poi segui questi passaggi:
    1. Per limitare il menu alle voci pertinenti, inserisci Cloud Composer nella barra dei filtri. Se non vengono visualizzati risultati dopo aver filtrato il menu, disattiva l'opzione Mostra solo risorse e metriche attive.
    2. Per Tipo di risorsa, seleziona Ambiente Cloud Composer o Flusso di lavoro Cloud Composer.
    3. Seleziona una Categoria di metriche e una Metrica, quindi seleziona Applica.
  5. Fai clic su Avanti.
  6. Le impostazioni nella pagina Configura trigger di avviso determinano quando l'avviso viene attivato. Seleziona un tipo di condizione e, se necessario, specifica una soglia. Per maggiori informazioni le informazioni, vedi Crea criteri di avviso per la soglia delle metriche.
  7. Fai clic su Avanti.
  8. (Facoltativo) Per aggiungere notifiche al criterio di avviso, fai clic su Canali di notifica. Nella finestra di dialogo, seleziona uno o più canali di notifica dal menu e fai clic su OK.
  9. (Facoltativo) Aggiorna la Durata chiusura automatica incidenti. Questo campo determina quando Il monitoraggio chiude gli incidenti in assenza di dati delle metriche.
  10. (Facoltativo) Fai clic su Documentazione, quindi aggiungi le eventuali informazioni da includere in un messaggio di notifica.
  11. Fai clic su Nome avviso e inserisci un nome per il criterio di avviso.
  12. Fai clic su Crea criterio.
di Gemini Advanced. Per saperne di più, consulta Criteri di avviso.

Passaggi successivi