Monitoraggio degli ambienti con Cloud Monitoring

Cloud Composer 1 | Cloud Composer 2 | Cloud Composer 3

Puoi utilizzare Cloud Monitoring e Cloud Logging con Cloud Composer.

Cloud Monitoring offre visibilità su prestazioni, uptime e integrità complessiva delle applicazioni basate su cloud. Cloud Monitoring raccoglie e importa metriche, eventi e metadati da Cloud Composer per generare approfondimenti in dashboard e grafici. Puoi utilizzare Cloud Monitoring per comprendere le prestazioni e l'integrità dei tuoi ambienti Cloud Composer e delle metriche di Airflow.

Il logging acquisisce i log prodotti da scheduler e worker dei container nel cluster del tuo ambiente. Questi log contengono informazioni sulle dipendenze a livello di sistema e di Airflow per aiutarti con il debug del machine learning. Per informazioni sulla visualizzazione dei log, consulta Visualizzare i log di Airflow.

Prima di iniziare

  • Per accedere ai log e alle metriche per il tuo ambiente Cloud Composer sono necessarie le seguenti autorizzazioni:

    • Accesso di sola lettura a log e metriche: logging.viewer e monitoring.viewer
    • Accesso di sola lettura ai log, inclusi quelli privati: logging.privateLogViewer
    • Accesso in lettura/scrittura alle metriche: monitoring.editor

    Per ulteriori informazioni su altri ruoli e autorizzazioni per Cloud Composer, vedi Controllo dell'accesso.

  • Per evitare log duplicati, Cloud Logging per Google Kubernetes Engine è disabilitato.

  • Cloud Logging genera una voce per ogni stato ed evento che si verifica nel progetto Google Cloud. Puoi utilizzare i filtri di esclusione per ridurre il volume dei log, inclusi quelli prodotti da Cloud Logging per Cloud Composer.

    L'esclusione dei log da jobs.py può causare errori di controllo di integrità e CrashLoopBackOff. Devi includere -jobs.py nei filtri di esclusione per impedirne l'esclusione.

  • Il monitoraggio non può tracciare i valori del conteggio per i DAG e che vengono eseguite più di una volta al minuto e non traccia le metriche non riuscite.

Metriche dell'ambiente

Puoi utilizzare le metriche dell'ambiente per controllare l'utilizzo delle risorse e l'integrità dei tuoi ambienti Cloud Composer.

Integrità dell'ambiente

Per controllare l'integrità del tuo ambiente, puoi utilizzare la seguente metrica dello stato di integrità: composer.googleapis.com/environment/healthy.

Cloud Composer esegue un DAG di attività denominato airflow_monitoring, che viene eseguito in base a una pianificazione e segnala l'integrità dell'ambiente come segue:

  • Se l'esecuzione del DAG di attività termina correttamente, lo stato di integrità è True.
  • Se l'esecuzione del DAG di attività non va a buon fine, lo stato di integrità è False.

Il DAG di attività è archiviato nella cartella dags/ ed è visibile in la UI di Airflow. La frequenza e i contenuti del DAG di attività sono immutabili e non devono essere modificati. Le modifiche al DAG di attività non vengono mantenute.

Controlli delle dipendenze dell'ambiente

Cloud Composer controlla periodicamente che l'ambiente possa raggiungere i servizi necessari per il suo funzionamento e che disponga delle autorizzazioni sufficienti per interagire con essi. Esempi di servizi richiesti per la gestione sono Artifact Registry, Cloud Logging e e configurazione in Cloud Monitoring.

Per i controlli delle dipendenze dell'ambiente sono disponibili le seguenti metriche:

Metrica di dipendenza API Descrizione
Numero di controlli delle dipendenze composer.googleapis.com/environment/health/dependency_check_count Questa metrica monitora il numero di volte in cui vengono eseguiti i controlli di raggiungibilità sui servizi necessari per il funzionamento dell'ambiente.
Numero di controlli delle autorizzazioni di dipendenza composer.googleapis.com/environment/health/dependency_permissions_check_count Questa metrica tiene traccia del numero di volte in cui vengono eseguiti i controlli delle autorizzazioni necessari per il funzionamento dell'ambiente.

Integrità del database

Per controllare l'integrità del database, puoi utilizzare la seguente metrica dello stato di salute: composer.googleapis.com/environment/database_health.

Il pod di monitoraggio di Airflow invia un ping al database ogni minuto e segnala l'integrità stato True se è possibile stabilire una connessione SQL o False in caso contrario.

Metriche del database

Per i metadati Airflow sono disponibili le seguenti metriche di ambiente utilizzato dagli ambienti Cloud Composer. Puoi usare queste metriche per monitorare le prestazioni e l'utilizzo delle risorse dell'ambiente di rete.

Ad esempio, potresti voler aumentare le dimensioni del tuo ambiente se si avvicina ai limiti di risorse. Oppure potresti voler ottimizzare le dimensioni del database eseguendo una pulizia del database.

Metrica di database API Descrizione
Utilizzo CPU database composer.googleapis.com/environment/database/cpu/usage_time
Core della CPU del database composer.googleapis.com/environment/database/cpu/reserved_cores
Utilizzo CPU database composer.googleapis.com/environment/database/cpu/utilization
Utilizzo memoria database composer.googleapis.com/environment/database/memory/bytes_used
Quota di memoria del database composer.googleapis.com/environment/database/memory/quota
Utilizzo della memoria del database composer.googleapis.com/environment/database/memory/utilization
Utilizzo disco di database composer.googleapis.com/environment/database/disk/bytes_used
Quota disco del database composer.googleapis.com/environment/database/disk/quota
Utilizzo del disco del database composer.googleapis.com/environment/database/disk/utilization
Limite connessioni database composer.googleapis.com/environment/database/network/max_connections
Connessioni database composer.googleapis.com/environment/database/network/connections
Database disponibile per il failover composer.googleapis.com/environment/database/available_for_failover È True se l'istanza Cloud SQL dell'ambiente è in modalità di alta disponibilità ed è pronta per il failover.
Conteggio delle richieste di failover automatico del database composer.googleapis.com/environment/database/auto_failover_request_count Numero totale di richieste di failover automatico dell'ambiente di Cloud SQL.

Metriche worker

La seguente metrica di ambiente è disponibile per i worker Airflow utilizzati dagli ambienti Cloud Composer 2.

Questa metrica viene utilizzata per scalare automaticamente il numero di worker nel tuo ambiente. Horizontal Pod Autoscaler imposta questa metrica, che viene poi utilizzata dal componente dell'ambiente Airflow Worker Set Controller per scalare il numero di worker Airflow verso l'alto o verso il basso, a seconda del valore della metrica.

Metrica worker API
Target del fattore di scala composer.googleapis.com/environment/worker/scale_factor_target

Metriche di Scheduler

Nome API Descrizione
Scheduler attivi composer.googleapis.com/environment/active_schedulers Numero di istanze dello scheduler attive.

Metriche attivatore

Le seguenti metriche degli attivatori sono fornite esclusivamente per Cloud Composer:

Nome API Descrizione
Trigger attivi composer.googleapis.com/environment/active_triggerers Il numero di istanze attive dell'attivatore.

Inoltre, tramite le metriche Cloud Composer sono disponibili le seguenti metriche Airflow:

Nome API Nome in Airflow Descrizione
Numero totale di trigger in esecuzione composer.googleapis.com/workload/triggerer/num_running_triggers triggers.running Il numero di trigger in esecuzione per istanza di attivatore.
Trigger di blocco composer.googleapis.com/environment/trigger/blocking_count triggers.blocked_main_thread Numero di trigger che hanno bloccato il thread principale (probabilmente perché non completamente asincroni).
Trigger non riusciti composer.googleapis.com/environment/trigger/failed_count triggers.failed Numero di trigger non riusciti con un errore prima di poter attivare un evento.
Trigger riusciti composer.googleapis.com/environment/trigger/succeeded_count triggers.succeeded Numero di attivatori che hanno attivato almeno un evento.

Metriche del server web

Per il server web Airflow utilizzato dagli ambienti Cloud Composer sono disponibili le seguenti metriche dell'ambiente. Puoi utilizzare queste metriche per controlla le prestazioni e l'utilizzo delle risorse del web Airflow dell'ambiente o un'istanza del server.

Ad esempio, potresti voler aumentare i parametri di scalabilità e prestazioni del server web se si avvicina costantemente ai limiti delle risorse.

Nome API Descrizione
Utilizzo CPU server web composer.googleapis.com/environment/web_server/cpu/usage_time
Quota di CPU per il server web composer.googleapis.com/environment/web_server/cpu/reserved_cores
Utilizzo memoria server web composer.googleapis.com/environment/web_server/memory/bytes_used
Quota di memoria del server web composer.googleapis.com/environment/web_server/memory/quota
Server web attivi composer.googleapis.com/environment/active_webservers Numero di istanze del server web attive.

Metriche DAG

Per aiutarti a monitorare l'efficienza delle esecuzioni del DAG e a identificare le attività che causano una latenza elevata, sono disponibili le seguenti metriche DAG.

Metrica DAG API
Numero di esecuzioni di DAG composer.googleapis.com/workflow/run_count
Durata di ogni esecuzione del DAG composer.googleapis.com/workflow/run_duration
Numero di esecuzioni di attività composer.googleapis.com/workflow/task/run_count
Durata di ogni esecuzione dell'attività composer.googleapis.com/workflow/task/run_duration

Cloud Monitoring mostra solo le metriche per le esecuzioni di flussi di lavoro e attività completate (esito positivo o negativo). Nessun dato viene visualizzato quando non sono all'attività del flusso di lavoro e alle esecuzioni di attività e flussi di lavoro in corso.

Metriche Celery Executor

Sono disponibili le seguenti metriche di Celery Executor. Queste metriche possono aiutarti a determinare se nel tuo ambiente sono presenti risorse di lavoro sufficienti.

Metrica Celery Executor API
Numero di attività in coda composer.googleapis.com/environment/task_queue_length
Numero di worker Celery online composer.googleapis.com/environment/num_celery_workers

Metriche Airflow

Sono disponibili le seguenti metriche di Airflow. Queste metriche corrispondono alle metriche fornite da Airflow.

Nome API Nome in Airflow Descrizione
Codici di uscita diversi da zero dell'attività Celery composer.googleapis.com/environment/celery/execute_command_failure_count celery.execute_command.failure Numero di codici di uscita diversi da zero delle attività Celery.
Timeout della pubblicazione delle attività Celery composer.googleapis.com/environment/celery/task_timeout_error_count celery.task_timeout_error Numero di AirflowTaskTimeout errori generati durante la pubblicazione dell'attività nel broker Celery.
Durata del recupero DAG serializzato composer.googleapis.com/environment/collect_db_dag_duration collect_db_dags Tempo impiegato per recuperare tutti i DAG serializzati dal database.
Errori di aggiornamento del DAG composer.googleapis.com/environment/dag_callback/exception_count dag.callback_exceptions Numero di eccezioni sollevate dai callback DAG. In questo caso, significa che un callback del DAG non funziona.
Errori di aggiornamento del DAG composer.googleapis.com/environment/dag_file/refresh_error_count dag_file_refresh_error Numero di errori durante il caricamento di file DAG.
Tempo di caricamento del file DAG composer.googleapis.com/environment/dag_processing/last_duration dag_processing.last_duration.<dag_file> Tempo necessario per caricare un file DAG specifico.
Tempo dall'elaborazione del file DAG composer.googleapis.com/environment/dag_processing/last_run_elapsed_time dag_processing.last_run.seconds_ago.<dag_file> Secondi trascorsi dall'ultima elaborazione di un file DAG.
Conteggio degli arresti anomali di DagFileProcessorManager composer.googleapis.com/environment/dag_processing/manager_stall_count dag_processing.manager_stalls Numero di processi DagFileProcessorManager in stallo.
Errori di analisi dei DAG composer.googleapis.com/environment/dag_processing/parse_error_count dag_processing.import_errors Numero di errori generati durante l'analisi dei file DAG.
Esecuzione dei processi di analisi dei DAG composer.googleapis.com/environment/dag_processing/processes dag_processing.processes Numero di processi di analisi DAG attualmente in esecuzione.
Timeout del processore composer.googleapis.com/environment/dag_processing/processor_timeout_count dag_processing.processor_timeouts Numero di processori di file terminati a causa dell'eccessiva durata dell'elaborazione.
Tempo necessario per eseguire la scansione e importare tutti i file DAG composer.googleapis.com/environment/dag_processing/total_parse_time dag_processing.total_parse_time Tempo totale impiegato per scansionare e importare tutti i file DAG una volta.
Dimensione bag DAG attuale composer.googleapis.com/environment/dagbag_size dagbag_size Numero di DAG trovati quando lo scheduler ha eseguito una scansione in base alla sua configurazione.
Invio di notifiche via email per mancato rispetto dello SLA (accordo sul livello del servizio) composer.googleapis.com/environment/email/sla_notification_failure_count sla_email_notification_failure Numero di tentativi di notifica via email non riusciti dallo SLA (accordo sul livello del servizio).
Slot aperti sull'esecutore composer.googleapis.com/environment/executor/open_slots executor.open_slots Numero di slot aperti nell'esecutore.
Attività in coda sull'esecutore composer.googleapis.com/environment/executor/queued_tasks executor.queued_tasks Numero di attività in coda nell'esecutore.
Esecuzione di attività sull'esecutore composer.googleapis.com/environment/executor/running_tasks executor.running_tasks Numero di attività in esecuzione nell'eseguitore.
Istanze di attività riuscite/non riuscite composer.googleapis.com/environment/finished_task_instance_count ti_failures, ti_successes Riusciti/errori complessivi delle istanze di attività.
Job avviati/completati composer.googleapis.com/environment/job/count <job_name>_start, <job_name>_end Numero di job avviati/finiti, ad esempio SchedulerJob, LocalTaskJob.
Errori heartbeat del job composer.googleapis.com/environment/job/heartbeat_failure_count <job_name>_heartbeat_failure Numero di heartbeat non riusciti per un job.
Attività create per operatore composer.googleapis.com/environment/operator/created_task_instance_count task_instance_created-<operator_name> Numero di istanze di attività create per un determinato operatore.
Esecuzioni operatori composer.googleapis.com/environment/operator/finished_task_instance_count operator_failures_<operator_name>, operator_successes_<operator_name> Numero di istanze di attività completate per operatore
Slot aperti nel pool composer.googleapis.com/environment/pool/open_slots pool.open_slots.<pool_name> Numero di slot aperti nel pool.
Slot in coda nel pool composer.googleapis.com/environment/pool/queued_slots pool.queued_slots.<pool_name> Numero di slot in coda nel pool.
Slot in esecuzione nel pool composer.googleapis.com/environment/pool/running_slots pool.running_slots.<pool_name> Numero di slot in esecuzione nel pool.
Attività aggiunte alla fame nel pool composer.googleapis.com/environment/pool/starving_tasks pool.starving_tasks.<pool_name> Numero di attività in attesa nel pool.
Tempo trascorso nella sezione critica dello scheduler composer.googleapis.com/environment/scheduler/critical_section_duration scheduler.critical_section_duration Tempo trascorso nella sezione critica del loop dello scheduler. Questo loop può essere inserito da un solo scheduler alla volta.
Errori di blocco delle sezioni critiche composer.googleapis.com/environment/scheduler/critical_section_lock_failure_count scheduler.critical_section_busy Conteggio del numero di volte in cui un processo di pianificazione ha tentato di acquisire un blocco nella sezione critica (necessario per inviare le attività all'eseguitore) e lo ha trovato bloccato da un altro processo.
Attività interrotte esternamente composer.googleapis.com/environment/scheduler/task/externally_killed_count scheduler.tasks.killed_externally Numero di attività terminate esternamente.
Attività orfane composer.googleapis.com/environment/scheduler/task/orphan_count scheduler.orphaned_tasks.cleared, scheduler.orphaned_tasks.adopted Numero di attività orfane cancellate/adozione dallo scheduler.
Attività in esecuzione/bloccate/eseguibili composer.googleapis.com/environment/scheduler/tasks scheduler.tasks.running, scheduler.tasks.starving, scheduler.tasks.executable Numero di attività in esecuzione/in attesa/eseguibili.
Heartbeat dello scheduler composer.googleapis.com/environment/scheduler_heartbeat_count scheduler_heartbeat Heartbeat dello scheduler.
Notifiche di callback SLA non riuscite composer.googleapis.com/environment/sla_callback_notification_failure_count sla_callback_notification_failure Numero di tentativi di notifica di callback non riusciti dallo SLA (accordo sul livello del servizio).
Errori di eccezione relativi al poking del sensore intelligente composer.googleapis.com/environment/smart_sensor/exception_failures smart_sensor_operator.exception_failures Numero di errori causati da un'eccezione nel precedente ciclo di rilevamento del sensore smart.
Guasti dell'infrastruttura di poking dei sensori smart composer.googleapis.com/environment/smart_sensor/infra_failures smart_sensor_operator.infra_failures Numero di guasti dell'infrastruttura nel precedente ciclo di poking dei sensori smart.
Esclusioni per il poking del sensore intelligente composer.googleapis.com/environment/smart_sensor/poked_exception smart_sensor_operator.poked_exception Numero di eccezioni nel loop di poking del sensore intelligente precedente.
Attività di push del sensore intelligente completate correttamente composer.googleapis.com/environment/smart_sensor/poked_success smart_sensor_operator.poked_success Numero di attività appena riuscite sottoposte a polling dal sensore intelligente nel ciclo di polling precedente.
Attività di tocco del sensore smart composer.googleapis.com/environment/smart_sensor/poked_tasks smart_sensor_operator.poked_tasks Numero di attività sottoposte a polling dal sensore intelligente nel ciclo di polling precedente.
Istanze di attività riuscite in precedenza composer.googleapis.com/environment/task_instance/previously_succeeded_count previously_succeeded Numero di istanze di attività completate in precedenza.
Attività zombie interrotte composer.googleapis.com/environment/zombie_task_killed_count zombies_killed Numero di attività zombie terminate.
Durata esecuzione DAG composer.googleapis.com/workflow/dag/run_duration dagrun.duration.success.<dag_id>, dagrun.duration.failed.<dag_id> Tempo necessario affinché DagRun raggiunga lo stato riuscito/non riuscito.
Durata del controllo delle dipendenze dei DAG composer.googleapis.com/workflow/dependency_check_duration dagrun.dependency-check.<dag_id> Tempo impiegato per controllare le dipendenze DAG. Questa metrica è diversa dalle metriche dei controlli di dipendenza e autorizzazioni dell'ambiente e si applica ai DAG
Ritardo pianificazione esecuzione DAG composer.googleapis.com/workflow/schedule_delay dagrun.schedule_delay.<dag_id> Tempo di ritardo tra la data di inizio pianificata della corsa del DAG e la data di inizio effettiva della corsa del DAG.
Attività completate composer.googleapis.com/workflow/task_instance/finished_count ti.finish.<dag_id>.<task_id>.<state> Numero di attività completate in un determinato DAG.
Durata dell'esecuzione dell'istanza dell'attività composer.googleapis.com/workflow/task_instance/run_duration dag.<dag_id>.<task_id>.duration Tempo impiegato per completare un'attività.
Attività avviate composer.googleapis.com/workflow/task_instance/started_count ti.start.<dag_id>.<task_id> Numero di attività avviate in un determinato DAG.
Durata in coda dell'istanza di attività composer.googleapis.com/workflow/task_instance/queued_duration dag.<dag_id>.<task_id>.queued_duration Tempo trascorso da un'attività nello stato In coda prima che passi allo stato In esecuzione.
Attività rimosse dal DAG composer.googleapis.com/workflow/task/removed_from_dag_count task_removed_from_dag.<dag_id> Numero di attività rimosse per un determinato DAG (ovvero l'attività non esiste più nel DAG).
Attività ripristinate nel DAG composer.googleapis.com/workflow/task/restored_to_dag_count task_restored_to_dag.<dag_id> Il numero di attività ripristinate per un determinato DAG (ovvero l'istanza dell'attività che in precedenza era in stato RIMOSSO nel database è stata aggiunta al file DAG).
Ritardo nella pianificazione delle attività composer.googleapis.com/workflow/task/schedule_delay dagrun.schedule_delay.<dag_id> Tempo trascorso tra la data iniziale della prima attività e l'inizio previsto dagrun.

Utilizzo di Monitoring per gli ambienti Cloud Composer

Console

Puoi utilizzare Esplora metriche per visualizzare metriche relative ai tuoi ambienti e ai tuoi DAG:

  • La risorsa Ambiente Cloud Composer contiene metriche per gli ambienti.

    Per visualizzare le metriche per un ambiente specifico, filtra le metriche in base all'etichetta environment_name. Puoi anche filtrare in base ad altre etichette, ad esempio località o versione dell'immagine dell'ambiente.

  • La risorsa Cloud Composer Workflow contiene metriche per i DAG.

    Per mostrare le metriche per un DAG o un'attività specifici, filtra le metriche in base al workflow_name e task_name. Puoi anche filtrare in base ad altre etichette, come lo stato dell'attività o il nome dell'operatore Airflow.

API e gcloud

Puoi creare e gestire dashboard e widget personalizzati tramite l'API Cloud Monitoring e il comando gcloud monitoring dashboards. Per saperne di più, consulta Gestire le dashboard tramite API.

Per ulteriori informazioni su risorse, metriche e filtri, consulta la documentazione di riferimento dell'API Cloud Monitoring:

Utilizzo degli avvisi di Cloud Monitoring

Puoi creare criteri di avviso per monitorare i valori delle metriche e ricevere notifiche quando queste metriche violano una condizione.

  1. Nella console Google Cloud, vai alla pagina  Avvisi:

    Vai ad Avvisi

    Se utilizzi la barra di ricerca per trovare questa pagina, seleziona il risultato con il sottotitolo Monitoring.

  2. Se non hai creato i canali di notifica e vuoi ricevere notifiche, fai clic su Modifica canali di notifica e aggiungi i tuoi canali di notifica. Torna alla pagina Avvisi dopo aver aggiunto i tuoi canali.
  3. Nella pagina Avvisi, seleziona Crea criterio.
  4. Per selezionare la metrica, espandi il menu Seleziona una metrica e poi segui questi passaggi:
    1. Per limitare il menu alle voci pertinenti, inserisci Cloud Composer nella barra dei filtri. Se non vengono visualizzati risultati dopo aver filtrato il menu, disattiva l'opzione Mostra solo risorse e metriche attive.
    2. Per Tipo di risorsa, seleziona Ambiente Cloud Composer o Flusso di lavoro Cloud Composer.
    3. Seleziona una Categoria di metriche e una Metrica, quindi seleziona Applica.
  5. Fai clic su Avanti.
  6. Le impostazioni nella pagina Configura trigger di avviso determinano quando l'avviso viene attivato. Seleziona un tipo di condizione e, se necessario, specifica una soglia. Per ulteriori informazioni, consulta Creare criteri di avviso basati su soglie di metriche.
  7. Fai clic su Avanti.
  8. (Facoltativo) Per aggiungere notifiche al criterio di avviso, fai clic su Canali di notifica. Nella finestra di dialogo, seleziona una o più notifiche canali dal menu, quindi fai clic su OK.
  9. (Facoltativo) Aggiorna la Durata chiusura automatica incidenti. Questo campo determina quando Monitoring chiude gli incidenti in assenza di dati delle metriche.
  10. (Facoltativo) Fai clic su Documentazione, quindi aggiungi le eventuali informazioni da includere in un messaggio di notifica.
  11. Fai clic su Nome avviso e inserisci un nome per il criterio di avviso.
  12. Fai clic su Crea criterio.
Per ulteriori informazioni, consulta Criteri di avviso.

Passaggi successivi