Risoluzione dei problemi dello scheduler Airflow

Cloud Composer 1 | Cloud Composer 2 | Cloud Composer 3

Questa pagina fornisce la procedura di risoluzione dei problemi e informazioni sui problemi comuni degli scheduler di Airflow.

Identificare la fonte del problema

Per iniziare la risoluzione dei problemi, identifica se il problema si verifica al momento dell'analisi del DAG o durante l'elaborazione delle attività al momento dell'esecuzione. Per ulteriori informazioni sul tempo di analisi e di esecuzione, consulta Differenza tra tempo di analisi dei DAG e tempo di esecuzione del DAG.

Ispezione dei log del processore DAG

Se hai DAG complessi, il processore DAG, eseguito dall'elaboratore, potrebbe non analizzare tutti i DAG. Questo potrebbe comportare molti problemi che presenti i seguenti sintomi.

Sintomi:

  • Se il Processore DAG riscontra problemi durante l'analisi dei DAG, potrebbe verificarsi una combinazione dei problemi elencati di seguito. Se i DAG vengono generati in modo dinamico, questi problemi potrebbero avere un impatto maggiore rispetto ai DAG statici.

  • I DAG non sono visibili nell'interfaccia utente di Airflow e nell'interfaccia utente di DAG.

  • L'esecuzione dei DAG non è pianificata.

  • Nei log del processore DAG sono presenti errori, ad esempio:

    dag-processor-manager [2023-04-21 21:10:44,510] {manager.py:1144} ERROR -
Processor for /home/airflow/gcs/dags/dag-example.py with PID 68311 started
at 2023-04-21T21:09:53.772793+00:00 has timed out, killing it.

    o

    dag-processor-manager [2023-04-26 06:18:34,860] {manager.py:948} ERROR -
Processor for /home/airflow/gcs/dags/dag-example.py exited with return
code 1.

  • Gli scheduler di Airflow riscontrano problemi che comportano il riavvio dello scheduler.

  • Le attività Airflow pianificate per l'esecuzione vengono annullate e le esecuzioni dei DAG per i DAG di cui non è stato possibile eseguire l'analisi potrebbero essere contrassegnate come failed. Ad esempio:

    airflow-scheduler Failed to get task '<TaskInstance: dag-example.task1--1
manual__2023-04-17T10:02:03.137439+00:00 [removed]>' for dag
'dag-example'. Marking it as removed.

Soluzione:

  • Aumenta i parametri relativi all'analisi dei DAG:

  • Correggi o rimuovi i DAG che causano problemi al processore DAG.

Ispezione dei tempi di analisi dei DAG

Per verificare se il problema si verifica al momento dell'analisi del DAG, segui questi passaggi.

Console

Nella console Google Cloud puoi utilizzare la pagina Monitoring e la scheda Log per esaminare i tempi di analisi dei DAG.

Controlla i tempi di analisi dei DAG con la pagina Monitoraggio di Cloud Composer:

  1. Nella console Google Cloud, vai alla pagina Ambienti.

    Vai ad Ambienti

  2. Nell'elenco degli ambienti, fai clic sul nome del tuo ambiente. Si apre la pagina Monitoring.

  3. Nella scheda Monitoring, rivedi il tempo di analisi totale per tutti i DAG file nella sezione Esecuzioni DAG e identificano i possibili problemi.

    La sezione Esecuzioni DAG nella scheda Monitoraggio di Composer mostra le metriche di integrità per i DAG nel tuo ambiente

Controlla i tempi di analisi del DAG con la scheda Log di Cloud Composer:

  1. Nella console Google Cloud, vai alla pagina Ambienti.

    Vai ad Ambienti

  2. Nell'elenco degli ambienti, fai clic sul nome del tuo ambiente. Viene visualizzata la pagina Monitoraggio.

  3. Vai alla scheda Log e dalla struttura ad albero di navigazione Tutti i log, seleziona la sezione Gestore processore DAG.

  4. Esamina i log di dag-processor-manager e identifica i possibili problemi.

    I log del processore DAG mostreranno i tempi di analisi del DAG

gcloud

Utilizza il comando dags report per visualizzare il tempo di analisi di tutti i DAG.

gcloud composer environments run ENVIRONMENT_NAME \
    --location LOCATION \
    dags report

Sostituisci:

  • ENVIRONMENT_NAME con il nome dell'ambiente.
  • LOCATION con la regione in cui si trova l'ambiente.

L'output del comando è simile al seguente:

Executing within the following Kubernetes cluster namespace: composer-2-0-31-airflow-2-3-3
file                  | duration       | dag_num | task_num | dags
======================+================+=========+==========+===================
/manydagsbig.py       | 0:00:00.038334 | 2       | 10       | serial-0,serial-0
/airflow_monitoring.py| 0:00:00.001620 | 1       | 1        | airflow_monitoring

Cerca il valore di duration per ciascuno dei rinforzi elencati nella tabella. Un valore elevato potrebbe indicare che uno dei tuoi DAG non è implementato in modo ottimale. Dalla tabella di output, puoi identificare quali DAG molto tempo di analisi.

Monitoraggio delle attività in esecuzione e in coda

Per controllare se ci sono attività bloccate in una coda, segui questi passaggi.

  1. Nella console Google Cloud, vai alla pagina Ambienti.

    Vai ad Ambienti

  2. Nell'elenco degli ambienti, fai clic sul nome dell'ambiente. Si apre la pagina Dettagli ambiente.

  3. Vai alla scheda Monitoring.

  4. Nella scheda Monitoraggio, esamina il grafico Attività Airflow nella sezione Esecuzioni DAG e identifica i possibili problemi. Attività Airflow sono attività in stato in coda in Airflow, possono andare Coda del broker Celery o Kubernetes Executor. Le attività nella coda Celery sono istanze di attività che vengono inserite nella coda dell'intermediario Celery.

Risoluzione dei problemi al momento dell'analisi del DAG

Le sezioni seguenti descrivono i sintomi e le potenziali correzioni di alcuni problemi comuni al momento dell'analisi del DAG.

Numero limitato di thread

Consentire al gestore del processore DAG (la parte dello scheduler che elabora i file DAG) di utilizzare solo un numero limitato di thread potrebbe influire sul tempo di analisi del DAG.

Per risolvere il problema, esegui l'override delle seguenti opzioni di configurazione di Airflow:

  • Per Airflow 1.10.12 e versioni precedenti, sostituisci Parametro max_threads:

    Sezione Chiave Valore Note
    scheduler max_threads NUMBER_OF_CORES_IN_MACHINE - 1 Sostituisci NUMBER_OF_CORES_IN_MACHINE con il numero di core
    nelle macchine dei nodi worker.

  • Per Airflow 1.10.14 e versioni successive, sostituisci il parametro parsing_processes:

    Sezione Chiave Valore Note
    scheduler parsing_processes NUMBER_OF_CORES_IN_MACHINE - 1 Sostituisci NUMBER_OF_CORES_IN_MACHINE con il numero di core
    nelle macchine dei nodi worker.

Numero e distribuzione temporale delle attività

Airflow è noto per avere problemi con la pianificazione di un gran numero di attività di machine learning. In questi casi, ti consigliamo di optare per un numero minore di attività più consolidate.

Anche la pianificazione di un numero elevato di DAG o attività contemporaneamente può essere una la possibile fonte di problemi. Per evitare questo problema, distribuisci le attività in modo più uniforme nel tempo.

Risoluzione dei problemi relativi alle attività in esecuzione e in coda

Le sezioni seguenti descrivono i sintomi e le potenziali correzioni di alcuni problemi comuni relativi alle attività in esecuzione e in coda.

Le code di attività sono troppo lunghe

In alcuni casi, una coda di attività potrebbe essere troppo lunga per lo scheduler. Per informazioni su come ottimizzare i parametri worker e Celery, scopri di più scalare l'ambiente Cloud Composer insieme alla tua azienda.

Utilizzo della funzionalità TimeTable dello scheduler di Airflow

A partire da Airflow 2.2, puoi definire una tabella di tempo per un DAG utilizzando una nuova funzionalità chiamata TimeTable.

Puoi definire una tabella di tempo utilizzando uno dei seguenti metodi:

Risorse cluster limitate

Questa sezione riguarda solo Cloud Composer 1.

Potresti riscontrare problemi di prestazioni se il cluster GKE il tuo ambiente è troppo piccolo per gestire tutti i DAG e le attività. In questo caso, prova una delle seguenti soluzioni:

  • Crea un nuovo ambiente con un tipo di macchina che offre un rendimento migliore e esegui la migrazione dei DAG al suo interno.
  • Crea altri ambienti Cloud Composer e suddividi i DAG tra di loro.
  • Cambia il tipo di macchina per i nodi GKE, come descritto in Upgrade del tipo di macchina per i nodi GKE. Poiché questa procedura è soggetta a errori, è l'opzione meno consigliata.
  • Esegui l'upgrade del tipo di macchina dell'istanza Cloud SQL che esegue il database Airflow nel tuo ambiente, ad esempio utilizzando i comandi gcloud composer environments update. Il rendimento ridotto del database Airflow potrebbe essere la causa della lentezza dello scheduler.

Evita la pianificazione delle attività durante i periodi di manutenzione

Puoi definire periodi di manutenzione specifici per il tuo ambiente. Durante questi periodi di tempo, si verificano eventi di manutenzione per Cloud SQL e GKE.

Fai in modo che lo scheduler Airflow ignori i file non necessari

Puoi migliorare le prestazioni dello scheduler Airflow saltando i dati non necessari dei file nella cartella dei DAG. Lo scheduler Airflow ignora file e cartelle specificato nel file .airflowignore.

Per fare in modo che lo scheduler Airflow ignori i file non necessari:

  1. Crea un file .airflowignore.
  2. In questo file, elenca i file e le cartelle da ignorare.
  3. Carica questo file nella cartella /dags nel bucket del tuo ambiente.

Per ulteriori informazioni sul formato file .airflowignore, vedi Documentazione di Airflow.

Lo scheduler di Airflow elabora i DAG in pausa

Gli utenti di Airflow mettono in pausa i DAG per evitarne l'esecuzione. In questo modo i worker di Airflow di elaborazione dei cicli di elaborazione.

Lo scheduler di Airflow continuerà ad analizzare i DAG in pausa. Se vuoi davvero migliora le prestazioni dello scheduler Airflow, usa .airflowignore o elimina in pausa i DAG dalla cartella dei DAG.

Utilizzo di "wait_for_downstream" nei DAG

Se imposti il parametro wait_for_downstream su True nei DAG, per il completamento di un'attività devono essere completate anche tutte le attività immediatamente a valle di questa attività. Significa che l'esecuzione di attività appartenenti a un determinate esecuzioni dei DAG potrebbero essere rallentate dall'esecuzione di attività dalla precedente Esecuzione di DAG. Scopri di più in la documentazione di Airflow.

Le attività in coda per troppo tempo verranno annullate e riprogrammate

Se un'attività Airflow viene tenuta in coda troppo a lungo, lo scheduler lo riprogramma per l'esecuzione (nelle versioni Airflow precedenti alla 2.3.1, l'attività viene contrassegnata come non riuscita e viene tentata di nuovo se idonea per un nuovo tentativo).

Un modo per osservare i sintomi di questa situazione è osservare il grafico con il numero di attività in coda Scheda ("Monitoring" nella UI di Cloud Composer) e se i picchi in questo grafico non calano entro circa due ore, molto probabilmente le attività verranno riprogrammate (senza log) seguite "Le attività approvate erano ancora in attesa ..." e le voci di log nei log dello scheduler. In questi casi, potresti visualizzare il messaggio "File di log non trovato…" nei log delle attività Airflow perché l'attività non è stata eseguita.

In genere, questo comportamento è previsto e l'istanza successiva dell'attività pianificata deve essere eseguita in base alla pianificazione. Se noti molti di questi casi nei tuoi ambienti Cloud Composer, potrebbe significare che non sono presenti worker Airflow sufficienti per elaborare tutte le attività pianificate.

Risoluzione: per risolvere il problema, devi assicurarti che ci sia sempre capacità nei worker Airflow per eseguire attività in coda. Ad esempio, puoi aumentare il numero worker o worker_concurrency. Puoi anche ottimizzare il parallelismo o i pool evita di accodare le attività oltre la capacità a tua disposizione.

Sporadicamente, attività inattive potrebbero bloccare l'esecuzione di un DAG specifico

In genere, lo scheduler di Airflow dovrebbe essere in grado di gestire le situazioni in cui sono presenti attività non aggiornate nella coda e per qualche motivo non è possibile eseguirle correttamente (ad es. un DAG a cui appartengono le attività non aggiornate è stato eliminato).

Se queste attività inattive non vengono eliminate definitivamente dallo scheduler, potresti dover manualmente. Puoi farlo, ad esempio, nella UI di Airflow. Puoi farlo vai a (Menu &gt; Browser &gt;). istanze di attività), trova le attività in coda appartenenti a un DAG inattivo ed eliminale.

Per risolvere il problema, esegui l'upgrade dell'ambiente alla versione 2.1.12 o successive di Cloud Composer.

Approccio di Cloud Composer al parametro [scheduler]min_file_process_interval

Cloud Composer cambia il modo in cui [scheduler]min_file_process_interval viene utilizzato dallo scheduler di Airflow.

Flusso d'aria 1

Nel caso di Cloud Composer che utilizza Airflow 1, gli utenti possono impostare il valore di [scheduler]min_file_process_interval tra 0 e 600 secondi. Valori superiori a 600 secondi generano gli stessi risultati dell'impostazione di [scheduler]min_file_process_interval su 600 secondi.

Flusso d'aria 2

In Airflow 2, [scheduler]min_file_process_interval può essere utilizzato solo con versioni 1.19.9 e 2.0.26 o più recenti

  • Versioni di Cloud Composer precedenti a 1.19.9 e 2.0.26

    In queste versioni, [scheduler]min_file_process_interval viene ignorato.

  • Versioni Cloud Composer 1.19.9 o 2.0.26 o versioni più recenti

    Lo scheduler Airflow viene riavviato dopo un certo numero di volte tutti i DAG sono pianificati e il parametro [scheduler]num_runs controlla quante volte viene eseguito dallo scheduler. Quando scheduler raggiunge [scheduler]num_runs loop di pianificazione, reboot. Lo scheduler è un componente stateless e il riavvio un meccanismo di riparazione automatica per gli eventuali problemi riscontrati dallo scheduler. Se non specificato, il valore predefinito valore di [scheduler]num_runs che è 5000.

    Puoi utilizzare [scheduler]min_file_process_interval per configurare la frequenza L'analisi del DAG avviene, ma questo parametro non può durare più del tempo richiesto affinché uno scheduler esegua [scheduler]num_runs vengono eseguiti loop durante la pianificazione dei DAG.

Scalabilità della configurazione di Airflow

Airflow offre opzioni di configurazione che controllano quante attività I DAG Airflow possono essere eseguiti contemporaneamente. Per impostare queste opzioni di configurazione, sostitui i relativi valori per il tuo ambiente.

  • Contemporaneità dei worker

    Il parametro [celery]worker_concurrency controlla il numero massimo di attività che un worker Airflow può eseguire contemporaneamente. Se moltiplichi il valore di questo parametro per il numero di worker Airflow nel tuo ambiente Cloud Composer, ottieni il numero massimo di attività che possono essere eseguite in un determinato momento nel tuo ambiente. Questo è limitato dall'opzione di configurazione Airflow [core]parallelism, che viene descritto più dettagliatamente.

    Negli ambienti Cloud Composer 2, il valore predefinito di [celery]worker_concurrency viene calcolato automaticamente

    • Per le versioni Airflow 2.3.3 e successive, è impostato [celery]worker_concurrency a un valore minimo di 32, 12 * worker_CPU e 8 * worker_memory.

    • Per le versioni Airflow 2.2.5 o precedenti, [celery]worker_concurrency è impostato su 12 * numero di worker CPU.

  • Esecuzioni DAG attive massime

    L'opzione di configurazione Airflow [core]max_active_runs_per_dag controlla l'opzione il numero massimo di esecuzioni di DAG attive per DAG. Se raggiunge questo limite, il programmatore non crea altre esecuzioni del DAG.

    Se questo parametro non è impostato correttamente, potresti riscontrare un problema in cui il programmatore riduce la velocità di esecuzione del DAG perché non può creare più istanze di esecuzione del DAG in un determinato momento.

  • Attività attive massime per DAG

    L'opzione di configurazione Airflow [core]max_active_tasks_per_dag controlla numero massimo di istanze di attività che possono essere eseguite contemporaneamente in ogni DAG. Si tratta di un parametro a livello di DAG.

    Se questo parametro non è impostato correttamente, potrebbe verificarsi un problema. in cui l'esecuzione di una singola istanza DAG è lenta perché c'è solo un numero limitato di attività DAG che possono essere eseguite in un determinato momento.

    Soluzione: aumenta [core]max_active_tasks_per_dag.

  • Parallelismo e dimensioni del pool

    L'opzione di configurazione [core]parallelism di Airflow controlla quante attività lo scheduler di Airflow può mettere in coda nella coda dell'executor dopo che tutte le dipendenze per queste attività sono soddisfatte.

    Si tratta di un parametro globale per l'intera configurazione di Airflow.

    Le attività vengono accodate ed eseguite all'interno di un pool. Cloud Composer e utilizzano un solo pool. Le dimensioni di questo pool controllano quante attività possono essere messe in coda dallo scheduler per l'esecuzione in un determinato momento. Se la dimensione del pool è troppo piccola, lo scheduler non può mettere in coda le attività per l'esecuzione anche se le soglie, definite dall'opzione di configurazione [core]parallelism e dall'opzione di configurazione [celery]worker_concurrency moltiplicate per il numero di worker Airflow, non sono ancora soddisfatte.

    Puoi configurare le dimensioni del pool nella UI di Airflow (Menu > Admin > Piscine). Modifica le dimensioni del pool in base al livello di parallelismo previsto nel tuo ambiente.

    Di solito, [core]parallelism è impostato un prodotto del numero massimo di worker e [celery]worker_concurrency.

I DAG non vengono pianificati dallo scheduler a causa di timeout del processore DAG

Per saperne di più su questo problema, consulta Risoluzione dei problemi dei DAG.

Contrassegnare le attività come non riuscite dopo aver raggiunto dagrun_timeout

Lo scheduler contrassegna le attività non completate (in esecuzione, pianificate e in coda) come non riuscite se un'esecuzione del DAG non viene completata entro dagrun_timeout (un parametro DAG).

Soluzione:

Sintomi della pressione di carico del database Airflow

A volte, nei log dello scheduler Airflow potresti vedere la seguente voce di log di avviso:

Scheduler heartbeat got an exception: (_mysql_exceptions.OperationalError) (2006, "Lost connection to MySQL server at 'reading initial communication packet', system error: 0")"

Sintomi simili potrebbero essere osservati anche nei log dei worker di Airflow:

Per MySQL:

(_mysql_exceptions.OperationalError) (2006, "Lost connection to MySQL server at
'reading initial communication packet', system error: 0")"

Per PostgreSQL:

psycopg2.OperationalError: connection to server at ... failed

Questi errori o avvisi potrebbero essere sintomo del fatto che il database Airflow sia sovraccaricato dal numero di connessioni aperte o di query eseguiti nello stesso tempo, da scheduler o da altri componenti Airflow come worker, triggerer e server web.

Possibili soluzioni:

di Gemini Advanced.

Il server web mostra l'avviso "The scheduler does not appear to be running" (Il programmatore non sembra essere in esecuzione)

Lo scheduler registra il proprio heartbeat regolarmente nel database Airflow. In base a queste informazioni, il server web di Airflow determina se il pianificatore è attivo.

A volte, se lo scheduler è sotto carico elevato, potrebbe non essere in grado di registrare il proprio heartbeat ogni [scheduler]scheduler-heartbeat-sec.

In questo caso, il server web Airflow potrebbe mostrare il seguente avviso:

The scheduler does not appear to be running. Last heartbeat was received <X>
seconds ago.

Possibili soluzioni:

Soluzioni per i problemi riscontrati durante il backfill dei DAG

A volte potresti voler eseguire nuovamente i DAG che sono già stati eseguiti. Puoi farlo con lo strumento a riga di comando Airflow nel seguente modo:

Airflow 1

gcloud composer environments run \
  ENVIRONMENT_NAME \
  --location LOCATION \
  backfill -- -B \
  -s START_DATE \
  -e END_DATE \
  DAG_NAME

Per eseguire di nuovo solo le attività non riuscite per un DAG specifico, utilizza anche l'argomento--rerun_failed_tasks.

Flusso d'aria 2

gcloud composer environments run \
  ENVIRONMENT_NAME \
  --location LOCATION \
   dags backfill -- -B \
   -s START_DATE \
   -e END_DATE \
   DAG_NAME

Per eseguire nuovamente solo le attività non riuscite per uno specifico DAG, utilizza anche il metodo --rerun-failed-tasks argomento.

Sostituisci:

  • ENVIRONMENT_NAME con il nome dell'ambiente.
  • LOCATION con la regione in cui si trova l'ambiente.
  • START_DATE con un valore per il parametro DAG start_date, nel formato YYYY-MM-DD.
  • END_DATE con un valore per il parametro DAG end_date, nel formato YYYY-MM-DD.
  • DAG_NAME con il nome del DAG.

L'operazione di backfill a volte può generare una situazione di deadlock in cui il backfill non è possibile perché un'attività è bloccata. Ad esempio:

2022-11-08 21:24:18.198 CET DAG ID Task ID Run ID Try number
2022-11-08 21:24:18.201 CET -------- --------- -------- ------------
2022-11-08 21:24:18.202 CET 2022-11-08 21:24:18.203 CET These tasks are deadlocked:
2022-11-08 21:24:18.203 CET DAG ID Task ID Run ID Try number
2022-11-08 21:24:18.204 CET ----------------------- ----------- ----------------------------------- ------------
2022-11-08 21:24:18.204 CET <DAG name> <Task name> backfill__2022-10-27T00:00:00+00:00 1
2022-11-08 21:24:19.249 CET Command exited with return code 1
...
2022-11-08 21:24:19.348 CET Failed to execute job 627927 for task backfill

In alcuni casi, puoi utilizzare le seguenti soluzioni alternative per superare i deadlock:

  • Disattiva il mini-programmatore sostituendo il valore [core]schedule-after-task-execution con False.

  • Esegui backfill per intervalli di date più ristretti. Ad esempio, imposta START_DATE e END_DATE per specificare un periodo di un solo giorno.

Passaggi successivi