Cloud Composer 3 | Cloud Composer 2 | Cloud Composer 1
Apache Airflow ha un'interfaccia API REST che puoi utilizzare per eseguire attività come recuperare informazioni su esecuzioni e attività DAG, aggiornare i DAG, recuperare la configurazione di Airflow, aggiungere ed eliminare connessioni ed elencare gli utenti.
Per un esempio di utilizzo dell'API REST di Airflow con le funzioni Cloud Run, consulta Attivazione dei DAG con le funzioni Cloud Run.
Versioni dell'API REST Airflow
- Airflow 2 utilizza l'API REST stabile.
- L'API REST sperimentale è deprecata da Airflow.
Configurare l'API REST Airflow stabile
L'API REST stabile è abilitata per impostazione predefinita in Airflow 2. Cloud Composer utilizza il proprio backend di autenticazione API.
L'autorizzazione funziona nel modo standard fornito da Airflow. Quando un nuovo utente si autorizza tramite l'API, il suo account ottiene il ruolo Op
per impostazione predefinita.
Puoi attivare o disattivare l'API REST stabile o modificare il ruolo utente predefinito sostituendo le seguenti opzioni di configurazione di Airflow:
Sezione | Chiave | Valore | Note |
---|---|---|---|
api
|
auth_backends
|
airflow.composer.api.backend.composer_auth
|
Per disattivare l'API REST stabile, passa a
airflow.api.auth.backend.deny_all |
api
|
composer_auth_user_registration_role
|
Op
|
Puoi specificare qualsiasi altro ruolo. |
Consenti le chiamate API all'API REST di Airflow utilizzando il controllo dell'accesso al server web
A seconda del metodo utilizzato per chiamare l'API REST di Airflow, il metodo del chiamante può utilizzare un indirizzo IPv4 o IPv6. Ricordati di sbloccare il traffico IP verso l'API REST Airflow utilizzando il controllo dell'accesso al server web.
Utilizza l'opzione di configurazione predefinita, ovvero All IP addresses have access (default)
, se non sai con certezza da quali indirizzi IP verranno inviate le chiamate all'API REST di Airflow.
Effettuare chiamate all'API REST Airflow
Questa sezione fornisce uno script Python di esempio che puoi utilizzare per attivare i DAG con l'API REST Airflow stabile.
Inserisci i contenuti del seguente esempio in un file denominato
composer2_airflow_rest_api.py
, quindi imposta le seguenti variabili:
dag_id
: nome di un DAG, come definito nel file di origine del DAG.dag_config
: configurazione per l'esecuzione del DAG.web_server_url
: l'URL del server web Airflow. Il formato èhttps://<web-server-id>.composer.googleusercontent.com
.
Accedere all'API REST di Airflow utilizzando un account di servizio
Il database Airflow limita la lunghezza del campo email a 64 caratteri. A volte gli indirizzi email dei service account sono più lunghi di 64 caratteri. Non è possibile creare utenti Airflow per questi account di servizio nel modo consueto. Se non esiste un utente Airflow per un account di questo tipo, l'accesso all'API REST di Airflow genera gli errori HTTP 401 e 403.
Come soluzione alternativa, puoi preregistrare un utente Airflow per un account di servizio. Per farlo, utilizza accounts.google.com:NUMERIC_USER_ID
come nome utente e qualsiasi stringa univoca come indirizzo email.
Per ottenere
NUMERIC_USER_ID
per un account di servizio, esegui:gcloud iam service-accounts describe \ SA_NAME@PROJECT_ID.iam.gserviceaccount.com \ --format="value(oauth2ClientId)"
Sostituisci:
SA_NAME
con il nome dell'account di servizio.PROJECT_ID
con l'ID progetto.
Crea un utente Airflow con il ruolo
Op
per l'account di servizio:UI di Airflow
Vai a Sicurezza > Elenca utenti e fai clic su Aggiungi un nuovo record. L'utente Airflow deve disporre del ruolo
Admin
per aprire questa pagina.Specifica
accounts.google.com:NUMERIC_USER_ID
come nome dell'utente. SostituisciNUMERIC_USER_ID
con l'ID utente ottenuto nel passaggio precedente.Specifica un identificatore univoco come indirizzo email. Puoi utilizzare qualsiasi stringa univoca.
Specifica il ruolo per l'utente. Ad esempio,
Op
.Assicurati che la casella di controllo È attivo? sia selezionata.
Specifica il nome e il cognome dell'utente. Puoi utilizzare qualsiasi stringa.
Fai clic su Salva.
gcloud
Esegui il seguente comando dell'interfaccia a riga di comando Airflow:
gcloud composer environments run ENVIRONMENT_NAME \ --location LOCATION \ users create -- \ -u accounts.google.com:NUMERIC_USER_ID \ -e UNIQUE_ID \ -f UNIQUE_ID \ -l - -r Op --use-random-password
Sostituisci:
ENVIRONMENT_NAME
con il nome dell'ambiente.LOCATION
con la regione in cui si trova l'ambiente.NUMERIC_USER_ID
con l'ID utente ottenuto nel passaggio precedente.UNIQUE_ID
con l'identificatore dell'utente Airflow. Puoi utilizzare qualsiasi stringa univoca.
Dopo aver creato un utente Airflow per un account di servizio, un chiamante autenticato come account di servizio viene riconosciuto come utente preregistrato e ha eseguito l'accesso ad Airflow.
Scalabilità del componente dell'API REST Airflow
L'API REST di Airflow e gli endpoint dell'interfaccia utente di Airflow vengono eseguiti all'interno del server web di Airflow. Se utilizzi l'API REST in modo intensivo, ti consigliamo di aumentare la quantità di CPU e memoria a disposizione del server web Airflow in base al carico previsto.