Cloud Composer 1 | Cloud Composer 2 | Cloud Composer 3
Auf dieser Seite wird erläutert, wie Sie Informationen zu DAGs in Ihrer Umgebung abrufen.
Möglichkeiten zum Anzeigen von Informationen zu DAGs
Cloud Composer bietet mehrere Möglichkeiten, detaillierte Informationen zu DAGs in Ihrer Umgebung abzurufen:
- Die DAG-Benutzeroberfläche ist ein Bereich der Google Cloud Console-Oberfläche für Cloud Composer, in dem DAGs, DAG-Ausführungen und einzelne Aufgaben angezeigt und überwacht werden können.
- Die Airflow-Benutzeroberfläche ist die integrierte Weboberfläche von Airflow.
- Die Airflow-Befehlszeile ist die Befehlszeile von Airflow. Informationen zu DAGs erhalten Sie, indem Sie Airflow-Befehlszeilenbefehle mit
gcloudausführen.
Cloud Composer DAG-Benutzeroberfläche
Die DAG-Benutzeroberfläche ist ein Bereich der Google Cloud Console-Oberfläche für Cloud Composer, in dem DAGs, DAG-Ausführungen und einzelne Aufgaben angezeigt und überwacht werden können.
In der DAG-Benutzeroberfläche haben Sie folgende Möglichkeiten:
Liste der DAGs in Ihrer Umgebung mit Zeitplanintervallen, DAG-Status und Beschreibungen aufrufen
Sie können DAGs pausieren, die Pausierung aufheben und auslösen.
Details zu DAG-Ausführungen aufrufen, einschließlich erfolgreicher, aktiver und fehlgeschlagener Ausführungen sowie Zeit seit der letzten abgeschlossenen Ausführung Für jeden DAG können Sie den Verlauf des DAG aufrufen. Ausführungen und Aufgabeninstanzen, die mit diesem DAG verknüpft sind, einschließlich Logs für ausgeführte Aufgaben.
Filtern Sie die Details zur DAG-Ausführung. Sie können beispielsweise ein Zeitintervall auswählen und Abfragen erstellen, um die benötigten Informationen auszuwählen.
Hier finden Sie detaillierte Informationen zu einzelnen DAGs und Aufgaben. Dazu gehören visualisierte DAG-Diagramme, Informationen zu den Aufgaben in einem DAG, DAG Quellcode und zusätzliche Informationen zu DAGs.
Hinweise
Ihr Konto muss eine Rolle haben, mit der Sie auf die DAG-Benutzeroberfläche zugreifen und sich DAG-Details ansehen können. Weitere Informationen finden Sie unter Zugriffssteuerung.
Für die DAG-UI ist die aktivierte DAG-Serialisierung erforderlich.
Die DAG-UI wird in Cloud Composer 1.17.8 und höher unterstützt Versionen.
Liste der DAGs für Ihre Umgebung aufrufen
Console
Auf dem Tab DAGs Ihrer Umgebung werden die Liste der DAGs zusammen mit dem DAG angezeigt. Ausführungsdetails für jeden DAG.
So rufen Sie die Liste der DAGs auf:
Rufen Sie in der Google Cloud Console die Seite Umgebungen auf.
Klicken Sie in der Spalte DAG-Liste auf den Link DAGs für Ihre Umgebung.
Mithilfe von Filtern können Sie die Details nur für bestimmte DAGs oder für bestimmte Bedingungen anzeigen lassen. Beispiel:
- Wählen Sie das Feld Filter aus.
- Wählen Sie in der Drop-down-Liste die Property DAG-ID aus.
- Geben Sie die ID des DAG an. Die Ergebnisse enthalten nur Details zu ausgewählten DAG.
- Optional: Wenn Sie weitere DAGs einbeziehen möchten, fügen Sie
OR-Operatoren gefolgt von DAG-IDs hinzu. - Optional: Um nach anderen Bedingungen zu filtern, fügen Sie weitere Eigenschaften hinzu in
Das Feld Filter Wenn Sie beispielsweise nach DAGs mit fehlgeschlagenen Ausführungen filtern möchten, geben Sie
Failed runs:>0an.
Airflow-UI
So rufen Sie die Liste der DAGs in der Airflow-Weboberfläche auf:
Rufen Sie in der Google Cloud Console die Seite Umgebungen auf.
Klicken Sie in der Spalte Airflow-Webserver auf den Link Airflow für Ihre Umgebung.
Melden Sie sich mit einem Google-Konto an, das über die entsprechenden Berechtigungen verfügt.
Auf der Seite DAGs der Airflow-Weboberfläche wird eine Liste der DAGs für Ihre Umgebung angezeigt.
gcloud
Führen Sie in Airflow 1.10.* den Befehl list_dags der Airflow-Befehlszeile aus:
gcloud composer environments run ENVIRONMENT_NAME \
--location LOCATION \
list_dags
Führen Sie in Airflow 2 den Befehl dags list der Airflow-Befehlszeile aus:
gcloud composer environments run ENVIRONMENT_NAME \
--location LOCATION \
dags list -- -o plain
Ersetzen Sie:
ENVIRONMENT_NAMEdurch den Namen der Umgebung.LOCATIONdurch die Region, in der sich die Umgebung befindet.
Verlauf von DAG-Ausführungen und Aufgaben ansehen
Console
Auf der Seite DAG-Details finden Sie auf dem Tab Ausführungen den Verlauf der DAG-Ausführungen. für einen einzelnen DAG.
So rufen Sie den Verlauf von DAG-Ausführungen auf:
Rufen Sie in der Google Cloud Console die Seite Umgebungen auf.
Klicken Sie in der Spalte DAG-Liste auf den Link DAGs für Ihre Umgebung.
Wählen Sie einen DAG aus.
Wechseln Sie auf der Seite DAG-Details zum Tab Ausführungen.
Wählen Sie eine DAG-Ausführung aus der Liste aus, um die Details der DAG-Ausführung aufzurufen, z. B. Status der Aufgabeninstanzen für diese DAG-Ausführung, die Anzahl der Versuche und die Ausführungsdauer. Sie können einzelne Aufgaben auswählen, um Protokolle für Aufgabeninstanzen aufzurufen.
Airflow-UI
So rufen Sie die Liste der DAGs in der Airflow-Weboberfläche auf:
Rufen Sie in der Google Cloud Console die Seite Umgebungen auf.
Klicken Sie in der Spalte Airflow-Webserver auf den Link Airflow für Ihre Umgebung.
Melden Sie sich mit einem Google-Konto an, das über die entsprechenden Berechtigungen verfügt.
Wählen Sie in der Airflow-Weboberfläche im Menü Suchen > DAG-Ausführungen aus. Die Seite DAG-Ausführungen wird angezeigt. DAG wird für Ihre Umgebung ausgeführt. Sie können dem Link in der Run ID (Ausführungs-ID) um zusätzliche Informationen zu Aufgaben zu erhalten.
gcloud
Führen Sie in Airflow 1.10.* den Befehl list_dag_runs der Airflow-Befehlszeile aus:
gcloud composer environments run ENVIRONMENT_NAME \
--location LOCATION \
list_dag_runs -- DAG_ID
Führen Sie in Airflow 2 den Befehl dags list-runs der Airflow-Befehlszeile aus:
gcloud composer environments run ENVIRONMENT_NAME \
--location LOCATION \
dags list-runs -- -d DAG_ID
Ersetzen Sie:
ENVIRONMENT_NAMEdurch den Namen der Umgebung.LOCATIONdurch die Region, in der sich die Umgebung befindet.DAG_IDdurch den Namen des DAG.
Mit den Airflow-Befehlszeilen tasks state und tasks states-for-dag-run können Sie zusätzliche Informationen zu Aufgabeninstanzen abrufen.
Weitere Informationen finden Sie unter Auf die Airflow-Befehlszeile zugreifen und in der Airflow-Befehlszeilenreferenz für Airflow 1 und Airflow 2.
DAG-Diagramme ansehen
Console
Auf dem Tab Diagramm auf der Seite DAG-Details wird die Visualisierung eines DAG mit Aufgabenabhängigkeiten
So rufen Sie das Diagramm eines DAG auf:
Rufen Sie in der Google Cloud Console die Seite Umgebungen auf.
Klicken Sie in der Spalte DAG-Liste auf den Link DAGs für Ihre Umgebung.
Wählen Sie einen DAG aus.
Wechseln Sie auf der Seite DAG-Details zum Tab Diagramm.
Optional: Wenn Sie zusätzliche Informationen zu Aufgaben sehen möchten, wählen Sie einzelne Aufgaben im Diagramm aus.
Airflow-UI
So rufen Sie das Diagramm eines DAG in der Airflow-Weboberfläche auf:
Rufen Sie in der Google Cloud Console die Seite Umgebungen auf.
Klicken Sie in der Spalte Airflow-Webserver auf den Link Airflow für Ihre Umgebung.
Melden Sie sich mit einem Google-Konto an, das über die entsprechenden Berechtigungen verfügt.
Auf der Airflow-Weboberfläche wird auf der Seite DAGs eine Liste der DAGs für Ihre Umgebung angezeigt wird.
Klicken Sie für Ihren DAG in der Spalte Links auf den Link Grafikansicht.
DAG-Quellcode und weitere Informationen zu DAGs aufrufen
Console
Sie können den Quellcode Ihrer DAGs und zusätzliche Informationen wie DAG-IDs und Links zu DAG-Definitionsdateien im Bucket der Umgebung aufrufen.
Rufen Sie in der Google Cloud Console die Seite Umgebungen auf.
Klicken Sie in der Spalte DAG-Liste auf den Link DAGs für Ihre Umgebung.
Wählen Sie einen DAG aus.
Den DAG-Quellcode finden Sie auf dem Tab Diagramm.
Weitere Informationen zum DAG finden Sie auf dem Tab Quelle.
Airflow-UI
So rufen Sie das Diagramm eines DAG in der Airflow-Weboberfläche auf:
Rufen Sie in der Google Cloud Console die Seite Umgebungen auf.
Klicken Sie in der Spalte Airflow-Webserver auf den Link Airflow für Ihre Umgebung.
Melden Sie sich mit einem Google-Konto an, das über die entsprechenden Berechtigungen verfügt.
Klicken Sie in der Airflow-Weboberfläche auf der Seite DAGs auf den Namen Ihres DAG.
Gehen Sie auf der Seite mit den DAG-Details zu den verfügbaren Tabs, die Sie ansehen möchten Informationen zum DAG.