Dataplex-Joblogs können angesehen, durchsucht, gefiltert und archiviert werden in Cloud Logging:
Informationen zu den Kosten finden Sie unter Google Cloud Observability – Preise.
Unter Aufbewahrungsdauer von Logs finden Sie Informationen zur Logging-Aufbewahrung.
Unter Ausschlussfilter können Sie alle Logs deaktivieren oder ausschließen. Logs aus Logging.
Unter Übersicht: Routing und Speicher erfahren Sie, wie Sie Logs von Logging an Cloud Storage, BigQuery oder Pub/Sub weiterleiten.
Dataplex-Dienstlogs in Logging aufrufen
Dataplex veröffentlicht die folgenden Dienstlogs in Cloud Logging.
Logtyp | Logname | logName Suchanfrage |
Logbeschreibung |
---|---|---|---|
Datenscan-Ereignisprotokolle | dataplex.googleapis.com/data_scan |
logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_scan) |
Ereignisprotokolle für Datenscanjobs, die Jobstatus, Ergebnisse und Statistiken angeben |
Ergebnisprotokolle der Datenqualitätsscanregel | dataplex.googleapis.com/data_quality_scan_rule_result |
logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_quality_scan_rule_result) |
Ergebnisse von Datenqualitätsscanregeln in einem Datenqualitätsjob |
Erkennungslogs | dataplex.googleapis.com/discovery |
logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fdiscovery) |
Fortschritt bei der Erkennung und Updates von Assets in einer Zone |
Verarbeitungsprotokolle | dataplex.googleapis.com/process |
logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fprocess) |
Jobausführungen, die aus Datenverarbeitungsaufgaben resultieren |
Sie können auf Logging zugreifen, indem Sie die
Log-Explorer in der
Google Cloud Console, der
gcloud logging
-Befehle oder
die Logging API
Ereignisprotokolle zum Datenscan abfragen
Wenn Sie Dataplex verwenden, um einen Datenscan zu erstellen und auszuführen, wird in Logging für den resultierenden Job ein Datenscan-Ereignisprotokoll erstellt.
Console
Rufen Sie in der Google Cloud Console die Seite Logs-Explorer auf.
Suchen Sie in der Ansicht Log-Explorer den Tab Abfrage.
Klicken Sie auf das Menü Ressource.
Wählen Sie Cloud Dataplex DataScan aus. Klicken Sie auf Anwenden.
Klicken Sie auf das Menü Logname.
Geben Sie in das Feld Lognamen suchen Folgendes ein:
dataplex.googleapis.com%2Fdata_scan
Wählen Sie data_scan und Klicken Sie auf Übernehmen.Optional: Filtern Sie die Logs nach einer bestimmten ID oder einem Speicherort für Datenscans, indem Sie der Logabfrage die folgenden Filter hinzufügen:
resource.labels.location="LOCATION" resource.labels.datascan_id="DATA_SCAN_ID"
Klicken Sie auf Abfrage ausführen.
gcloud
Verwenden Sie zum Lesen der Ereignisprotokolleinträge des Datenscans die Methode
gcloud logging read
-Befehl
durch die folgende Abfrage:
gcloud logging read \ 'resource.type="dataplex.googleapis.com/DataScan" AND logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_scan AND resource.labels.location=LOCATION AND resource.labels.datascan_id=DATA_SCAN_ID' --limit 10
REST
Verwenden Sie zum Auflisten von Logeinträgen die Methode
entries.list
-Methode.
Ergebnisprotokolle der Datenqualitätsscanregel abfragen
Wenn Sie Dataplex verwenden, um einen Datenqualitätsscan zu erstellen und auszuführen, wird in Logging für den resultierenden Job ein Ergebnisprotokoll für die Datenqualitätsscanregel erstellt.
Console
Rufen Sie in der Google Cloud Console die Seite Logs-Explorer auf.
Suchen Sie in der Ansicht Log-Explorer den Tab Abfrage.
Klicken Sie auf das Menü Ressource.
Wählen Sie Cloud Dataplex DataScan aus. Klicken Sie auf Anwenden.
Klicken Sie auf das Menü Logname.
Geben Sie in das Feld Lognamen suchen Folgendes ein:
dataplex.googleapis.com%2Fdata_quality_scan_rule_result
Auswählen data_quality_scan_rule_result aus und klicken Sie auf Übernehmen.Optional: Filtern Sie die Logs nach einer bestimmten ID oder einem Speicherort für Datenscans, indem Sie der Logabfrage die folgenden Filter hinzufügen:
resource.labels.location="LOCATION" resource.labels.datascan_id="DATA_SCAN_ID"
Klicken Sie auf Abfrage ausführen.
gcloud
Verwenden Sie zum Lesen der Ergebnisprotokolleinträge der Regeln für Datenqualitätsscans die Methode
gcloud logging read
-Befehl
durch die folgende Abfrage:
gcloud logging read \ 'resource.type="dataplex.googleapis.com/DataScan" AND logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_quality_scan_rule_result AND resource.labels.location=LOCATION AND resource.labels.datascan_id=DATA_SCAN_ID' --limit 10
REST
Verwenden Sie zum Auflisten von Logeinträgen die Methode
entries.list
-Methode.
Discovery-Logs abfragen
Wenn Sie Dataplex zum Erkennen von Daten in Assets verwenden, wird ein Erkennungslog in Logging erstellt.
Console
Rufen Sie in der Google Cloud Console die Seite Logs-Explorer auf.
Suchen Sie in der Ansicht Log-Explorer den Tab Abfrage.
Klicken Sie auf das Menü Ressource.
Wählen Sie Cloud Dataplex-Zone aus. Klicken Sie auf Anwenden.
Klicken Sie auf das Menü Logname.
Geben Sie in das Feld Lognamen suchen Folgendes ein:
dataplex.googleapis.com%2Fdiscovery
Wählen Sie Erkennung und Klicken Sie auf Übernehmen.Optional: Filtern Sie die Logs nach einem bestimmten Asset, indem Sie der Logabfrage die folgenden Filter hinzufügen:
resource.labels.location="LOCATION" resource.labels.lake_id="LAKE_ID" resource.labels.zone_id="ZONE_ID" jsonPayload.assetId="ASSET_ID"
Klicken Sie auf Abfrage ausführen.
gcloud
Verwenden Sie zum Lesen Ihrer Discovery-Logeinträge die Methode
gcloud logging read
-Befehl
durch die folgende Abfrage:
gcloud logging read \ 'resource.type="dataplex.googleapis.com/Zone" AND logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fdiscovery AND resource.labels.location=LOCATION AND resource.labels.lake_id=LAKE_ID AND resource.labels.zone_id=ZONE_ID AND jsonPayload.assetId=ASSET_ID' --limit 10
REST
Verwenden Sie zum Auflisten von Logeinträgen die Methode
entries.list
-Methode.
Prozesslogs abfragen
Wenn Sie Dataplex für Aufgaben planen und ausführen, einem Prozess Log wird in Logging für den resultierenden Job erstellt.
Console
Rufen Sie in der Google Cloud Console die Seite Logs-Explorer auf.
Suchen Sie in der Ansicht Log-Explorer den Tab Abfrage.
Klicken Sie auf das Menü Ressource.
Wählen Sie Cloud Dataplex-Aufgabe aus. Klicken Sie auf Anwenden.
Klicken Sie auf das Menü Logname.
Geben Sie in das Feld Lognamen suchen Folgendes ein:
dataplex.googleapis.com%2Fprocess
Wählen Sie Verarbeiten aus und klicken Sie auf Übernehmen.Optional: Filtern Sie die Logs nach einer bestimmten Aufgabe, indem Sie Folgendes hinzufügen: Filter in der Logabfrage:
resource.labels.location="LOCATION" resource.labels.lake_id="LAKE_ID" resource.labels.task_id="TASK_ID"
Klicken Sie auf Abfrage ausführen.
gcloud
Verwenden Sie zum Lesen Ihrer Prozesslogeinträge die Methode
gcloud logging read
-Befehl
durch die folgende Abfrage:
gcloud logging read \ 'resource.type="dataplex.googleapis.com/Task" AND logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fprocess AND resource.labels.location=LOCATION AND resource.labels.lake_id=LAKE_ID AND resource.labels.task_id=TASK_ID' --limit 10
REST
Verwenden Sie zum Auflisten von Logeinträgen die Methode
entries.list
-Methode.
Nächste Schritte
- Weitere Informationen zu Cloud Logging
- Dataplex-Monitoring