Dataplex-Joblogs können in Cloud Logging angesehen, durchsucht, gefiltert und archiviert werden.
Informationen zu den Kosten finden Sie unter Google Cloud Observability – Preise.
Unter Aufbewahrungsdauer von Logs finden Sie Informationen zur Logging-Aufbewahrung.
Unter Ausschlussfilter finden Sie Informationen dazu, wie Sie alle Logs deaktivieren oder Logs von Logging ausschließen.
Unter Übersicht: Routing und Speicher erfahren Sie, wie Sie Logs von Logging an Cloud Storage, BigQuery oder Pub/Sub weiterleiten.
Dataplex-Dienstlogs in Logging aufrufen
Dataplex veröffentlicht die folgenden Dienstlogs in Cloud Logging.
Logtyp | Logname | logName Suchanfrage |
Logbeschreibung |
---|---|---|---|
Datenscan-Ereignisprotokolle | dataplex.googleapis.com/data_scan |
logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_scan) |
Ereignisprotokolle für Datenscanjobs, die Jobstatus, Ergebnisse und Statistiken angeben |
Ergebnisprotokolle der Datenqualitätsscanregel | dataplex.googleapis.com/data_quality_scan_rule_result |
logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_quality_scan_rule_result) |
Ergebnisse von Datenqualitätsscanregeln in einem Datenqualitätsjob |
Erkennungslogs | dataplex.googleapis.com/discovery |
logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fdiscovery) |
Fortschritt bei der Erkennung und Updates von Assets in einer Zone |
Verarbeitungsprotokolle | dataplex.googleapis.com/process |
logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fprocess) |
Jobausführungen, die aus Datenverarbeitungsaufgaben resultieren |
Sie können auf Logging mit dem Log-Explorer in der Google Cloud Console, den gcloud logging
-Befehlen oder der Logging API zugreifen.
Ereignisprotokolle zum Datenscan abfragen
Wenn Sie Dataplex verwenden, um einen Datenscan zu erstellen und auszuführen, wird in Logging für den resultierenden Job ein Datenscan-Ereignisprotokoll erstellt.
Console
Rufen Sie in der Google Cloud Console die Seite Logs-Explorer auf.
Suchen Sie in der Ansicht Log-Explorer den Tab Abfrage.
Klicken Sie auf das Menü Ressource.
Wählen Sie Cloud Dataplex DataScan aus. Klicken Sie auf Anwenden.
Klicken Sie auf das Menü Logname.
Geben Sie im Feld Lognamen suchen den Wert
dataplex.googleapis.com%2Fdata_scan
ein. Wählen Sie data_scan aus und klicken Sie auf Anwenden.Optional: Filtern Sie die Logs nach einer bestimmten ID oder einem Speicherort für Datenscans, indem Sie der Logabfrage die folgenden Filter hinzufügen:
resource.labels.location="LOCATION" resource.labels.datascan_id="DATA_SCAN_ID"
Klicken Sie auf Abfrage ausführen.
gcloud
Verwenden Sie den Befehl gcloud logging read
mit der folgenden Abfrage, um die Ereignisprotokolleinträge des Datenscans zu lesen:
gcloud logging read \ 'resource.type="dataplex.googleapis.com/DataScan" AND logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_scan AND resource.labels.location=LOCATION AND resource.labels.datascan_id=DATA_SCAN_ID' --limit 10
REST
Verwenden Sie zum Auflisten von Logeinträgen die Methode entries.list
.
Ergebnisprotokolle der Datenqualitätsscanregel abfragen
Wenn Sie Dataplex verwenden, um einen Datenqualitätsscan zu erstellen und auszuführen, wird in Logging für den resultierenden Job ein Ergebnisprotokoll für die Datenqualitätsscanregel erstellt.
Console
Rufen Sie in der Google Cloud Console die Seite Logs-Explorer auf.
Suchen Sie in der Ansicht Log-Explorer den Tab Abfrage.
Klicken Sie auf das Menü Ressource.
Wählen Sie Cloud Dataplex DataScan aus. Klicken Sie auf Anwenden.
Klicken Sie auf das Menü Logname.
Geben Sie im Feld Lognamen suchen den Wert
dataplex.googleapis.com%2Fdata_quality_scan_rule_result
ein. Wählen Sie data_quality_scan_rule_result aus und klicken Sie auf Übernehmen.Optional: Filtern Sie die Logs nach einer bestimmten ID oder einem Speicherort für Datenscans, indem Sie der Logabfrage die folgenden Filter hinzufügen:
resource.labels.location="LOCATION" resource.labels.datascan_id="DATA_SCAN_ID"
Klicken Sie auf Abfrage ausführen.
gcloud
Verwenden Sie den Befehl gcloud logging read
mit der folgenden Abfrage, um die Ergebnisprotokolleinträge der Regeln für Datenqualitätsscans zu lesen:
gcloud logging read \ 'resource.type="dataplex.googleapis.com/DataScan" AND logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_quality_scan_rule_result AND resource.labels.location=LOCATION AND resource.labels.datascan_id=DATA_SCAN_ID' --limit 10
REST
Verwenden Sie zum Auflisten von Logeinträgen die Methode entries.list
.
Discovery-Logs abfragen
Wenn Sie Dataplex verwenden, um Daten in Assets zu erkennen, wird in Logging ein Erkennungslog erstellt.
Console
Rufen Sie in der Google Cloud Console die Seite Logs-Explorer auf.
Suchen Sie in der Ansicht Log-Explorer den Tab Abfrage.
Klicken Sie auf das Menü Ressource.
Wählen Sie Cloud Dataplex-Zone aus. Klicken Sie auf Anwenden.
Klicken Sie auf das Menü Logname.
Geben Sie im Feld Lognamen suchen den Wert
dataplex.googleapis.com%2Fdiscovery
ein. Wählen Sie Erkennung aus und klicken Sie auf Übernehmen.Optional: Filtern Sie die Logs nach einem bestimmten Asset, indem Sie der Logabfrage die folgenden Filter hinzufügen:
resource.labels.location="LOCATION" resource.labels.lake_id="LAKE_ID" resource.labels.zone_id="ZONE_ID" jsonPayload.assetId="ASSET_ID"
Klicken Sie auf Abfrage ausführen.
gcloud
Verwenden Sie den Befehl gcloud logging read
mit der folgenden Abfrage, um Ihre Discovery-Logeinträge zu lesen:
gcloud logging read \ 'resource.type="dataplex.googleapis.com/Zone" AND logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fdiscovery AND resource.labels.location=LOCATION AND resource.labels.lake_id=LAKE_ID AND resource.labels.zone_id=ZONE_ID AND jsonPayload.assetId=ASSET_ID' --limit 10
REST
Verwenden Sie zum Auflisten von Logeinträgen die Methode entries.list
.
Prozesslogs abfragen
Wenn Sie Dataplex verwenden, um Aufgaben zu planen und auszuführen, wird in Logging ein Prozesslog für den resultierenden Job erstellt.
Console
Rufen Sie in der Google Cloud Console die Seite Logs-Explorer auf.
Suchen Sie in der Ansicht Log-Explorer den Tab Abfrage.
Klicken Sie auf das Menü Ressource.
Wählen Sie Cloud Dataplex-Aufgabe aus. Klicken Sie auf Anwenden.
Klicken Sie auf das Menü Logname.
Geben Sie im Feld Lognamen suchen den Wert
dataplex.googleapis.com%2Fprocess
ein. Wählen Sie process aus und klicken Sie auf Apply (Anwenden).Optional: Filtern Sie die Logs nach einer bestimmten Aufgabe, indem Sie der Logabfrage die folgenden Filter hinzufügen:
resource.labels.location="LOCATION" resource.labels.lake_id="LAKE_ID" resource.labels.task_id="TASK_ID"
Klicken Sie auf Abfrage ausführen.
gcloud
Verwenden Sie den Befehl gcloud logging read
mit der folgenden Abfrage, um Ihre Prozesslogeinträge zu lesen:
gcloud logging read \ 'resource.type="dataplex.googleapis.com/Task" AND logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fprocess AND resource.labels.location=LOCATION AND resource.labels.lake_id=LAKE_ID AND resource.labels.task_id=TASK_ID' --limit 10
REST
Verwenden Sie zum Auflisten von Logeinträgen die Methode entries.list
.
Nächste Schritte
- Weitere Informationen zu Cloud Logging
- Dataplex-Monitoring