Dataplex-Logs überwachen

Dataplex-Joblogs können angesehen, durchsucht, gefiltert und archiviert werden in Cloud Logging:

Dataplex-Dienstlogs in Logging aufrufen

Dataplex veröffentlicht die folgenden Dienstlogs in Cloud Logging.

Logtyp Logname logName Suchanfrage Logbeschreibung
Datenscan-Ereignisprotokolle dataplex.googleapis.com/data_scan logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_scan) Ereignisprotokolle für Datenscanjobs, die Jobstatus, Ergebnisse und Statistiken angeben
Ergebnisprotokolle der Datenqualitätsscanregel dataplex.googleapis.com/data_quality_scan_rule_result logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_quality_scan_rule_result) Ergebnisse von Datenqualitätsscanregeln in einem Datenqualitätsjob
Erkennungslogs dataplex.googleapis.com/discovery logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fdiscovery) Fortschritt bei der Erkennung und Updates von Assets in einer Zone
Verarbeitungsprotokolle dataplex.googleapis.com/process logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fprocess) Jobausführungen, die aus Datenverarbeitungsaufgaben resultieren

Sie können auf Logging zugreifen, indem Sie die Log-Explorer in der Google Cloud Console, der gcloud logging-Befehle oder die Logging API

Ereignisprotokolle zum Datenscan abfragen

Wenn Sie Dataplex verwenden, um einen Datenscan zu erstellen und auszuführen, wird in Logging für den resultierenden Job ein Datenscan-Ereignisprotokoll erstellt.

Console

  1. Rufen Sie in der Google Cloud Console die Seite Logs-Explorer auf.

    Zum Log-Explorer

  2. Suchen Sie in der Ansicht Log-Explorer den Tab Abfrage.

  3. Klicken Sie auf das Menü Ressource.

  4. Wählen Sie Cloud Dataplex DataScan aus. Klicken Sie auf Anwenden.

  5. Klicken Sie auf das Menü Logname.

  6. Geben Sie in das Feld Lognamen suchen Folgendes ein: dataplex.googleapis.com%2Fdata_scan Wählen Sie data_scan und Klicken Sie auf Übernehmen.

  7. Optional: Filtern Sie die Logs nach einer bestimmten ID oder einem Speicherort für Datenscans, indem Sie der Logabfrage die folgenden Filter hinzufügen:

    resource.labels.location="LOCATION"
    resource.labels.datascan_id="DATA_SCAN_ID"
    
  8. Klicken Sie auf Abfrage ausführen.

gcloud

Verwenden Sie zum Lesen der Ereignisprotokolleinträge des Datenscans die Methode gcloud logging read-Befehl durch die folgende Abfrage:

gcloud logging read \
    'resource.type="dataplex.googleapis.com/DataScan" AND
    logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_scan AND
    resource.labels.location=LOCATION AND
    resource.labels.datascan_id=DATA_SCAN_ID'
    --limit 10

REST

Verwenden Sie zum Auflisten von Logeinträgen die Methode entries.list-Methode.

Ergebnisprotokolle der Datenqualitätsscanregel abfragen

Wenn Sie Dataplex verwenden, um einen Datenqualitätsscan zu erstellen und auszuführen, wird in Logging für den resultierenden Job ein Ergebnisprotokoll für die Datenqualitätsscanregel erstellt.

Console

  1. Rufen Sie in der Google Cloud Console die Seite Logs-Explorer auf.

    Zum Log-Explorer

  2. Suchen Sie in der Ansicht Log-Explorer den Tab Abfrage.

  3. Klicken Sie auf das Menü Ressource.

  4. Wählen Sie Cloud Dataplex DataScan aus. Klicken Sie auf Anwenden.

  5. Klicken Sie auf das Menü Logname.

  6. Geben Sie in das Feld Lognamen suchen Folgendes ein: dataplex.googleapis.com%2Fdata_quality_scan_rule_result Auswählen data_quality_scan_rule_result aus und klicken Sie auf Übernehmen.

  7. Optional: Filtern Sie die Logs nach einer bestimmten ID oder einem Speicherort für Datenscans, indem Sie der Logabfrage die folgenden Filter hinzufügen:

    resource.labels.location="LOCATION"
    resource.labels.datascan_id="DATA_SCAN_ID"
    
  8. Klicken Sie auf Abfrage ausführen.

gcloud

Verwenden Sie zum Lesen der Ergebnisprotokolleinträge der Regeln für Datenqualitätsscans die Methode gcloud logging read-Befehl durch die folgende Abfrage:

gcloud logging read \
    'resource.type="dataplex.googleapis.com/DataScan" AND
    logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_quality_scan_rule_result AND
    resource.labels.location=LOCATION AND
    resource.labels.datascan_id=DATA_SCAN_ID'
    --limit 10

REST

Verwenden Sie zum Auflisten von Logeinträgen die Methode entries.list-Methode.

Discovery-Logs abfragen

Wenn Sie Dataplex zum Erkennen von Daten in Assets verwenden, wird ein Erkennungslog in Logging erstellt.

Console

  1. Rufen Sie in der Google Cloud Console die Seite Logs-Explorer auf.

    Zum Log-Explorer

  2. Suchen Sie in der Ansicht Log-Explorer den Tab Abfrage.

  3. Klicken Sie auf das Menü Ressource.

  4. Wählen Sie Cloud Dataplex-Zone aus. Klicken Sie auf Anwenden.

  5. Klicken Sie auf das Menü Logname.

  6. Geben Sie in das Feld Lognamen suchen Folgendes ein: dataplex.googleapis.com%2Fdiscovery Wählen Sie Erkennung und Klicken Sie auf Übernehmen.

  7. Optional: Filtern Sie die Logs nach einem bestimmten Asset, indem Sie der Logabfrage die folgenden Filter hinzufügen:

    resource.labels.location="LOCATION"
    resource.labels.lake_id="LAKE_ID"
    resource.labels.zone_id="ZONE_ID"
    jsonPayload.assetId="ASSET_ID"
    
  8. Klicken Sie auf Abfrage ausführen.

gcloud

Verwenden Sie zum Lesen Ihrer Discovery-Logeinträge die Methode gcloud logging read-Befehl durch die folgende Abfrage:

gcloud logging read \
    'resource.type="dataplex.googleapis.com/Zone" AND
    logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fdiscovery AND
    resource.labels.location=LOCATION AND
    resource.labels.lake_id=LAKE_ID AND
    resource.labels.zone_id=ZONE_ID AND
    jsonPayload.assetId=ASSET_ID'
    --limit 10

REST

Verwenden Sie zum Auflisten von Logeinträgen die Methode entries.list-Methode.

Prozesslogs abfragen

Wenn Sie Dataplex für Aufgaben planen und ausführen, einem Prozess Log wird in Logging für den resultierenden Job erstellt.

Console

  1. Rufen Sie in der Google Cloud Console die Seite Logs-Explorer auf.

    Zum Log-Explorer

  2. Suchen Sie in der Ansicht Log-Explorer den Tab Abfrage.

  3. Klicken Sie auf das Menü Ressource.

  4. Wählen Sie Cloud Dataplex-Aufgabe aus. Klicken Sie auf Anwenden.

  5. Klicken Sie auf das Menü Logname.

  6. Geben Sie in das Feld Lognamen suchen Folgendes ein: dataplex.googleapis.com%2Fprocess Wählen Sie Verarbeiten aus und klicken Sie auf Übernehmen.

  7. Optional: Filtern Sie die Logs nach einer bestimmten Aufgabe, indem Sie Folgendes hinzufügen: Filter in der Logabfrage:

    resource.labels.location="LOCATION"
    resource.labels.lake_id="LAKE_ID"
    resource.labels.task_id="TASK_ID"
    
  8. Klicken Sie auf Abfrage ausführen.

gcloud

Verwenden Sie zum Lesen Ihrer Prozesslogeinträge die Methode gcloud logging read-Befehl durch die folgende Abfrage:

gcloud logging read \
    'resource.type="dataplex.googleapis.com/Task" AND
    logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fprocess AND
    resource.labels.location=LOCATION AND
    resource.labels.lake_id=LAKE_ID AND
    resource.labels.task_id=TASK_ID'
    --limit 10

REST

Verwenden Sie zum Auflisten von Logeinträgen die Methode entries.list-Methode.

Nächste Schritte