Dataplex-Logs überwachen

Dataplex-Joblogs können in Cloud Logging angesehen, durchsucht, gefiltert und archiviert werden.

Dataplex-Dienstlogs in Logging aufrufen

Dataplex veröffentlicht die folgenden Dienstlogs in Cloud Logging.

Logtyp Logname logName Suchanfrage Logbeschreibung
Datenscan-Ereignisprotokolle dataplex.googleapis.com/data_scan logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_scan) Ereignisprotokolle für Datenscanjobs, die Jobstatus, Ergebnisse und Statistiken angeben
Ergebnisprotokolle der Datenqualitätsscanregel dataplex.googleapis.com/data_quality_scan_rule_result logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_quality_scan_rule_result) Ergebnisse von Datenqualitätsscanregeln in einem Datenqualitätsjob
Erkennungslogs dataplex.googleapis.com/discovery logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fdiscovery) Fortschritt bei der Erkennung und Updates von Assets in einer Zone
Verarbeitungsprotokolle dataplex.googleapis.com/process logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fprocess) Jobausführungen, die aus Datenverarbeitungsaufgaben resultieren

Sie können auf Logging mit dem Log-Explorer in der Google Cloud Console, den gcloud logging-Befehlen oder der Logging API zugreifen.

Ereignisprotokolle zum Datenscan abfragen

Wenn Sie Dataplex verwenden, um einen Datenscan zu erstellen und auszuführen, wird in Logging für den resultierenden Job ein Datenscan-Ereignisprotokoll erstellt.

Console

  1. Rufen Sie in der Google Cloud Console die Seite Logs-Explorer auf.

    Zum Log-Explorer

  2. Suchen Sie in der Ansicht Log-Explorer den Tab Abfrage.

  3. Klicken Sie auf das Menü Ressource.

  4. Wählen Sie Cloud Dataplex DataScan aus. Klicken Sie auf Anwenden.

  5. Klicken Sie auf das Menü Logname.

  6. Geben Sie im Feld Lognamen suchen den Wert dataplex.googleapis.com%2Fdata_scan ein. Wählen Sie data_scan aus und klicken Sie auf Anwenden.

  7. Optional: Filtern Sie die Logs nach einer bestimmten ID oder einem Speicherort für Datenscans, indem Sie der Logabfrage die folgenden Filter hinzufügen:

    resource.labels.location="LOCATION"
    resource.labels.datascan_id="DATA_SCAN_ID"
    
  8. Klicken Sie auf Abfrage ausführen.

gcloud

Verwenden Sie den Befehl gcloud logging read mit der folgenden Abfrage, um die Ereignisprotokolleinträge des Datenscans zu lesen:

gcloud logging read \
    'resource.type="dataplex.googleapis.com/DataScan" AND
    logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_scan AND
    resource.labels.location=LOCATION AND
    resource.labels.datascan_id=DATA_SCAN_ID'
    --limit 10

REST

Verwenden Sie zum Auflisten von Logeinträgen die Methode entries.list.

Ergebnisprotokolle der Datenqualitätsscanregel abfragen

Wenn Sie Dataplex verwenden, um einen Datenqualitätsscan zu erstellen und auszuführen, wird in Logging für den resultierenden Job ein Ergebnisprotokoll für die Datenqualitätsscanregel erstellt.

Console

  1. Rufen Sie in der Google Cloud Console die Seite Logs-Explorer auf.

    Zum Log-Explorer

  2. Suchen Sie in der Ansicht Log-Explorer den Tab Abfrage.

  3. Klicken Sie auf das Menü Ressource.

  4. Wählen Sie Cloud Dataplex DataScan aus. Klicken Sie auf Anwenden.

  5. Klicken Sie auf das Menü Logname.

  6. Geben Sie im Feld Lognamen suchen den Wert dataplex.googleapis.com%2Fdata_quality_scan_rule_result ein. Wählen Sie data_quality_scan_rule_result aus und klicken Sie auf Übernehmen.

  7. Optional: Filtern Sie die Logs nach einer bestimmten ID oder einem Speicherort für Datenscans, indem Sie der Logabfrage die folgenden Filter hinzufügen:

    resource.labels.location="LOCATION"
    resource.labels.datascan_id="DATA_SCAN_ID"
    
  8. Klicken Sie auf Abfrage ausführen.

gcloud

Verwenden Sie den Befehl gcloud logging read mit der folgenden Abfrage, um die Ergebnisprotokolleinträge der Regeln für Datenqualitätsscans zu lesen:

gcloud logging read \
    'resource.type="dataplex.googleapis.com/DataScan" AND
    logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_quality_scan_rule_result AND
    resource.labels.location=LOCATION AND
    resource.labels.datascan_id=DATA_SCAN_ID'
    --limit 10

REST

Verwenden Sie zum Auflisten von Logeinträgen die Methode entries.list.

Discovery-Logs abfragen

Wenn Sie Dataplex verwenden, um Daten in Assets zu erkennen, wird in Logging ein Erkennungslog erstellt.

Console

  1. Rufen Sie in der Google Cloud Console die Seite Logs-Explorer auf.

    Zum Log-Explorer

  2. Suchen Sie in der Ansicht Log-Explorer den Tab Abfrage.

  3. Klicken Sie auf das Menü Ressource.

  4. Wählen Sie Cloud Dataplex-Zone aus. Klicken Sie auf Anwenden.

  5. Klicken Sie auf das Menü Logname.

  6. Geben Sie im Feld Lognamen suchen den Wert dataplex.googleapis.com%2Fdiscovery ein. Wählen Sie Erkennung aus und klicken Sie auf Übernehmen.

  7. Optional: Filtern Sie die Logs nach einem bestimmten Asset, indem Sie der Logabfrage die folgenden Filter hinzufügen:

    resource.labels.location="LOCATION"
    resource.labels.lake_id="LAKE_ID"
    resource.labels.zone_id="ZONE_ID"
    jsonPayload.assetId="ASSET_ID"
    
  8. Klicken Sie auf Abfrage ausführen.

gcloud

Verwenden Sie den Befehl gcloud logging read mit der folgenden Abfrage, um Ihre Discovery-Logeinträge zu lesen:

gcloud logging read \
    'resource.type="dataplex.googleapis.com/Zone" AND
    logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fdiscovery AND
    resource.labels.location=LOCATION AND
    resource.labels.lake_id=LAKE_ID AND
    resource.labels.zone_id=ZONE_ID AND
    jsonPayload.assetId=ASSET_ID'
    --limit 10

REST

Verwenden Sie zum Auflisten von Logeinträgen die Methode entries.list.

Prozesslogs abfragen

Wenn Sie Dataplex verwenden, um Aufgaben zu planen und auszuführen, wird in Logging ein Prozesslog für den resultierenden Job erstellt.

Console

  1. Rufen Sie in der Google Cloud Console die Seite Logs-Explorer auf.

    Zum Log-Explorer

  2. Suchen Sie in der Ansicht Log-Explorer den Tab Abfrage.

  3. Klicken Sie auf das Menü Ressource.

  4. Wählen Sie Cloud Dataplex-Aufgabe aus. Klicken Sie auf Anwenden.

  5. Klicken Sie auf das Menü Logname.

  6. Geben Sie im Feld Lognamen suchen den Wert dataplex.googleapis.com%2Fprocess ein. Wählen Sie process aus und klicken Sie auf Apply (Anwenden).

  7. Optional: Filtern Sie die Logs nach einer bestimmten Aufgabe, indem Sie der Logabfrage die folgenden Filter hinzufügen:

    resource.labels.location="LOCATION"
    resource.labels.lake_id="LAKE_ID"
    resource.labels.task_id="TASK_ID"
    
  8. Klicken Sie auf Abfrage ausführen.

gcloud

Verwenden Sie den Befehl gcloud logging read mit der folgenden Abfrage, um Ihre Prozesslogeinträge zu lesen:

gcloud logging read \
    'resource.type="dataplex.googleapis.com/Task" AND
    logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fprocess AND
    resource.labels.location=LOCATION AND
    resource.labels.lake_id=LAKE_ID AND
    resource.labels.task_id=TASK_ID'
    --limit 10

REST

Verwenden Sie zum Auflisten von Logeinträgen die Methode entries.list.

Nächste Schritte