Cloud Data Fusion-Ablaufsteuerung – Übersicht

Ein Flusssteuerungsmechanismus in Cloud Data Fusion verhindert, dass Sie zu viele Anfragen senden, was zu blockierten oder fehlgeschlagenen Pipelineausführungen führen kann. Dieser Mechanismus gilt für Startanfragen (Launch) für die folgenden Pipelines und Jobs in allen Cloud Data Fusion-Versionen ab Version 6.6:

  • Batchpipelines
  • Echtzeitpipelines
  • Replikationsjobs

Grenzwerte

Um die Anzahl der ausstehenden Startanfragen in Cloud Data Fusion zu steuern, basiert die Ablaufsteuerung auf zwei Grenzwerten:

Startschwellenwert
Begrenzt die Anzahl der Startanfragen. Wenn die Anzahl der Startanfragen, die von Cloud Data Fusion empfangen wurden und noch nicht den Status Running haben, den Startgrenzwert überschreitet (Anzahl der Startanfragen, die noch nicht ausgeführt werden > Startgrenzwert), wird die Anfrage abgelehnt. Diese Zahl umfasst Batch-Pipelines, Echtzeit-Pipelines und Replikationsjobs.
Ausführungsschwellenwert
Begrenzt die Anzahl der ausstehenden Startanfragen im System. Wenn die Anzahl der ausstehenden Startanfragen, die von Cloud Data Fusion empfangen wurden und noch nicht abgeschlossen sind, den angegebenen Grenzwert für Ausführungen überschreitet (Anzahl der ausstehenden Anfragen, die noch nicht abgeschlossen sind > Grenzwert für Ausführungen), wird die Anfrage abgelehnt.

Abgelehnte Anfragen

Wenn einer der Grenzwerte erreicht wird, werden alle neuen Startanfragen abgelehnt. Eine abgelehnte Batch-Pipeline hat beispielsweise in den Protokollen den Status Rejected und in einem Dialogfeld in der Benutzeroberfläche wird beschrieben, warum die Einführung abgelehnt wurde.

Messwerte

So rufen Sie über den Messwertdienst die Anzahl der gestarteten und laufenden Pipelines sowie die Anzahl der abgelehnten Pipelines im System ab:

Launching-Messwert

Die Anzahl der Startanfragen im System. Das heißt, es wird die Anzahl der Startanfragen erfasst, die sich im Status Provisioning oder Starting befinden.

Name des Messwerts: flowcontrol.launching.count

POST /v3/metrics/query?metric=system.flowcontrol.launching.count

Running-Messwert

Die Anzahl der laufenden Pipelines und Jobs im System. Der Ausführungsgrenzwert basiert auf der Summe der Messwertwerte Launching und Running.

Name des Messwerts: flowcontrol.running.count

POST /v3/metrics/query?metric=system.flowcontrol.running.count

Rejected-Messwert

Die Anzahl der aufgrund des Ablaufsteuerungsmechanismus abgelehnten Ausführungen.

Name des Messwerts: program.rejected.runs

POST /v3/metrics/query?metric=system.program.rejected.runs

Nächste Schritte

  • Beispiele für das Bereitstellen von Tags und das Aggregieren des Messwerts Rejected für verschiedene Pipelines finden Sie unter CDAP-Messwert-Mikrodienste.