トリガーの使用

このページでは、Cloud Data Fusion パイプラインのトリガーを作成して使用する方法について説明します。ダウンストリーム パイプラインと呼ばれるデータ パイプラインにトリガーを作成し、アップストリーム パイプラインと呼ばれる別のパイプラインの完了時にトリガーを実行します。トリガーを作成するときは、ダウンストリーム パイプラインの実行タイミング(アップストリーム パイプラインの実行の成功、失敗、停止、またはそれらの組み合わせ)を選択します。

トリガーは次のような場合に役立ちます。

  • データをクレンジングして、複数のダウンストリーム パイプラインでデータを使用できるようにします。
  • ランタイム引数やプラグイン構成などの情報をパイプライン間で共有します。これをペイロード構成といいます。
  • 実行ごとに更新する必要のある静的パイプラインの代わりに、時間、日、週、月のデータを使用して実行できる一連の動的パイプラインを備えています。

始める前に

パイプライン スタジオ で、アップストリーム パイプラインとダウンストリーム パイプラインであるパイプラインをデプロイします。

(省略可)アップストリーム パイプラインのランタイム引数を設定します

ペイロード構成をランタイム引数として渡す場合は、アップストリーム パイプラインのランタイム引数を設定します。

  1. [リスト] ページに移動します。[デプロイ済み] タブで、上流パイプラインの名前をクリックします。そのパイプラインの [デプロイ] ビューが表示されます。

  2. [Run] ボタンの右側にある矢印をクリックします。

  3. [+] ボタンをクリックし、ランタイム引数の [キー] と [] を入力します。

  4. [保存] をクリックします。

ダウンストリーム パイプラインで受信トリガーを作成する

ダウンストリーム パイプラインの完了時に実行されるように、ダウンストリーム パイプラインでトリガーを作成します。

  1. [リスト] ページに移動します。[デプロイ済み] タブで、ダウンストリーム パイプラインの名前をクリックします。そのパイプラインの [デプロイ] ビューが表示されます。

  2. ページ中央の中央にある [受信トリガー] をクリックします。使用可能なパイプラインのリストが表示されます。

  3. アップストリーム パイプラインをクリックします。アップストリーム パイプラインの完了状態(SucceedsFailsStops)を 1 つ以上の条件として選択し、ダウンストリーム パイプラインが実行されるようにします。

  4. アップストリーム パイプラインがダウンストリーム パイプラインと情報(ペイロード構成と呼ばれます)を共有する場合は、[Trigger config] をクリックし、ペイロード構成をランタイム引数として渡すの手順に従います。それ以外の場合は、[トリガーを有効にする] をクリックします。

ペイロード構成をランタイム引数として渡す

ペイロード構成を使用すると、アップストリーム パイプラインからダウンストリーム パイプラインに情報を共有できます。この情報には、出力ディレクトリ、データ形式、パイプラインが実行された日付などがあります。この情報はダウンストリーム パイプラインによって使用され、読み取り対象となるデータセットを決定します。

アップストリーム パイプラインからダウンストリーム パイプラインに情報を渡すには、ダウンストリーム パイプラインのランタイム引数を、ランタイム引数またはアップストリーム パイプラインのいずれかのプラグインの構成で設定します。

ダウンストリーム パイプラインが実行(トリガー)されるたびに、ダウンストリーム パイプラインをトリガーしたアップストリーム パイプラインの特定の実行のランタイム引数を使用してペイロード構成が設定されます。

ペイロードの構成をランタイム引数として渡すには:

  1. 受信トリガーの作成セクションで中断したところから再開し、トリガーの構成をクリックすると、アップストリームパイプラインに以前に設定したランタイム引数が表示されます。このトリガーの実行時に、上流パイプラインから下流パイプラインに渡すランタイム引数を選択します。

  2. [プラグイン コンフィグ] タブをクリックすると、トリガーされた時点でアップストリーム パイプラインからダウンストリーム パイプラインに渡されるもののリストが表示されます。

  3. [トリガーを構成して有効にする] をクリックします。

ダウンストリーム パイプライン トリガーをテストする

トリガーをテストするには、次の手順に従います。

  1. [リスト] ページに移動します。[デプロイ済み] タブで、上流パイプラインの名前をクリックします。そのパイプラインの [デプロイ] ビューが表示されます。

  2. [実行] をクリックします。

  3. 上流パイプラインの実行が完了するまで待ちます。[リスト] ビューから、ダウンストリーム パイプラインに移動します。作成したトリガーの結果として、実行中のことを確認します。