ワークフローの概要

この機能に関するサポートのリクエストやフィードバックは、bigquery-workflows-preview-feedback@google.com までお送りください。

このドキュメントでは、BigQuery のワークフローの概要について説明します。ワークフローを使用して、コードアセットをスケジュールに従って順番に実行できます。

ワークフローは Dataform を使用します。

1 つのワークフローは、次の 1 つまたは複数のコードアセットで構成されます。

指定した時間と頻度で自動的に実行されるように、ワークフローをスケジュールできます。

ワークフローを使用して、コードアセットの実行をスケジュールできます。たとえば、SQL クエリを毎日実行するようにスケジュールし、最新のソースデータでテーブルを更新することで、ダッシュボードを強化できます。

複数のコードアセットを含むワークフローでは、実行する順序を定義します。たとえば、ML モデルをトレーニングするには、SQL クエリでデータを準備し、その後のノートブックでそのデータを使用してモデルをトレーニングするワークフローを作成できます。

ワークフローのスケジュール設定について

各ワークフローのスケジュールは、スケジュールの作成時に選択したカスタム Dataform サービス アカウントによって実行されます。Dataform のサービス アカウントの種類について、詳細は Dataform のサービス アカウントについてをご覧ください。

ワークフローに変更を加えると自動的に保存されますが、その変更内容は、変更したユーザー自身とプロジェクトに対する Dataform 管理者ロールが付与されているユーザーのみが利用できます。新しいバージョンのワークフローでスケジュールを更新するには、ワークフローをデプロイする必要があります。デプロイすると、ワークフローの現在のバージョンを使用するようにスケジュールが更新されます。スケジュールは、常にデプロイされた最新バージョンを実行します。

ノートブックを含むワークフローのスケジュールでは、デフォルトのランタイム仕様が使用されます。スケジュールされたノートブックを含むワークフローの実行中に、BigQuery は、スケジュール作成時に選択した Cloud Storage バケットにノートブック出力を書き込みます。

制限事項

ワークフローには次のような制限があります。

  • 既存のノートブックや SQL クエリをワークフローに追加することはできません。ワークフロー タスクを追加するには、ワークフローに新しいノートブックまたは SQL クエリを作成する必要があります。
  • 選択したワークフローのアクセス権を他のユーザーに付与することはできません。
  • ワークフローは Google Cloud コンソールでのみ使用できます。
  • ワークフローの作成後、ワークフローを保存するリージョンは変更できません。詳細については、コードアセットにデフォルトのリージョンを設定するをご覧ください。

サポートされているリージョン

すべてのコードアセットは、コードアセットのデフォルトのリージョンに保存されます。デフォルトのリージョンを更新すると、それ以降に作成されるすべてのコードアセットのリージョンが変更されます。

次の表に、ワークフローを利用できるリージョンの一覧を示します。

リージョンの説明 リージョン名 詳細
アフリカ
ヨハネスブルグ africa-south1
南北アメリカ
コロンバス us-east5
ダラス us-south1 リーフアイコン 低 CO2
アイオワ us-central1 リーフアイコン 低 CO2
ロサンゼルス us-west2
ラスベガス us-west4
モントリオール northamerica-northeast1 リーフアイコン 低 CO2
北バージニア us-east4
オレゴン us-west1 リーフアイコン 低 CO2
サンパウロ southamerica-east1 リーフアイコン 低 CO2
サウス カロライナ us-east1
アジア太平洋
香港 asia-east2
ジャカルタ asia-southeast2
ムンバイ asia-south1
ソウル asia-northeast3
シンガポール asia-southeast1
シドニー australia-southeast1
台湾 asia-east1
東京 asia-northeast1
ヨーロッパ
ベルギー europe-west1 リーフアイコン 低 CO2
フランクフルト europe-west3 リーフアイコン 低 CO2
ロンドン europe-west2 リーフアイコン 低 CO2
マドリッド europe-southwest1 リーフアイコン 低 CO2
オランダ europe-west4 リーフアイコン 低 CO2
トリノ europe-west12
チューリッヒ europe-west6 リーフアイコン 低 CO2
中東
ドーハ me-central1
ダンマーム me-central2

割り当てと上限

ワークフローは Dataform の割り当てと上限の対象となります。

料金

ワークフロー タスクの実行により、BigQuery でコンピューティングとストレージの料金が発生します。詳細については、BigQuery の料金をご覧ください。

ノートブックを含むワークフローでは、デフォルトのマシンタイプに基づいて Colab Enterprise ランタイムの料金が発生します。料金の詳細については、Colab Enterprise の料金をご覧ください。

BigQuery ワークフローは、実行ごとに Cloud Logging を使用してロギングされます。BigQuery ワークフローの実行では、ロギングが自動的に有効になります。このため、Cloud Logging の料金が発生する場合があります。詳細については、Cloud Logging の料金をご覧ください。

次のステップ