このドキュメントでは、BigQuery へのクエリの実行前に、Dataform ワークスペースで SQL クエリの出力をプレビューする方法について説明します。
Dataform のクエリのプレビューについて
Dataform コアを使用して SQLX ファイルまたは JavaScript ファイルでクエリを開発すると、Dataform はクエリをリアルタイムで SQL にコンパイルします。コンパイルされた SQL クエリを BigQuery で実行する前に出力をテストするには、Dataform ワークスペースでクエリのプレビューを実行します。
クエリのプレビューを実行すると、Dataform は BigQuery でジョブを実行して、一時的な宛先テーブルでコンパイルされたクエリを実行し、ワークスペースにクエリ結果を表示します。実行をトリガーしてテーブルを BigQuery にパブリッシュする前に、クエリの出力を調べることができます。プレビューされたクエリを含む一時テーブルは、最大 24 時間以内に自動的に削除されます。BigQuery ジョブの詳細については、ジョブを管理するをご覧ください。
Dataform でクエリのプレビューを実行すると、BigQuery で課金が発生します。BigQuery の料金の詳細については、BigQuery の料金をご覧ください。
クエリのプレビュー中、Dataform はユーザーの認証情報を使用して BigQuery でジョブを実行します。ただし、ワークフローの実行中、Dataform はサービス アカウント認証情報を使用して BigQuery でアセットを作成または更新します。
Dataform では、現在のブラウザ セッション中にプレビューされたすべてのクエリの結果が、ワークスペースの [クエリ結果] パネルに表示されます。[クエリ結果] パネルでは、現在のブラウザ セッション中にプレビューされた各クエリに関する次の情報を確認できます。
- ジョブ情報
- BigQuery ジョブ ID
- プレビューを実行しているユーザー
- ジョブが実行されるロケーション(ワークフロー設定ファイルから取得)
- BigQuery ジョブの作成時間、開始時間、終了時間
- BigQuery ジョブの所要時間
- 処理されたバイト数
- BigQuery で課金されるバイト数
- ジョブの優先度
- クエリでレガシー SQL を使用する
- クエリの一時宛先テーブル
- クエリの結果
- クエリ出力の JSON 表現
また、[クエリ結果] パネルで、プレビューされた各クエリのソースファイルに移動し、BigQuery Studio に移動してプレビュー ジョブを表示することもできます。
始める前に
Google Cloud コンソールの [Dataform] ページに移動します。
リポジトリを作成または選択します。
開発ワークスペースを作成または選択します。
SQL クエリを作成します(テーブルを作成など)。
必要なロール
クエリのプレビューに必要な権限を取得するには、プロジェクトに対する次の IAM ロールを付与するよう管理者に依頼してください。
-
Dataform 編集者(
roles/dataform.editor
)- ワークスペース -
BigQuery ジョブユーザー(
roles/bigquery.jobUser
)- プロジェクト
ロールの付与については、プロジェクト、フォルダ、組織へのアクセス権の管理をご覧ください。
必要な権限は、カスタムロールや他の事前定義ロールから取得することもできます。
クエリをプレビューする
実行前に Dataform でクエリ結果を検査するには、ワークスペースでクエリのプレビューを実行します。現在編集中のファイルに複数のクエリが含まれている場合は、プレビューするクエリを選択します。プレビューできるのは一度に 1 つのクエリのみです。
アサーションを含むテーブルの場合、プレビューの実行方法が少し異なります。詳細については、アサーションを使用してテーブルをプレビューするをご覧ください。
SQL クエリをプレビューして、Dataform ワークスペースでクエリ結果を表示する手順は次のとおりです。
- [ファイル] ペインで
definitions/
を開きます。 - SQLX ファイルまたは JavaScript ファイルを選択します。
- [実行] をクリックします。
- ファイルに複数のクエリが含まれている場合は、プルダウンでプレビューするクエリを選択します。
- [クエリ結果] ペインでプレビューの結果を確認します。
- ジョブの詳細を調べるには、[ジョブ情報] タブを選択します。
- クエリ結果を確認するには、[結果] タブを選択します。
- クエリの JSON 出力を表示するには、[JSON] タブを選択します。
- SQL ワークスペースでプレビュー ジョブを表示するには、 [その他] メニュー > [SQL ワークスペースでジョブを表示] をクリックします。
アサーションでテーブルをプレビューする
アサーションを含む SQLX テーブル定義ファイルでは、テーブル作成クエリと定義されたアサーション クエリをプレビューできます。
Dataform は、テーブル定義クエリをデフォルト クエリとして扱います。テーブル作成クエリをプレビューするには、ワークスペースで [実行] をクリックします。アサーション クエリをプレビューするには、[実行] ボタンの横にあるプルダウンで選択する必要があります。プレビューできるのは一度に 1 つのクエリのみです。
Dataform ワークスペースでアサーションを含むテーブル定義ファイルのクエリをプレビューする手順は次のとおりです。
- [ファイル] ペインで
definitions/
を開きます。 - アサーションを含むテーブルの定義ファイルを選択します。
- プレビューを実行。
- テーブル作成クエリをプレビューするには、[実行] をクリックします。
- アサーション クエリをプレビューするには、[実行] の横にあるプルダウン アイコンをクリックし、プレビューするクエリを選択します。
- [クエリ結果] ペインでプレビューの結果を確認します。
- ジョブの詳細を調べるには、[ジョブ情報] タブを選択します。
- クエリ結果を確認するには、[結果] タブを選択します。
- クエリの JSON 出力を表示するには、[JSON] タブを選択します。
- SQL ワークスペースでプレビュー ジョブを表示するには、 [その他] メニュー > [SQL ワークスペースでジョブを表示] をクリックします。
次のステップ
- BigQuery の料金の詳細については、BigQuery の料金をご覧ください。
- Dataform の料金の詳細については、料金をご覧ください。
- Dataform のワークスペースの詳細については、ワークスペースでの開発の概要をご覧ください。
- アサーションを使用してテーブル クエリをテストする方法については、アサーションを使用してテーブルをテストするをご覧ください。