Google Cloud Next Tokyo:7/30、31 東京ビッグサイトにて開催!
移動
Dataform

Dataform

SQL を使用して BigQuery でスケーラブルなデータ変換パイプラインを開発、運用します。

  • BigQuery で、キュレートされた最新かつ信頼性の高い、ドキュメント化されたテーブルを構築する

  • データ アナリストとデータ エンジニアが同じコード リポジトリでコラボレーションできるようにする

  • SQL を使用して BigQuery でスケーラブルなデータ パイプラインを構築する

  • GitHub および GitLab と統合する

  • BigQuery Studio でデータ パイプラインを直接開発する


利点

データ処理アーキテクチャを簡素化する

単一環境から SQL を使用して、BigQuery でスケーラブルなデータ パイプラインを開発、運用化します。データ パイプラインデータ準備機能を使用して BigQuery Studio 内で実行できます。

ソフトウェア開発プラクティスを使用したコラボレーション

Dataform により、データチームは、ソフトウェア エンジニアリングのベスト プラクティス(バージョン管理、環境、テスト、ドキュメントなど)に従って、SQL コードとデータアセットの定義を管理できます。

本番環境レベルの SQL パイプラインを構築する

Dataform により、SQL パイプライン構築の複雑さが解消されます。データ アナリストは、SQL を使用して依存関係の管理、データ品質テストの構成、複雑なパイプラインのオーケストレーションを行うことができます。

主な機能

主な機能

データ変換を管理するためのオープンソースで SQL ベースの言語

Dataform コアを使用すると、データ エンジニアやデータ アナリストは、テーブル定義の作成、依存関係の構成、列の説明の追加、データ品質アサーションの構成を SQL のみを使用して単一のリポジトリで行うことができます。

Dataform コア関数は、既存のコードを変更することなく、段階的に追加して導入できます。

Dataform コアはオープンソースで、ローカルで使用できるため、特定のベンダーに依存することがなく、より高度なユースケースにも柔軟に対応できます。

データ パイプラインのフルマネージド サーバーレス オーケストレーション

Dataform は、テーブル間の依存関係に従って、最新バージョンのコードを使用してテーブルを更新する運用インフラストラクチャを処理します。Dataform が統合されたことで、リネージとデータ情報をシームレスに追跡できるようになります。SQL ワークフローを手動でトリガーすることも、Managed Service for Apache Airflow、Workflows、BigQuery Studio のデータパイプライン、サードパーティのサービスを使用してスケジュールすることもできます。

SQL で開発を行うための多機能なクラウド開発環境

ウェブブラウザから離れることなく、単一のインターフェースからテーブルの定義、リアルタイムのエラー メッセージに関する問題の修正、依存関係の可視化、Git への変更の commit を行い、数分でパイプラインをスケジュールします。

リポジトリを GitHubGitLab などのサードパーティ プロバイダに接続します。変更を commit して、ウェブブラウザからコードレビューを開くか push します。

ドキュメント

ドキュメント

Quickstart

SQL ワークフローを作成して実行する

SQL ワークフローを作成し、Dataform と SQLX を使用して BigQuery で実行する方法を学習します。

Tutorial

コードのバージョン管理を行う

Dataform でバージョン管理を使用して開発状況を管理する方法を学習します。

お探しのものが見つからない場合

料金

料金

Dataform は無料のサービスです。

このプロダクトを使用すると、他のサービスに関連する料金が発生する場合があります。

次のステップ

$300 分の無料クレジットと 20 以上の無料枠プロダクトを活用して、Google Cloud で構築を開始しましょう。

Dataform
  • Google Cloud プロダクト
  • 100 種類を超えるプロダクトをご用意しています。新規のお客様には、ワークロードの実行、テスト、デプロイができる無料クレジット $300 分を差し上げます。また、すべてのお客様に 25 以上のプロダクトを無料でご利用いただけます(毎月の使用量上限があります)。
Google Cloud