Datastream の PostgreSQL ソースと BigQuery の宛先は一般提供されています。 ブログを読む
ジャンプ先

Datastream

サーバーレスで使いやすい変更データ キャプチャおよびレプリケーション サービスです。

  • MySQL、PostgreSQL、AlloyDB、Oracle の各種データベースから低レイテンシのストリーミング データへアクセス

  • BigQuery for Datastream を使用した BigQuery で、ほぼリアルタイムの分析を実現

  • 安全性の高い組み込み接続が利用できる使いやすい設定で、価値創出までの時間を短縮

  • 自動スケーリングに対応したサーバーレス プラットフォーム。プロビジョニングや管理のためのリソースも必要ありません。

  • データベース同期のための安全な基盤とイベント ドリブン アーキテクチャ

利点

最小のレイテンシでデータの複製と同期を行う

ソース パフォーマンスへの影響を最小限に抑えながら、異種データベース、ストレージ システム、およびアプリケーション間でデータを低遅延で確実に同期します。

サーバーレス アーキテクチャをスケールアップまたはスケールダウンできます。

シームレスにスケールアップまたはスケールダウンし、管理が必要なインフラストラクチャがない、サーバーレスで使いやすいサービスを簡単な設定ですぐに始めることができます。

Google Cloud サービスの比類のない柔軟性

BigQueryCloud SpannerDataflow および Data Fusion のような Google Cloud サービスを活用して組織全体のデータを接続して統合します。

主な機能

Datastream の独自のアプローチ

リレーショナル データベースからのストリーミング データ

Datastream は、MySQL、PostgreSQL、AlloyDB、Oracle の各種データベースから変更(挿入、更新、削除)をすべて読み取り、配信して、BigQueryCloud SQLCloud StorageCloud Spanner にデータを読み込みます。エージェントレスかつ Google ネイティブであるため、あらゆるイベントを確実にストリーミングできます。

ソース間での正規化されたデータ型

DataStream は、すべてのイベントデータ型をソース データベース型から統一されたDataStream 型に正規化します。ソース間でのロスレスのデータ型の正規化により、データの取得元に関係なく、ソースに依存しない方法で下流の処理を簡単に行うことができます。

スキーマ ドリフトの解決

ソーススキーマが変化すると、DataStream では高速でシームレスなスキーマ ドリフトを解決できます。DataStream は、スキーマが変更されるたびに、ファイルをローテーションし、転送先バケットに新しいファイルを作成します。元のソースデータ型は、最新のバージョニングされたスキーマ レジストリを使用して API 呼び出しするだけです。

安全性を重視した設計

Datastream は、転送中のデータを保護するための、複数の安全なプライベート接続方法をサポートしています。さらに、データは転送時も保存時も暗号化されるため、ストリーミングされるデータは保護されており安心です。

メジャーリーグ ベースボールのロゴ

「アプリケーションをモダナイズするなか、Datastream を使用して、Oracle から Cloud SQL for PostgreSQL にデータを確実に複製することで、アプリケーションのダウンタイムを最小限に抑えています」

MLB、テクノロジー担当マネージャー、Shawn O'Rourke 氏

ブログリンク

最新情報

データストリームに関するニュースとイベント

Google Cloud のニュースレターにご登録いただくと、プロダクトの最新情報、イベント情報、スペシャル オファーなどを受け取ることができます。

ドキュメント

Datastream のリソースとドキュメントを検索する

Google Cloud の基礎
Datastream の概要

Datastream が、異種データベース、ストレージ システム、アプリケーションの間でデータの複製と同期を行う方法について学びます。

クイックスタート
Cloud Console を使用した Datastream のクイックスタート

Google Cloud Console をビジュアル インターフェースとして使用してデータのストリーミングを開始する方法について学びます。

チュートリアル
API を使用してデータストリームを構成する

API を使用して、ソース Oracle データベースから Cloud Storage にデータを転送するように Datastream を構成する方法を学びます。

Google Cloud の基礎
Oracle から Cloud SQL for PostgreSQL に移行する方法

Google のデータストリームベースのオープンソース ツールキットを使用して、Oracle から Cloud SQL for PostgreSQL に移行します。

チュートリアル
Datastream と Dataflow でデータを BigQuery に複製する

Datastream テンプレートと Dataflow テンプレートを組み合わせて、リレーショナル データベースからデータを複製する方法を確認します。

チュートリアル
Oracle データベースから BigQuery にデータを複製する方法

この動画では、Datastream と統合されている Data Fusion のレプリケーション アクセラレータを使用して、Oracle から BigQuery にリアルタイムでデータを複製する方法を説明しています。

ユースケース

継続的な変更データ キャプチャ、発生したすべてのイベントの複製

ユースケース
ストリームをいつでもリアルタイムで変更可能

変更データ キャプチャは、ソース データベースから変更イベント(挿入、更新、削除)を読み取り、それをデータの移行先に書き込むことでデータを統合して、アクションを実行できるようにします。Datastream は、Oracle データベースや MySQL データベースから BigQuery、Cloud SQL、Cloud Storage、Cloud Spanner への変更ストリームをサポートして、リアルタイム解析やデータベース レプリケーションなどのユースケースに対応します。上記以外のデータベースも移行元と移行先に今後指定できるようになる予定です。

DataStream の図

料金

データストリームの料金の詳細

データストリームの料金は、実際に処理された月間データに基づいて計算されます。料金の詳細については、データストリームの料金ページをご覧ください。

Cloud Storage、Dataflow、BigQuery などの追加リソースは、該当するサービスの料金に応じて課金されます。

パートナー

Google Cloud パートナーは、Datastream でデータを最大限に活用できます。