Datastream の PostgreSQL ソースと BigQuery の宛先は一般提供されています。 ブログを読む
移動
Datastream

Datastream

サーバーレスで使いやすい変更データ キャプチャおよびレプリケーション サービスです。

  • MySQL、PostgreSQL、AlloyDB、Oracle の各種データベースから低レイテンシのストリーミング データへアクセス

  • BigQuery for Datastream を使用した BigQuery で、ほぼリアルタイムの分析を実現

  • 安全性の高い組み込み接続が利用できる使いやすい設定で、価値創出までの時間を短縮

  • 自動スケーリングに対応したサーバーレス プラットフォーム。プロビジョニングや管理のためのリソースも必要ありません。

  • データベース同期のための安全な基盤とイベント ドリブン アーキテクチャ

利点

最小のレイテンシでデータの複製と同期を行う

ソース パフォーマンスへの影響を最小限に抑えながら、異種データベース、ストレージ システム、およびアプリケーション間でデータを低遅延で確実に同期します。

サーバーレス アーキテクチャをスケールアップまたはスケールダウンできます。

シームレスにスケールアップまたはスケールダウンし、管理が必要なインフラストラクチャがない、サーバーレスで使いやすいサービスを簡単な設定ですぐに始めることができます。

Google Cloud サービスの比類のない柔軟性

BigQueryCloud SpannerDataflow および Data Fusion のような Google Cloud サービスを活用して組織全体のデータを接続して統合します。

主な機能

Datastream の独自のアプローチ

リレーショナル データベースからのストリーミング データ

Datastream は、MySQL、PostgreSQL、AlloyDB、Oracle のデータベースから変更(挿入、更新、削除)をすべて読み取り、配信し、BigQueryCloud SQLCloud StorageCloud Spanner にデータを読み込みます。エージェントレスかつ Google ネイティブであるため、あらゆるイベントを確実にストリーミングできます。Datastream は 1 か月あたり 5,000 億以上のイベントを処理しています。

ソース間での正規化されたデータ型

DataStream は、すべてのイベントデータ型をソース データベース型から統一されたDataStream 型に正規化します。ソース間でのロスレスのデータ型の正規化により、データの取得元に関係なく、ソースに依存しない方法で下流の処理を簡単に行うことができます。

スキーマ ドリフトの解決

ソーススキーマが変化すると、DataStream では高速でシームレスなスキーマ ドリフトを解決できます。DataStream は、スキーマが変更されるたびに、ファイルをローテーションし、転送先バケットに新しいファイルを作成します。元のソースデータ型は、最新のバージョニングされたスキーマ レジストリを使用して API 呼び出しするだけです。

安全性を重視した設計

Datastream は、転送中のデータを保護するための、複数の安全なプライベート接続方法をサポートしています。さらに、データは転送時も保存時も暗号化されるため、ストリーミングされるデータは保護されており安心です。

Just Eat Takeaway のロゴ
Datastream は、さまざまな運用データソースから BigQuery への高品質で調整済みのデータ レプリケーションを実現するのに役立ちました。使いやすく、サーバーレスで、スケーラビリティが高いため、最初のストリームを短期間で設定できます。データの取り込みはデータ プラットフォームの移行の基盤だったため、スピードは当社にとって非常に重要でした。

Just Eat Takeaway、データの取り込み担当リード、Oleksandr Kaleniuk 氏

ドキュメント

Datastream のリソースとドキュメントを検索する

Google Cloud Basics

Datastream の概要

Datastream が、異種データベース、ストレージ システム、アプリケーションの間でデータの複製と同期を行う方法について学びます。
Quickstart

Cloud Console を使用した Datastream のクイックスタート

Google Cloud Console をビジュアル インターフェースとして使用してデータのストリーミングを開始する方法について学びます。
Tutorial

API を使用してデータストリームを構成する

API を使用して、ソース Oracle データベースから Cloud Storage にデータを転送するように Datastream を構成する方法を学びます。
Google Cloud Basics

Oracle から Cloud SQL for PostgreSQL に移行する方法

Google のデータストリームベースのオープンソース ツールキットを使用して、Oracle から Cloud SQL for PostgreSQL に移行します。
Tutorial

Datastream と Dataflow でデータを BigQuery に複製する

Datastream テンプレートと Dataflow テンプレートを組み合わせて、リレーショナル データベースからデータを複製する方法を確認します。
Tutorial

Oracle データベースから BigQuery にデータを複製する方法

この動画では、Datastream と統合されている Data Fusion のレプリケーション アクセラレータを使用して、Oracle から BigQuery にリアルタイムでデータを複製する方法を説明しています。

お探しのものが見つからない場合

ユースケース

継続的な変更データ キャプチャ、発生したすべてのイベントの複製

使用例
ストリームをいつでもリアルタイムで変更可能

変更データ キャプチャは、ソース データベースから変更イベント(挿入、更新、削除)を読み取り、それをデータの移行先に書き込むことでデータを統合して、アクションを実行できるようにします。Datastream は、Oracle データベースや MySQL データベースから BigQuery、Cloud SQL、Cloud Storage、Cloud Spanner への変更ストリームをサポートして、リアルタイム解析やデータベース レプリケーションなどのユースケースに対応します。上記以外のデータベースも移行元と移行先に今後指定できるようになる予定です。

DataStream の図

料金

データストリームの料金の詳細

データストリームの料金は、実際に処理された月間データに基づいて計算されます。料金の詳細については、データストリームの料金ページをご覧ください。

Cloud Storage、Dataflow、BigQuery などの追加リソースは、該当するサービスの料金に応じて課金されます。

パートナー

推奨パートナー

Google Cloud パートナーは、Datastream でデータを最大限に活用できます。


ORACLE® は Oracle Corporation の登録商標です。

次のステップ

$300 分の無料クレジットと 20 以上の Always Free プロダクトを活用して、Google Cloud で構築を開始しましょう。

Google Cloud
  • ‪English‬
  • ‪Deutsch‬
  • ‪Español‬
  • ‪Español (Latinoamérica)‬
  • ‪Français‬
  • ‪Indonesia‬
  • ‪Italiano‬
  • ‪Português (Brasil)‬
  • ‪简体中文‬
  • ‪繁體中文‬
  • ‪日本語‬
  • ‪한국어‬
コンソール
  • Google の透明性の高い料金設定の手法で費用を削減
  • Google Cloud の従量課金制では、毎月の使用量と、リソース料金の前払い割引に基づいて自動的に割引が適用されます。見積もりをご希望の場合は、今すぐお問い合わせください。
Google Cloud