Mit Sammlungen den Überblick behalten Sie können Inhalte basierend auf Ihren Einstellungen speichern und kategorisieren.
Mit Datastream für BigQuery erhalten Sie nahezu in Echtzeit Geschäftsinformationen. Lesen Sie den Blog.
Weiter zu

Datastream für BigQuery Vorschau

Nahtlose Replikation von relationalen Datenbanken direkt in BigQuery, wodurch Informationen nahezu in Echtzeit über operative Daten gewonnen werden.

  • Replikation mit niedriger Latenz, um echtzeitnahe Informationen in BigQuery zu ermöglichen

  • Zugriff auf Streamingdaten aus MySQL-, PostgreSQL-, AlloyDB- und Oracle-Datenbanken

  • Serverlose Plattform, die automatisch skaliert wird, ohne dass Ressourcen bereitgestellt oder verwaltet werden müssen

  • Einfache Einrichtung von ELT-Pipelines (Extrahieren, Laden, Transformieren) mit integrierter sicherer Konnektivität

Vorteile

Betriebsdaten mit minimaler Latenz replizieren

Replizieren Sie Daten aus MySQL-, PostgreSQL-, AlloyDB- und Oracle-Datenbanken direkt in BigQuery mit niedriger Latenz und ohne Auswirkungen auf die Quellleistung.

Mit einer serverlosen Architektur nach oben oder unten skalieren

Beseitigen Sie den operativen Aufwand mit einem serverlosen Ansatz, der automatisch skaliert wird, ohne dass Sie eine Infrastruktur verwalten müssen.

Innerhalb weniger Minuten einsatzbereit

Mit einer vereinfachten Einrichtung können Sie mit wenigen Schritten Daten aus Ihren operativen Datenbanken in BigQuery replizieren.

Wichtige Features

Wichtige Features

Betriebsdaten in BigQuery replizieren

Datastream nutzt die Change Data Capture (CDC)-Funktion von BigQuery und die Storage Write API, um Aktualisierungen nahezu in Echtzeit direkt aus Quellsystemen zu replizieren. Sie benötigen keine Replikationslösungen mehr, die wertvolle Ressourcen für komplexe Datenpipelines, selbstverwaltete Staging-Tabellen, knifflige Zusammenführungslogik oder manuelle Datentypkonvertierung verschwenden.

Vereinfachte Einrichtung

Mit Datastream können Sie in wenigen Schritten Daten in BigQuery replizieren. Konfigurieren Sie dazu einfach die Quelldatenbank, den Verbindungstyp und das Ziel in BigQuery. Datastream für BigQuery fügt Verlaufsdaten per Backfill hinzu und repliziert kontinuierlich neue Änderungen.

Daten aus relationalen Datenbanken streamen

Datastream liest und überträgt mit minimaler Latenz jede Änderung – eingefügt, aktualisiert oder gelöscht – aus Ihren MySQL-, PostgreSQL-, AlloyDB- und Oracle-Datenbanken. Die Quelldatenbank kann lokal in Google Cloud-Diensten wie Cloud SQL oder Bare-Metal-Lösung für Oracle oder an einem anderen Ort in einer Cloud gehostet werden. Ein Dienst ohne Agent und Google-eigener Dienst, der speziell für BigQuery entwickelt wurde, streamt jedes Ereignis zuverlässig. 

Auflösung der Schemadrift

Wenn sich das Quellschema ändert, verarbeitet Datastream Schemaabweichungen und repliziert automatisch neue Spalten und Tabellen, die der Quelle in BigQuery hinzugefügt wurden.

Entwickelt für mehr Sicherheit

Datastream unterstützt mehrere sichere, private Verbindungsmethoden zum Schutz von Daten bei der Übertragung. Außerdem werden ruhende Daten verschlüsselt.

Kunden

Kunden nutzen Datastream und BigQuery, um Informationen in Echtzeit zu erhalten

Anwendungsfälle

Anwendungsfälle

Anwendungsfall
Serverlose Replikation in BigQuery

Datastream liest Änderungsereignisse (Einfügen, Aktualisieren und Löschen) aus Quelldatenbanken und schreibt sie nahezu in Echtzeit in BigQuery-Tabellen. Dadurch können Sie vorhandene BigQuery-Data-Warehouses und ML-Modelle mit Transaktionsdaten wie Einzelhandelsgeschäften anreichern, um ein umfassenderes End-to-End-Bild von Daten zu erhalten. Datastream fügt Verlaufsdaten per Backfill hinzu, repliziert neue Änderungen kontinuierlich und verarbeitet Schemaänderungen nahtlos.

Serverlose Replikation in BigQuery

Features im Vergleich

Optionen zum Streamen von Daten aus Betriebsdatenbanken in BigQuery vergleichen

Datastream für BigQuery

Vollständig verwaltete Lösung zum Replizieren von Daten aus Transaktionsdatenbanken in BigQuery

Datastream und Dataflow

Anpassbare Lösung zum Replizieren von Änderungen in Datenquellen

Datastream und Data Fusion

Assistent ohne Code, der Teil eines vollständig verwalteten ETL-Dienstes ist

Hauptvorteile

  • Einfachste Option zum Replizieren von Betriebsdaten in BigQuery

  • Serverlose Architektur, die automatisch hoch- und herunterskaliert

  • Einzelne Schnittstelle für End-to-End-Sichtbarkeit und Monitoring von Replikationspipelines

  • Anpassbare Lösung mit zusätzlicher Flexibilität

  • Vorgefertigte Vorlagen, die von Google für eine Reihe von Zielen unterstützt werden

  • Einbindung zusätzlicher Features wie Datenqualität und Datenmaskierung

  • Einfache Oberfläche für ETL-Entwickler und Datenanalysten

  • Mögliche Probleme und Lücken bei der Replikation im Voraus erkennen

  • Nahezu Echtzeitinformationen zur Replikationsleistung

Vollständig verwaltete Lösung zum Replizieren von Daten aus Transaktionsdatenbanken in BigQuery

Hauptvorteile

  • Einfachste Option zum Replizieren von Betriebsdaten in BigQuery

  • Serverlose Architektur, die automatisch hoch- und herunterskaliert

  • Einzelne Schnittstelle für End-to-End-Sichtbarkeit und Monitoring von Replikationspipelines

Anpassbare Lösung zum Replizieren von Änderungen in Datenquellen

Hauptvorteile

  • Anpassbare Lösung mit zusätzlicher Flexibilität

  • Vorgefertigte Vorlagen, die von Google für eine Reihe von Zielen unterstützt werden

  • Einbindung zusätzlicher Features wie Datenqualität und Datenmaskierung

Assistent ohne Code, der Teil eines vollständig verwalteten ETL-Dienstes ist

Hauptvorteile

  • Einfache Oberfläche für ETL-Entwickler und Datenanalysten

  • Mögliche Probleme und Replikationslücken im Voraus erkennen

  • Nahezu Echtzeitinformationen zur Replikationsleistung

Daten aus operativen Datenbanken lassen sich auch mit ETL/ELT-Partnerlösungen, Kafka- oder Batchjobs in BigQuery streamen. Im Vergleich zu diesen Optionen bietet Datastream in der Regel die Vorteile einer serverlosen Architektur, eine einfache Einbindung und eine niedrige Latenz.

Preise

Datastream - Preise

Die Preise für Datastream basieren auf den tatsächlich verarbeiteten Daten. Es sind volumenbasierte Preisstufen verfügbar, die es erschwinglicher machen, wenn Sie größere Datenmengen verschieben. Weitere Preisdetails finden Sie auf der Seite „Datastream-Preise“.

Zusätzliche Ressourcen wie BigQuery, Cloud Storage und Dataflow werden nach den Preisen für diese Dienste abgerechnet.