Diese Seite wurde von der Cloud Translation API übersetzt.

Quelle konfigurieren

MySQL | PostgreSQL | PostgreSQL zu AlloyDB

Übersicht

Der Database Migration Service unterstützt kontinuierliche Migrationen von Quelldatenbanken zu AlloyDB-Zieldatenbanken.

Zu den unterstützten Quelldatenbanken für PostgreSQL gehören:

Amazon RDS 9.6.10+, 10.5+, 11.1+, 12, 13, 14, 15
Amazon Aurora 10.11 und höher, 11.6 und höher, 12.4 und höher sowie 13.3 und höher, 14, 15
Selbstverwaltetes PostgreSQL (lokal oder auf einer beliebigen von Ihnen verwalteten Cloud-VM) 9.4, 9.5, 9.6, 10, 11, 12, 13, 14, 15
Cloud SQL 9.6, 10, 11, 12, 13, 14, 15

Zum Konfigurieren Ihrer Quelle müssen Sie sowohl die Quellinstanz als auch die zugrunde liegenden Quelldatenbanken konfigurieren.

Quellinstanz konfigurieren

So konfigurieren Sie Ihre Quellinstanz:

Die Quellinstanz muss die postgres-Datenbank enthalten. Wenn Sie diese Datenbank noch nicht haben, erstellen Sie sie.
Installieren Sie das pglogical-Paket auf der Quellinstanz und achten Sie darauf, dass es in der Variablen shared_preload_libraries enthalten ist.
1. Weitere Informationen für Ihre Umgebung finden Sie unter pglogical-Paket auf der Quellinstanz installieren.

Quelldatenbanken konfigurieren

Der Database Migration Service migriert alle Datenbanken unter Ihrer Quellinstanz außer den folgenden Datenbanken:

Für lokale Quellen: Vorlagendatenbanken template0 und template1
Für Amazon RDS-Quellen: template0, template1 und rdsadmin
Für Cloud SQL-Quellen: Vorlagendatenbanken template0 und template1

Führen Sie in jeder Datenbank der Quellinstanz, die oben nicht aufgeführt wird, Folgendes aus:

Nur für PostgreSQL-Version 9.4-Quellen: Installieren Sie die folgenden pglogical-Erweiterungen auf jeder Datenbank in Ihrer Quellinstanz:
- CREATE EXTENSION IF NOT EXISTS pglogical;
- CREATE EXTENSION IF NOT EXISTS pglogical_origin;
Bei allen anderen Versionen installieren Sie nur die Erweiterung pglogical in jeder Datenbank Ihrer Quellinstanz: CREATE EXTENSION IF NOT EXISTS pglogical.
Bei Tabellen ohne Primärschlüssel unterstützt Database Migration Service die Migration des ersten Snapshots und der INSERT-Anweisungen während der CDC-Phase. Sie sollten UPDATE- und DELETE-Anweisungen manuell migrieren.

Unter Debugging und andere Tools erfahren Sie, wie Sie eine Abfrage zum Auflisten von Tabellen in einer PostgreSQL-Datenbank ohne Primärschlüssel generieren. Für jede Datenbanktabelle, die keinen Primärschlüssel hat und die Tabelle nicht Teil der nicht migrierten Datenbanken ist, ändern Sie die Tabelle so, dass sie einen Primärschlüssel hat oder folgen Sie diesem Verfahren. Bei Tabellen ohne Primärschlüssel werden nur der erste Snapshot und die INSERT-Anweisungen migriert.
Der USER, mit dem Sie die Verbindung zur Quellinstanz herstellen (diese wird als Nutzer auf der Seite Verbindungsprofile konfiguriert), muss bestimmte Berechtigungen für jede migrierte Datenbank sowie für die Standarddatenbank postgres haben. Sie können einen neuen Nutzer erstellen oder einen vorhandenen verwenden. Stellen Sie eine Verbindung zur Instanz her und führen Sie die folgenden Befehle aus, um diese Berechtigungen festzulegen:
1. GRANT USAGE on SCHEMA SCHEMA to USER für alle Schemas (mit Ausnahme des Informationsschemas und der Schemas, die mit „pg_“ beginnen) in jeder zu migrierenden Datenbank.
2. GRANT USAGE on SCHEMA pglogical to PUBLIC; für jede Datenbank, die Sie migrieren möchten.
3. GRANT SELECT on ALL TABLES in SCHEMA pglogical to USER für alle Datenbanken, um Replikationsinformationen aus Quelldatenbanken abzurufen.
4. GRANT SELECT on ALL TABLES in SCHEMA SCHEMA to USER für alle Schemas (mit Ausnahme des Informationsschemas und der Schemas, die mit „pg_“ beginnen) in jeder zu migrierenden Datenbank.
5. GRANT SELECT on ALL SEQUENCES in SCHEMA SCHEMA to USER für alle Schemas (mit Ausnahme des Informationsschemas und der Schemas, die mit „pg_“ beginnen) in jeder zu migrierenden Datenbank.
6. Wenn die Quelle Amazon RDS ist, führen Sie den folgenden Befehl aus:
  1. GRANT rds_replication to USER
7. Wenn die Quelle nicht Amazon RDS ist, führen Sie den folgenden Befehl aus:
  1. Rolle ALTER USER USER with REPLICATION

`pglogical`-Paket auf der Quellinstanz installieren

In diesem Abschnitt wird beschrieben, wie Sie das pglogical-Paket konfigurieren, einschließlich der Konfiguration der Parameter max_replication_slots, max_wal_senders und max_worker_processes. Sie können die richtigen Werte für diese Parameter auch erhalten, indem Sie beim Erstellen des Migrationsjobs einen Migrationsjob-Test ausführen. Während dieses Tests kann der Database Migration Service Ihre Einstellungen überprüfen und die richtigen Werte vorschlagen.

On-Premise- oder selbst verwaltete PostgreSQL

Installieren Sie das pglogical-Paket auf dem Server.
Stellen Sie eine Verbindung zur Instanz her und legen Sie nach Bedarf die folgenden Parameter fest:
- shared_preload_libraries muss pglogical enthalten.
  Führen Sie den Befehl ALTER SYSTEM SET shared_preload_libraries = 'pglogical,[any other libraries in your instance]'; aus, um diesen Parameter festzulegen.
  
  Führen Sie den Befehl show shared_preload_libraries aus, um die vorhandenen Bibliotheken für Ihre Instanz aufzurufen.
- Setzen Sie wal_level auf logical.
  Führen Sie den Befehl ALTER SYSTEM SET wal_level = 'logical'; aus, um diesen Parameter festzulegen.
- Setzen Sie wal_sender_timeout auf 0.
  
  Um diesen Parameter festzulegen, führen Sie den Befehl ALTER SYSTEM SET wal_sender_timeout = 0; aus. Dabei wird mit 0 der Zeitlimitmechanismus deaktiviert, der zum Beenden inaktiver Replikationsverbindungen verwendet wird.
- max_replication_slots definiert die maximale Anzahl von Replikations-Slots, die von der Quellinstanz unterstützt werden können. Er muss mindestens der Anzahl der Abos entsprechen, für die eine Verbindung erwartet wird, und einige Reservierungen für die Tabellensynchronisierung enthalten.
  
  Der Database Migration Service erfordert einen Slot für jede migrierte Datenbank, also für alle Datenbanken unter der Quellinstanz.
  
  Wenn die Quellinstanz beispielsweise 5 Datenbanken hat und 2 Migrationsjobs für die Quelle erstellt werden, muss die Anzahl der Replikations-Slots zusätzlich zur Anzahl der Replikations-Slots, die Sie bereits verwenden, mindestens 5 * 2 = 10 sein. Wenn Sie die Einstellungen für die Parallelität von Datendumps anpassen möchten, müssen Sie die Anzahl der Replikationsslots erhöhen und Ihre Konfiguration prüfen, indem Sie beim Erstellen des Migrationsjobs den Migrationsjob-Test ausführen.
  
  Führen Sie den Befehl ALTER SYSTEM SET max_replication_slots = #; aus, um diesen Parameter festzulegen. Dabei steht # für die maximale Anzahl von Replikationsslots.
- Für max_wal_senders sollte ein Wert festgelegt werden, der mindestens „max_replication_slots“ plus die Anzahl der Absender beträgt, die bereits auf Ihrer Instanz verwendet werden.
  
  Wenn für den Parameter max_replication_slots beispielsweise der Wert 10 festgelegt ist und Sie bereits zwei Absender verwenden, beträgt die Anzahl der gleichzeitig ausgeführten WAL-Senderprozesse 10 + 2 = 12. Wenn Sie angepasste Einstellungen für die Parallelität von Datendumps verwenden möchten, müssen Sie die Anzahl der Absender erhöhen und Ihre Konfiguration prüfen, indem Sie beim Erstellen des Migrationsjobs den Migrationsjob-Test ausführen.
  Um diesen Parameter festzulegen, führen Sie den Befehl ALTER SYSTEM SET max_wal_senders = #; aus. Dabei steht # für die Anzahl der gleichzeitig ausgeführten WAL-Senderprozesse.
- Für max_worker_processes sollte mindestens die Anzahl der Datenbanken festgelegt sein, die vom Database Migration Service migriert werden (d. h. alle Datenbanken unter der Quellinstanz) sowie die Anzahl der max_worker_processes, die bereits auf Ihrer Instanz verwendet werden.
  
  Wenn Sie angepasste Einstellungen für die Parallelität von Datendumps verwenden möchten, müssen Sie die Anzahl der Workerprozesse erhöhen und Ihre Konfiguration überprüfen, indem Sie beim Erstellen des Migrationsjobs den Migrationsjob-Test ausführen.
  
  Führen Sie den Befehl ALTER SYSTEM SET max_worker_processes = #; aus, um diesen Parameter festzulegen. Dabei steht # für die Anzahl der zu migrierenden Datenbanken.
Die in diesem Schritt festgelegten Parameter gelten für einen PostgreSQL-Datenbankserver, der ausgeführt wird. Sie können diese Änderungen auch dauerhaft festlegen, indem Sie der Datei postgresql.conf die folgenden Codezeilen hinzufügen:
- shared_preload_libraries = 'pglogical';
- wal_level = 'logical';
- wal_sender_timeout = 0;
- max_replication_slots = #;
- max_wal_senders = #;
- max_worker_processes = #;
Starten Sie die Quellinstanz neu, um die Konfigurationsänderungen anzuwenden.

Amazon RDS PostgreSQL

Installieren Sie die Erweiterung pglogical in Ihrer Quelldatenbank. Weitere Informationen finden Sie in der Amazon RDS-Dokumentation unter PostgreSQL-Erweiterungen mit Amazon RDS for PostgreSQL verwenden.
Konfigurieren Sie die Quellinstanz mithilfe von Parametergruppen.
- Erstellen Sie eine neue Parametergruppe. In der Parametergruppe:
Fügen Sie der Instanz die Parametergruppe hinzu. Wenn Sie eine neue Instanz erstellen, finden Sie diese Option unter Zusätzliche Konfiguration. Andernfalls ändern Sie die Instanz, um die Parametergruppe anzuhängen.
Starten Sie die Quellinstanz neu, um die Konfigurationsänderungen anzuwenden.

Hinweis: Die Erweiterung pglogical kann Anmeldedaten in Klartext auf der Quellinstanz protokollieren. Dieses Verhalten wird durch die Erweiterung selbst verursacht und hat nichts mit dem Database Migration Service oder Cloud SQL zu tun.

Cloud SQL for PostgreSQL

Aktivieren Sie die logische Replikation und Decodierung für die Quelldatenbank, indem Sie die folgenden Flags konfigurieren.

Legen Sie die Flags cloudsql.logical_decoding und cloudsql.enable_pglogical auf on fest.
Legen Sie das Flag max_replication_slots fest. Mit diesem Flag wird die maximale Anzahl von Replikations-Slots definiert, die von der Quellinstanz unterstützt werden können. Er muss mindestens der Anzahl der Abos entsprechen, für die eine Verbindung erwartet wird, und einige Reservierungen für die Tabellensynchronisierung enthalten.

Der Database Migration Service erfordert einen Slot für jede migrierte Datenbank, also für alle Datenbanken unter der Quellinstanz.

Wenn die Quellinstanz beispielsweise 5 Datenbanken hat und 2 Migrationsjobs für die Quelle erstellt werden, muss die Anzahl der Replikations-Slots zusätzlich zur Anzahl der Replikations-Slots, die Sie bereits verwenden, mindestens 5 * 2 = 10 sein. Wenn Sie die Einstellungen für die Parallelität von Datendumps anpassen möchten, müssen Sie die Anzahl der Replikationsslots erhöhen und Ihre Konfiguration prüfen, indem Sie beim Erstellen des Migrationsjobs den Migrationsjob-Test ausführen.

Der Standardwert für dieses Flag ist 10.
Legen Sie das Flag max_wal_senders auf mindestens max_replication_slots plus die Anzahl der Absender fest, die bereits auf Ihrer Instanz verwendet werden.

Wenn für das Flag max_replication_slots beispielsweise der Wert 10 festgelegt ist und Sie bereits zwei Absender verwenden, beträgt die Anzahl der gleichzeitig ausgeführten WAL-Senderprozesse 10 + 2 = 12. Wenn Sie die Einstellungen für die Parallelität des Datendumps anpassen möchten, müssen Sie die Anzahl der Absender erhöhen und Ihre Konfiguration prüfen, indem Sie beim Erstellen des Migrationsjobs den Migrationsjob-Test ausführen.

Der Standardwert für dieses Flag ist 10.
Legen Sie das Quellflag max_worker_processes auf mindestens die Anzahl der Datenbanken fest, die vom Database Migration Service migriert werden sollen (d. h. alle Datenbanken unter der Quellinstanz) sowie die Anzahl der max_worker_processes, die bereits auf Ihrer Instanz verwendet werden. Wenn Sie angepasste Einstellungen für den Parallelismus von Datendumps verwenden möchten, berücksichtigen Sie zwei zusätzliche Workerprozesse pro Verbindung (bis zu maximal 20 Worker).

Der Standardwert für dieses Flag ist 8.
Starten Sie die Quellinstanz neu, damit die Konfigurationsänderungen, die Sie an den Flags vorgenommen haben, wirksam werden können.

Replikationsverzögerungsmonitoring für PostgreSQL-Versionen unter 9.6 aktivieren

Wenn Sie von einer PostgreSQL-Version vor 9.6 migrieren, ist der Messwert für die Replikationsverzögerung standardmäßig nicht verfügbar. Sie können Messwerte zur Replikationsverzögerung auf drei Arten verfolgen, um beim Hochstufen der Datenbank die Ausfallzeit zu minimieren:

Option 1: Aktivieren Sie den Database Migration Service, um die Replikationsverzögerung zu verfolgen, indem Sie Zugriff auf eine bestimmte Abfrage gewähren. Führen Sie einen Nutzer mit der Berechtigung SUPERUSER aus:

Definieren Sie die folgende Funktion, damit der Database Migration Service die Replikationsverzögerung abfragen kann.

CREATE OR REPLACE FUNCTION pg_stat_replication_user()
RETURNS TABLE (
pid               integer                  ,
usesysid          oid                      ,
username          name                    ,
application_name  text                     ,
client_addr       inet                     ,
client_hostname   text                     ,
client_port       integer                  ,
backend_start     timestamp with time zone ,
backend_xmin      xid                      ,
state             text                     ,
sent_location     pg_lsn                   ,
write_location    pg_lsn                   ,
flush_location    pg_lsn                   ,
replay_location   pg_lsn                   ,
sync_priority     integer                  ,
sync_state        text
)
LANGUAGE SQL
SECURITY DEFINER
AS $$
 SELECT *
 FROM pg_catalog.pg_stat_replication;
$$;

Erteilen Sie der USER die Berechtigung EXECUTE, indem Sie die folgenden Befehle ausführen:
1. REVOKE EXECUTE ON FUNCTION pg_stat_replication_user() FROM public;
2. GRANT EXECUTE ON FUNCTION pg_stat_replication_user() to {replication_user};

Option 2: Erteilen Sie das Berechtigungsobjekt SUPERUSER direkt dem USER, mit dem eine Verbindung zur Quellinstanz hergestellt wurde. So kann der Database Migration Service die Replikationsverzögerung direkt lesen.

Option 3: Verfolgen Sie die Replikationsverzögerung unabhängig mit der folgenden Abfrage:

Führen Sie diesen Befehl für PostgreSQL-Versionen vor 10 als superuser aus.

    SELECT current_timestamp, application_name,
    pg_xlog_location_diff(pg_current_xlog_location(), pg_stat_replication.sent_location) AS sent_location_lag,
    pg_xlog_location_diff(pg_current_xlog_location(), pg_stat_replication.write_location) AS write_location_lag,
    pg_xlog_location_diff(pg_current_xlog_location(), pg_stat_replication.flush_location) AS flush_location_lag,
    pg_xlog_location_diff(pg_current_xlog_location(), pg_stat_replication.replay_location) AS replay_location_lag
    FROM pg_stat_replication
    WHERE application_name like 'cloudsql%';

Bei dieser Option spiegelt der Database Migration Service den Messwert für die Replikationsverzögerung in den Grafiken oder API-Antworten nicht wider.

Zurück

Einrichten

Weiter

Quellverbindungsprofil erstellen