Configurar una base de datos PostgreSQL autogestionada para CDC

En esta página se describe cómo configurar la captura de datos de cambios (CDC) para transmitir datos desde una base de datos PostgreSQL autogestionada a un destino admitido, como BigQuery o Cloud Storage.

Habilitar la replicación lógica en la base de datos

  1. Defina el parámetro wal_level en su base de datos añadiendo wal_level=logical al archivo postgresql.conf.

  2. Reinicia el servidor.

Crear una publicación y un slot de replicación

  1. Inicia sesión en una consola de PostgreSQL como superusuario.

  2. Crea una publicación. Te recomendamos que crees una publicación solo para las tablas que quieras replicar. De esta forma, Datastream puede leer los datos relevantes y se reduce la carga de la base de datos y de Datastream:

    CREATE PUBLICATION PUBLICATION_NAME
    FOR TABLE SCHEMA1.TABLE1, SCHEMA2.TABLE2;

    Haz los cambios siguientes:

    • PUBLICATION_NAME: el nombre de tu publicación. Deberá proporcionar este nombre cuando cree un flujo en el asistente de creación de flujos de Datastream.
    • SCHEMA: el nombre del esquema que contiene la tabla.
    • TABLE: el nombre de la tabla que quieres replicar.

    Puedes crear una publicación para todas las tablas de un esquema. Con este método, puedes replicar los cambios de las tablas de la lista de esquemas especificada, incluidas las tablas que crees en el futuro:

    CREATE PUBLICATION PUBLICATION_NAME
    FOR TABLES IN SCHEMA SCHEMA1, SCHEMA2;

    También puede crear una publicación para todas las tablas de su base de datos. Tenga en cuenta que este enfoque aumenta la carga tanto en la base de datos de origen como en Datastream:

    CREATE PUBLICATION PUBLICATION_NAME FOR ALL TABLES;
    
  3. Crea un slot de replicación introduciendo el siguiente comando SQL:

    SELECT PG_CREATE_LOGICAL_REPLICATION_SLOT('REPLICATION_SLOT_NAME', 'pgoutput');

    Haz los cambios siguientes:

    • REPLICATION_SLOT_NAME: el nombre de tu ranura de replicación. Deberá proporcionar este nombre cuando cree un flujo en el asistente de creación de flujos de Datastream.

Crear un usuario de Datastream

  1. Para crear un usuario de Datastream, introduce los siguientes comandos SQL:

    CREATE USER USER_NAME WITH ENCRYPTED PASSWORD 'USER_PASSWORD';

    Haz los cambios siguientes:

    • USER_NAME: nombre del usuario de Datastream que quieras crear.
    • USER_PASSWORD: la contraseña de inicio de sesión del usuario de Datastream que quieras crear.
  2. Concede los siguientes privilegios al usuario que has creado:

    ALTER ROLE USER_NAME WITH REPLICATION;
    GRANT SELECT ON ALL TABLES IN SCHEMA SCHEMA_NAME TO USER_NAME;
    GRANT USAGE ON SCHEMA SCHEMA_NAME TO USER_NAME;
    ALTER DEFAULT PRIVILEGES IN SCHEMA SCHEMA_NAME
      GRANT SELECT ON TABLES TO USER_NAME;
    

    Haz los cambios siguientes:

    • USER_NAME: el usuario al que quieres conceder los privilegios.
    • SCHEMA_NAME: el nombre del esquema al que quieres conceder los privilegios.

Siguientes pasos