Cómo migrar claves primarias

En esta página, se describe cómo migrar claves primarias de las tablas de tu base de datos de origen a bases de datos de dialecto GoogleSQL y de dialecto PostgreSQL de Spanner. Antes de realizar los procedimientos de la página, revisa la descripción general de la migración de claves primarias.

Antes de comenzar

  • Para obtener los permisos que necesitas para migrar claves primarias a Spanner, pídele a tu administrador que te otorgue el rol de IAM de administrador de bases de datos de Cloud Spanner (roles/spanner.databaseAdmin) en la instancia.

Cómo migrar claves secuenciales generadas automáticamente

Si migras desde una base de datos que usa claves monótonas secuenciales, como AUTO_INCREMENT en MySQL, SERIAL en PostgreSQL o el tipo IDENTITY estándar en SQL Server o Oracle, considera la siguiente estrategia de migración de alto nivel:

  1. En Spanner, replica la estructura de la tabla de tu base de datos fuente con una clave primaria de número entero.
  2. Para cada columna de Spanner que contenga valores secuenciales, crea una secuencia y asigna la función GET_NEXT_SEQUENCE_VALUE ( GoogleSQL, PostgreSQL) como el valor predeterminado de la columna.
  3. Migra los datos existentes con las claves originales de la base de datos de origen a Spanner. Considera usar la herramienta de migración de Spanner o una plantilla de Dataflow.
    1. De manera opcional, puedes establecer restricciones de claves foráneas para cualquier tabla dependiente.
  4. Antes de insertar datos nuevos, ajusta la secuencia de Spanner para omitir el rango de valores de clave existentes.
  5. Inserta datos nuevos, lo que permite que la secuencia genere claves únicas automáticamente.

Flujo de trabajo de migración de muestra

En el siguiente código, se define la estructura de la tabla y la secuencia relacionada en Spanner con un objeto SEQUENCE y se establece el objeto como el valor primario predeterminado de la tabla de destino:

GoogleSQL

CREATE SEQUENCE singer_id_sequence OPTIONS (
     SequenceKind = 'bit_reversed_positive'
  );

CREATE TABLE Singers (
     SingerId INT64 DEFAULT
     (GET_NEXT_SEQUENCE_VALUE(SEQUENCE SingerIdSequence)),
     Name STRING(1024),
     Biography STRING(MAX),
  ) PRIMARY KEY (SingerId);

CREATE TABLE Albums (
     AlbumId INT64,
     SingerId INT64,
     AlbumName STRING(1024),
     SongList STRING(MAX),
     CONSTRAINT FK_singer_album
     FOREIGN KEY (SingerId)
       REFERENCES Singers (SingerId)
  ) PRIMARY KEY (AlbumId);

PostgreSQL

CREATE SEQUENCE SingerIdSequence BIT_REVERSED_POSITIVE;

CREATE TABLE Singers (
  SingerId BIGINT DEFAULT nextval('SingerIdSequence') PRIMARY KEY,
  Name VARCHAR(1024) NOT NULL,
  Biography TEXT
);

CREATE TABLE Albums (
  AlbumId BIGINT PRIMARY KEY,
  SingerId BIGINT,
  AlbumName VARCHAR(1024),
  SongList TEXT,
  CONSTRAINT FK_singer_album FOREIGN KEY (SingerId) REFERENCES Singers (SingerId)
);

La opción bit_reversed_positive indica que los valores generados por la secuencia son del tipo INT64, son mayores que cero y no son secuenciales.

A medida que migras las filas existentes de tu base de datos de origen a Spanner, las claves primarias no se modifican.

En el caso de las inserciones nuevas que no especifican una clave principal, Spanner recupera automáticamente un valor nuevo llamando a la función GET_NEXT_SEQUENCE_VALUE(GoogleSQL o PostgreSQL).

Estos valores se distribuyen de manera uniforme en el rango [1, 263] y podría haber colisiones con las claves existentes. Para evitar esto, puedes configurar la secuencia con ALTER_SEQUENCE (GoogleSQL o PostgreSQL) para omitir el rango de valores que abarcan las claves existentes.

Supongamos que la tabla singers se migró desde PostgreSQL, donde su clave primaria singer_id es del tipo SERIAL. El siguiente comando de PostgreSQL muestra el DDL de tu base de datos de origen:

PostgreSQL

CREATE TABLE Singers (
SingerId SERIAL PRIMARY KEY,
Name varchar(1024),
Biography varchar
);

Los valores de la clave primaria aumentan de forma monótona. Después de la migración, puedes recuperar el valor máximo de la clave principal singer_id en Spanner. Usa el siguiente código en Spanner:

GoogleSQL

SELECT MAX(SingerId) FROM Singers;

PostgreSQL

SELECT MAX(SingerId) FROM Singers;

Supongamos que el valor que se muestra es 20,000. Puedes configurar la secuencia de Spanner para omitir el rango [1, 21000]. Los 1,000 adicionales sirven como búfer para admitir operaciones de escritura en la base de datos de origen después de la migración inicial. Las claves nuevas que se generan en Spanner no entran en conflicto con el rango de claves primarias que se generan en la base de datos de PostgreSQL de origen. Usa el siguiente código en Spanner:

GoogleSQL

ALTER SEQUENCE SingerIdSequence SET OPTIONS (
skip_range_min = 1,
skip_range_max = 21000
);

PostgreSQL

ALTER SEQUENCE SingerIdSequence SKIP RANGE 1 21000;

Usa Spanner y tu base de datos de origen

Puedes usar el concepto de rango de omisión para admitir situaciones en las que Spanner o tu base de datos de origen generan claves primarias, por ejemplo, para habilitar la replicación en cualquier dirección para la recuperación ante desastres durante una migración de cambio.

Para admitir esto, ambas bases de datos generan claves primarias, y los datos se sincronizan entre ellas. Puedes configurar cada base de datos para crear claves primarias en rangos de claves que no se superpongan. Cuando defines un rango para tu base de datos fuente, puedes configurar la secuencia de Spanner para omitir ese rango.

Por ejemplo, después de migrar la aplicación de pistas de música, replica los datos de PostgreSQL a Spanner para reducir el tiempo de migración.

Después de actualizar y probar la aplicación en Spanner, puedes dejar de usar tu base de datos de PostgreSQL de origen y usar Spanner, lo que lo convierte en el sistema de registro para las actualizaciones y las claves primarias nuevas. Cuando Spanner se haga cargo, podrás revertir el flujo de datos entre las bases de datos en la instancia de PostgreSQL.

Supongamos que tu base de datos de PostgreSQL de origen usa claves primarias SERIAL, que son números enteros firmados de 32 bits. Las claves primarias de Spanner son números de 64 bits más grandes. En PostgreSQL, cambia la columna de clave primaria para que sea una columna de 64 bits o bigint. Usa el siguiente código en tu base de datos de PostgreSQL de origen:

PostgreSQL

ALTER TABLE Singers ALTER COLUMN SingerId TYPE bigint;

Puedes establecer una restricción CHECK en la tabla de la base de datos de PostgreSQL de origen para asegurarte de que los valores de la clave principal SingerId siempre sean menores o iguales a 231-1.

Usa el siguiente código en tu base de datos de PostgreSQL de origen:

PostgreSQL

ALTER TABLE Singers ADD CHECK (SingerId <= 2147483647);

En Spanner, podemos alterar la secuencia para omitir el rango [1, 231-1].

Usa el siguiente código en Spanner:

GoogleSQL

ALTER SEQUENCE SingerIdSequence SET OPTIONS (
skip_range_min = 1,
skip_range_max = 2147483647 -- 231-1
);

PostgreSQL

ALTER SEQUENCE SingerIdSequence SKIP RANGE 1 2147483648;

Tu base de datos de PostgreSQL de origen siempre genera claves en el espacio de números enteros de 32 bits, mientras que las claves de Spanner se restringen al espacio de números enteros de 64 bits, que es más grande que todos los valores de números enteros de 32 bits. Esto garantiza que ambas bases de datos puedan generar claves primarias de forma independiente que no entren en conflicto.

Cómo migrar columnas de claves de UUID

Las claves de UUIDv4 son únicas, independientemente de dónde se generen. Las claves de UUID generadas en otro lugar se integran con las nuevas claves de UUID generadas en Spanner.

Considera la siguiente estrategia de alto nivel para migrar claves de UUID a Spanner:

  1. Define tus claves de UUID en Spanner con columnas de cadena con una expresión predeterminada. Usa la función GENERATE_UUID() (GoogleSQL, PostgreSQL).
  2. Exporta los datos del sistema de origen y serializa las claves de UUID como cadenas.
  3. Importa las claves primarias a Spanner.
  4. Opcional: Habilita las claves externas.

Este es un flujo de trabajo de migración de muestra:

En Spanner, define una columna de clave primaria de UUID como un tipo STRING o TEXT y asigna GENERATE_UUID() (GoogleSQL o PostgreSQL) como su valor predeterminado. Migra todos los datos de tu base de datos de origen a Spanner. Después de la migración, a medida que se insertan filas nuevas, Spanner llama a GENERATE_UUID() para generar nuevos valores de UUID para las claves primarias. Por ejemplo, la clave primaria FanClubId obtiene un valor de UUIDv4 cuando se inserta una fila nueva en la tabla FanClubs. Usa el siguiente código en Spanner:

GoogleSQL

CREATE TABLE Fanclubs (
FanClubId STRING(36) DEFAULT (GENERATE_UUID()),
ClubName STRING(1024),
) PRIMARY KEY (FanClubId);

INSERT INTO FanClubs (ClubName) VALUES ("SwiftFanClub");

PostgreSQL

CREATE TABLE FanClubs (
  FanClubId TEXT DEFAULT spanner.generate_uuid() PRIMARY KEY,
  ClubName VARCHAR(1024)
);

INSERT INTO FanClubs (ClubName) VALUES ('SwiftFanClub');

Migra tus propias claves primarias

Tu aplicación puede depender del orden de la clave primaria para determinar qué tan recientes son los datos o para secuenciar los datos creados recientemente. Para usar claves secuenciales generadas de forma externa en Spanner, puedes crear una clave compuesta que combine un valor distribuido de forma uniforme, como un hash, como primer componente y tu clave secuencial como segundo componente. De esta manera, puedes preservar los valores de claves secuenciales sin crear hotspots a gran escala. Considera el siguiente flujo de trabajo de migración:

Supongamos que necesitas migrar una tabla students de MySQL con una clave primaria AUTO_INCREMENT a Spanner. Usa el siguiente código en tu base de datos de MySQL de origen:

MySQL

CREATE TABLE Students (
StudentId INT NOT NULL AUTO_INCREMENT,
Info VARCHAR(2048),
PRIMARY KEY (StudentId)
);

En Spanner, puedes agregar una columna generada StudentIdHash si creas un hash de la columna StudentId. Por ejemplo:

StudentIdHash = FARM_FINGERPRINT(CAST(StudentId AS STRING))

Puedes usar el siguiente código en Spanner:

GoogleSQL

CREATE TABLE student (
  StudentIdHash INT64 AS (FARM_FINGERPRINT(cast(StudentId as string))) STORED,
  StudentId INT64 NOT NULL,
  Info STRING(2048),
) PRIMARY KEY(StudentIdHash, StudentId);

PostgreSQL

CREATE TABLE Student (
  StudentIdHash bigint GENERATED ALWAYS AS
  (FARM_FINGERPRINT(cast(StudentId AS varchar))) STORED,
  StudentId bigint NOT NULL,
  Info varchar(2048),
  PRIMARY KEY (StudentIdHash, StudentId)
);

Cómo migrar columnas de claves secuenciales

Si el sistema de base de datos de origen genera valores secuenciales para una columna clave, puedes usar una secuencia positiva con bits invertidos (GoogleSQL, PostgreSQL) en tu esquema de Spanner para generar valores que se distribuyan de manera uniforme en el espacio de números enteros positivos de 64 bits. Para evitar que la secuencia de Spanner genere un valor que se superponga con un valor migrado, puedes definir un rango omitido para ella.

Por ejemplo, puedes omitir el rango de 1 a 4,294,967,296 (2^32) para las siguientes dos secuencias, si sabes que la base de datos de origen solo genera números enteros de 32 bits:

GoogleSQL

CREATE SEQUENCE MyFirstSequence OPTIONS (
  sequence_kind = "bit_reversed_positive",
  skip_range_min = 1,
  skip_range_max = 4294967296
);

ALTER SEQUENCE MySecondSequence SET OPTIONS (
  skip_range_min = 1,
  skip_range_max = 4294967296
);

PostgreSQL

CREATE SEQUENCE MyFirstSequence BIT_REVERSED_POSITIVE
  SKIP RANGE 1 4294967296;

ALTER SEQUENCE MySecondSequence SKIP RANGE 1 4294967296;

Si usas columnas IDENTITY para generar automáticamente valores enteros para tus columnas clave, puedes establecer rangos de omisión:

GoogleSQL

Para establecer un rango de omisión, usa el comando GENERATED BY DEFAULT AS IDENTITY:

ALTER DATABASE db SET OPTIONS (
  default_sequence_kind = 'bit_reversed_positive',
);

CREATE TABLE MyFirstTable (
  Id INT64 GENERATED BY DEFAULT AS IDENTITY (SKIP RANGE 1, 4294967296),
  Name STRING(MAX),
) PRIMARY KEY (Id);

ALTER TABLE MyFirstTable ALTER COLUMN Id ALTER IDENTITY SET SKIP RANGE 1, 4294967296;

PostgreSQL

Para establecer un rango de omisión, usa el comando GENERATED BY DEFAULT AS IDENTITY:

ALTER DATABASE db
    SET spanner.default_sequence_kind = 'bit_reversed_positive';

CREATE TABLE MyFirstTable (
  Id bigint GENERATED BY DEFAULT AS IDENTITY (SKIP RANGE 1 4294967296),
  Name text,
  PRIMARY KEY (Id)
);

ALTER TABLE MyFirstTable ALTER COLUMN Id SET SKIP RANGE 1 4294967296;

Cómo migrar columnas de claves con bits invertidos

Si ya invertiste los bits de tus valores de clave para evitar problemas de hotspots en tu base de datos de origen, también puedes usar una secuencia positiva con bits invertidos de Spanner (GoogleSQL, PostgreSQL) para seguir generando esos valores. Para evitar generar valores duplicados, puedes configurar la secuencia para que inicie su contador desde un número personalizado.

Por ejemplo, si inviertes los números del 1 al 1,000 para generar valores de clave principal, la secuencia de Spanner puede iniciar su contador desde cualquier número superior a 10,000. De manera opcional, puedes elegir un número alto para dejar un búfer para las operaciones de escritura nuevas que se producen en la base de datos de origen después de la migración de datos. En el siguiente ejemplo, los contadores comienzan en 11,000:

GoogleSQL

CREATE SEQUENCE MyFirstSequence OPTIONS (
  sequence_kind = "bit_reversed_positive",
  start_with_counter = 11000
);

ALTER SEQUENCE MySecondSequence SET OPTIONS (
  start_with_counter = 11000
);

PostgreSQL

CREATE SEQUENCE MyFirstSequence BIT_REVERSED_POSITIVE
  START COUNTER 11000;

ALTER SEQUENCE MySecondSequence RESTART COUNTER 11000;

Si usas columnas IDENTITY para generar automáticamente valores enteros para tus columnas clave, puedes establecer un contador de inicio:

GoogleSQL

Para establecer un contador de inicio, usa el comando GENERATED BY DEFAULT AS IDENTITY:

ALTER DATABASE db SET OPTIONS (
  default_sequence_kind = 'bit_reversed_positive',
);

CREATE TABLE MyFirstTable (
  Id INT64 GENERATED BY DEFAULT AS IDENTITY (START COUNTER WITH 11000),
  Name STRING(MAX),
) PRIMARY KEY (Id);

ALTER TABLE MyFirstTable ALTER COLUMN Id ALTER IDENTITY RESTART COUNTER WITH 11000;

PostgreSQL

Para establecer un contador de inicio, usa el comando GENERATED BY DEFAULT AS IDENTITY:

ALTER DATABASE db
    SET spanner.default_sequence_kind = 'bit_reversed_positive';

CREATE TABLE MyFirstTable (
  Id bigint GENERATED BY DEFAULT AS IDENTITY (START COUNTER WITH 11000),
  Name text,
  PRIMARY KEY (Id)
);

ALTER TABLE MyFirstTable ALTER COLUMN Id RESTART COUNTER WITH 11000;

¿Qué sigue?