Esegui la migrazione delle chiavi primarie

Questo documento fornisce istruzioni per eseguire la migrazione delle chiavi primarie dalle tabelle del database di origine a Spanner. Devi conoscere le informazioni disponibili nella Panoramica della migrazione delle chiavi primarie.

Prima di iniziare

  • Per ottenere le autorizzazioni necessarie per eseguire la migrazione delle chiavi principali a Spanner, chiedi all'amministratore di concederti il ruolo IAM Amministratore database Cloud Spanner (roles/spanner.databaseAdmin) nell'istanza.

Eseguire la migrazione delle chiavi sequenziali generate automaticamente

Se esegui la migrazione da un database che utilizza chiavi monotoniche sequenziali, come AUTO_INCREMENT in MySQL, SERIAL in PostgreSQL o il tipo IDENTITY standard in SQL Server o Oracle, valuta la seguente strategia di migrazione di alto livello:

  1. In Spanner, replica la struttura della tabella dal tuo database di origine utilizzando una chiave primaria intera.
  2. Per ogni colonna di Spanner contenente valori sequenziali, crea una sequenza e assegna la funzione GET_NEXT_SEQUENCE_VALUE (GoogleSQL, PostgreSQL) come valore predefinito per la colonna.
  3. Esegui la migrazione dei dati esistenti con le chiavi originali dal database di origine a Spanner. Valuta la possibilità di utilizzare lo strumento di migrazione di Spanner o un modello Dataflow.
  4. Se vuoi, puoi stabilire vincoli di chiavi esterne per eventuali tabelle dipendenti.
  5. Prima di inserire nuovi dati, modifica la sequenza Spanner per saltare l'intervallo dei valori chiave esistenti.
  6. Inserisci nuovi dati, consentendo alla sequenza di generare automaticamente chiavi univoche.

Esempio di flusso di lavoro di migrazione

Il codice seguente definisce la struttura della tabella e la sequenza correlata in Spanner utilizzando un oggetto SEQUENCE e lo imposta come valore principale predefinito della tabella di destinazione:

GoogleSQL 

CREATE SEQUENCE singer_id_sequence OPTIONS (
     SequenceKind = 'bit_reversed_positive'
  );

CREATE TABLE Singers (
     SingerId INT64 DEFAULT
     (GET_NEXT_SEQUENCE_VALUE(SEQUENCE SingerIdSequence)),
     Name STRING(1024),
     Biography STRING(MAX),
  ) PRIMARY KEY (SingerId);

CREATE TABLE Albums (
     AlbumId INT64,
     SingerId INT64,
     AlbumName STRING(1024),
     SongList STRING(MAX),
     CONSTRAINT FK_singer_album
     FOREIGN KEY (SingerId)
       REFERENCES Singers (SingerId)
  ) PRIMARY KEY (AlbumId);

PostgreSQL 

CREATE SEQUENCE SingerIdSequence BIT_REVERSED_POSITIVE;

CREATE TABLE Singers (
  SingerId BIGINT DEFAULT nextval('SingerIdSequence') PRIMARY KEY,
  Name VARCHAR(1024) NOT NULL,
  Biography TEXT
);

CREATE TABLE Albums (
  AlbumId BIGINT PRIMARY KEY,
  SingerId BIGINT,
  AlbumName VARCHAR(1024),
  SongList TEXT,
  CONSTRAINT FK_singer_album FOREIGN KEY (SingerId) REFERENCES Singers (SingerId)
);

L'opzione bit_reversed_positive indica che i valori generati dalla sequenza sono di tipo INT64, sono maggiori di zero e non sono sequenziali.

Durante la migrazione delle righe esistenti dal database di origine a Spanner, le chiavi primarie rimangono invariate.

Per i nuovi inserimenti che non specificano una chiave primaria, Spanner recupera automaticamente un nuovo valore chiamando la funzione GET_NEXT_SEQUENCE_VALUE()(GoogleSQL o PostgreSQL).

Questi valori sono distribuiti uniformemente nell'intervallo [1, 263] e potrebbero verificarsi possibili collisioni con le chiavi esistenti. Per evitare ciò, puoi configurare la sequenza utilizzando ALTER_SEQUENCE (GoogleSQL o PostgreSQL) per saltare l'intervallo di valori coperti dalle chiavi esistenti.

Supponiamo che sia stata eseguita la migrazione della tabella singers da PostgreSQL, dove la chiave primaria singer_id è di tipo SERIAL. Il seguente PostgreSQL mostra il DDL del database di origine:

PostgreSQL 

CREATE TABLE Singers (
SingerId SERIAL PRIMARY KEY,
Name varchar(1024),
Biography varchar
);

I valori della chiave primaria sono in aumento monotonico. Dopo la migrazione, puoi recuperare il valore massimo della chiave primaria singer_id su Spanner. Utilizza il seguente codice in Spanner:

GoogleSQL 

SELECT MAX(SingerId) FROM Singers;

PostgreSQL 

SELECT MAX(SingerId) FROM Singers;

Supponiamo che il valore restituito sia 20.000. Puoi configurare la sequenza Spanner per saltare l'intervallo [1, 21000]. I 1000 aggiuntivi fungono da buffer per gestire le scritture nel database di origine dopo la migrazione iniziale. Le nuove chiavi generate in Spanner non sono in conflitto con l'intervallo di chiavi primarie generate nel database PostgreSQL di origine. Utilizza il seguente codice in Spanner:

GoogleSQL 

ALTER SEQUENCE SingerIdSequence SET OPTIONS (
skip_range_min = 1,
skip_range_max = 21000
);

PostgreSQL 

ALTER SEQUENCE SingerIdSequence SKIP RANGE 1 21000;

Utilizzare Spanner e il database di origine

Puoi utilizzare il concetto di intervallo di ignoramenti per supportare scenari in cui Spanner o il tuo database di origine generano chiavi primarie, ad esempio per abilitare la replica in entrambe le direzioni per il ripristino di emergenza durante il passaggio di una migrazione.

Per supportare questa operazione, entrambi i database generano chiavi primarie e i dati vengono sincronizzati tra di loro. Puoi configurare ogni database in modo da creare chiavi primary in intervalli di chiavi non sovrapposti. Quando definisci un intervallo per il database di origine, puoi configurare la sequenza Spanner in modo che lo ignori.

Ad esempio, dopo la migrazione dell'applicazione di tracce musicali, replica i dati da PostgreSQL a Spanner per ridurre il tempo necessario per il passaggio.

Dopo aver aggiornato e testato l'applicazione su Spanner, puoi interrompere l'utilizzo del database PostgreSQL di origine e utilizzare Spanner, impostandolo come sistema di record per gli aggiornamenti e le nuove chiavi principali. Una volta che Spanner prende il controllo, puoi invertire il flusso di dati tra i database nell'istanza PostgreSQL.

Supponiamo che il database PostgreSQL di origine utilizzi chiavi primarie SERIAL, che sono interi con segno a 32 bit. Le chiavi principali di Spanner sono numeri di 64 bit più grandi. In PostgreSQL, modifica la colonna della chiave primaria in modo che sia una colonna a 64 bit o bigint. Utilizza il seguente codice nel database PostgreSQL di origine:

PostgreSQL 

ALTER TABLE Singers ALTER COLUMN SingerId TYPE bigint;

Puoi impostare un vincolo CHECK per la tabella nel database PostgreSQL di origine per assicurarti che i valori della chiave primaria SingerId siano sempre minori o equali a 231-1. Utilizza il seguente codice nel database PostgreSQL di origine:

PostgreSQL 

ALTER TABLE Singers ADD CHECK (SingerId <= 2147483647);

In Spanner, possiamo modificare la sequenza per saltare l'intervallo [1, 231-1]. Utilizza il seguente codice in Spanner:

GoogleSQL 

ALTER SEQUENCE SingerIdSequence SET OPTIONS (
skip_range_min = 1,
skip_range_max = 2147483647 -- 231-1
);

PostgreSQL 

ALTER SEQUENCE SingerIdSequence SKIP RANGE 1 2147483648;

Il database PostgreSQL di origine genera sempre chiavi nello spazio degli interi di 32 bit, mentre le chiavi Spanner sono limitate allo spazio degli interi di 64 bit, più grande di tutti i valori interi di 32 bit. In questo modo, entrambi i database possono generare in modo indipendente chiavi primarie che non entrano in conflitto.

Esegui la migrazione delle colonne delle chiavi UUID

Le chiavi UUIDv4 sono effettivamente univoche indipendentemente da dove vengono generate. Le chiavi UUID generate altrove si integrano con le nuove chiavi UUID generate in Spanner.

Prendi in considerazione la seguente strategia di alto livello per eseguire la migrazione delle chiavi UUID a Spanner:

  1. Definisci le chiavi UUID in Spanner utilizzando colonne di stringhe con un'espressione predefinita. Utilizza la funzione GENERATE_UUID() (GoogleSQL, PostgreSQL).
  2. Esporta i dati dal sistema di origine, serializzando le chiavi UUID come stringhe.
  3. Importa le chiavi primarie in Spanner.
  4. (Facoltativo) Attiva le chiavi esterne.

Ecco un flusso di lavoro di migrazione di esempio:

In Spanner, definisci una colonna della chiave primaria UUID come tipo STRING o TEXT e assegna GENERATE_UUID() (GoogleSQL o PostgreSQL) come valore predefinito. Esegui la migrazione di tutti i dati dal database di origine a Spanner. Dopo la migrazione, man mano che vengono inserite nuove righe, Spanner chiama GENERATE_UUID() per generare nuovi valori UUID per le chiavi principali. Ad esempio, la chiave primaria FanClubId riceve un valore UUIDv4 quando viene inserita una nuova riga nella tabella FanClubs. Utilizza il seguente codice in Spanner:

GoogleSQL 

CREATE TABLE Fanclubs (
FanClubId STRING(36) DEFAULT (GENERATE_UUID()),
ClubName STRING(1024),
) PRIMARY KEY (FanClubId);

INSERT INTO FanClubs (ClubName) VALUES ("SwiftFanClub");

PostgreSQL 

CREATE TABLE FanClubs (
  FanClubId TEXT DEFAULT spanner.generate_uuid() PRIMARY KEY,
  ClubName VARCHAR(1024)
);

INSERT INTO FanClubs (ClubName) VALUES ('SwiftFanClub');

Esegui la migrazione delle tue chiavi principali

L'applicazione potrebbe fare affidamento sull'ordine della chiave primaria per determinare l'aggiornamento dei dati o per mettere in sequenza i dati appena creati. Per utilizzare le chiavi sequenziali generate esternamente in Spanner, puoi creare una chiave composta che combina un valore distribuito in modo uniforme, ad esempio un hash, come primo componente e la chiave sequenziale come secondo componente. In questo modo, puoi conservare i valori delle chiavi sequenziali, senza creare hot spot su larga scala. Prendi in considerazione il seguente flusso di lavoro di migrazione:

Supponiamo che tu debba eseguire la migrazione di una tabella MySQL students con una chiave primaria AUTO_INCREMENT in Spanner. Utilizza il seguente codice nel database MySQL di origine:

MySQL 

CREATE TABLE Students (
StudentId INT NOT NULL AUTO_INCREMENT,
Info VARCHAR(2048),
PRIMARY KEY (StudentId)
);

In Spanner, puoi aggiungere una colonna generata StudentIdHash creando un hash della colonna StudentId. Ad esempio: 

  StudentIdHash = FARM_FINGERPRINT(CAST(StudentId AS STRING))

Puoi utilizzare il seguente codice in Spanner:

GoogleSQL 

CREATE TABLE student (
  StudentIdHash INT64 AS (FARM_FINGERPRINT(cast(StudentId as string))) STORED,
  StudentId INT64 NOT NULL,
  Info STRING(2048),
) PRIMARY KEY(StudentIdHash, StudentId);

PostgreSQL 

CREATE TABLE Student (
  StudentIdHash bigint GENERATED ALWAYS AS
  (FARM_FINGERPRINT(cast(StudentId AS varchar))) STORED,
  StudentId bigint NOT NULL,
  Info varchar(2048),
  PRIMARY KEY (StudentIdHash, StudentId)
);

Esegui la migrazione delle colonne delle chiavi sequenziali

Se il sistema del database di origine genera valori sequenziali per una colonna chiave, puoi utilizzare una sequenza positiva con inversione di bit (GoogleSQL, PostgreSQL) nello schema Spanner per generare valori distribuiti in modo uniforme nello spazio numerico di interi a 64 bit positivi. Per impedire alla sequenza Spanner di generare un valore che si sovrappone a un valore sottoposto a migrazione, puoi definire un intervallo saltato.

Ad esempio, se sai che il database di origine genera solo numeri interi a 32 bit, puoi saltare l'intervallo da 1 a 4.294.967.296 (2^32) per le due seguenti sequenze:

GoogleSQL 

CREATE SEQUENCE MyFirstSequence OPTIONS (
  sequence_kind = "bit_reversed_positive",
  skip_range_min = 1,
  skip_range_max = 4294967296
);

ALTER SEQUENCE MySecondSequence SET OPTIONS (
  skip_range_min = 1,
  skip_range_max = 4294967296
);

PostgreSQL 

CREATE SEQUENCE MyFirstSequence BIT_REVERSED_POSITIVE
  SKIP RANGE 1 4294967296;

ALTER SEQUENCE MySecondSequence SKIP RANGE 1 4294967296;

Se utilizzi le colonne IDENTITY per generare automaticamente valori interi per le colonne chiave, puoi impostare gli intervalli di ignoramento:

GoogleSQL

Per impostare un intervallo di ignoramento, utilizza il comando GENERATED BY DEFAULT AS IDENTITY:

ALTER DATABASE db SET OPTIONS (
  default_sequence_kind = 'bit_reversed_positive',
);

CREATE TABLE MyFirstTable (
  Id INT64 GENERATED BY DEFAULT AS IDENTITY (SKIP RANGE 1, 4294967296),
  Name STRING(MAX),
) PRIMARY KEY (Id);

ALTER TABLE MyFirstTable ALTER COLUMN Id ALTER IDENTITY SET SKIP RANGE 1, 4294967296;

PostgreSQL

Per impostare un intervallo di ignoramento, utilizza il comando GENERATED BY DEFAULT AS IDENTITY:

ALTER DATABASE db
    SET spanner.default_sequence_kind = 'bit_reversed_positive';

CREATE TABLE MyFirstTable (
  Id bigint GENERATED BY DEFAULT AS IDENTITY (SKIP RANGE 1 4294967296),
  Name text,
  PRIMARY KEY (Id)
);

ALTER TABLE MyFirstTable ALTER COLUMN Id SET SKIP RANGE 1 4294967296;

Esegui la migrazione delle colonne delle chiavi con inversione dei bit

Se hai già invertito i valori delle chiavi per evitare problemi di hot spot nel database di origine, puoi anche utilizzare una sequenza positiva con inversione di bit di Spanner (GoogleSQL, PostgreSQL) per continuare a generare questi valori. Per evitare di generare valori duplicati, puoi configurare la sequenza in modo che avvii il contatore da un numero personalizzato.

Ad esempio, se hai invertito i numeri da 1 a 1000 per generare valori della chiave primaria, la sequenza Spanner può avviare il proprio contatore da qualsiasi numero maggiore di 10.000. Facoltativamente, puoi scegliere un numero elevato per lasciare un buffer per le nuove scritture che si verificano nel database di origine dopo la migrazione dei dati. Nell'esempio seguente, i contatori iniziano da 11.000:

GoogleSQL 

CREATE SEQUENCE MyFirstSequence OPTIONS (
  sequence_kind = "bit_reversed_positive",
  start_with_counter = 11000
);

ALTER SEQUENCE MySecondSequence SET OPTIONS (
  start_with_counter = 11000
);

PostgreSQL 

CREATE SEQUENCE MyFirstSequence BIT_REVERSED_POSITIVE
  START COUNTER 11000;

ALTER SEQUENCE MySecondSequence RESTART COUNTER 11000;

Se utilizzi le colonne IDENTITY per generare automaticamente valori interi per le colonne chiave, puoi impostare un contatore iniziale:

GoogleSQL

Per impostare un contatore iniziale, utilizza il comando GENERATED BY DEFAULT AS IDENTITY:

ALTER DATABASE db SET OPTIONS (
  default_sequence_kind = 'bit_reversed_positive',
);

CREATE TABLE MyFirstTable (
  Id INT64 GENERATED BY DEFAULT AS IDENTITY (START COUNTER WITH 11000),
  Name STRING(MAX),
) PRIMARY KEY (Id);

ALTER TABLE MyFirstTable ALTER COLUMN Id ALTER IDENTITY RESTART COUNTER WITH 11000;

PostgreSQL

Per impostare un contatore iniziale, utilizza il comando GENERATED BY DEFAULT AS IDENTITY:

ALTER DATABASE db
    SET spanner.default_sequence_kind = 'bit_reversed_positive';

CREATE TABLE MyFirstTable (
  Id bigint GENERATED BY DEFAULT AS IDENTITY (START COUNTER WITH 11000),
  Name text,
  PRIMARY KEY (Id)
);

ALTER TABLE MyFirstTable ALTER COLUMN Id RESTART COUNTER WITH 11000;

Passaggi successivi