Migrer de PostgreSQL vers Spanner (dialecte PostgreSQL)

Cette page explique comment migrer une base de données PostgreSQL Open Source (désormais appelée simplement PostgreSQL) vers une base de données du dialecte PostgreSQL dans Spanner (appelée désormais Spanner).

Pour en savoir plus sur la migration vers Spanner et le dialecte GoogleSQL, consultez la page Migrer de PostgreSQL vers Spanner (dialecte GoogleSQL).

Contraintes de migration

Cloud Spanner utilise certains concepts différemment des autres outils de gestion de base de données d'entreprise. Par conséquent, vous devrez peut-être ajuster l'architecture de votre application pour tirer pleinement parti de ses fonctionnalités. Vous devrez peut-être également compléter Cloud Spanner avec d'autres services Google Cloud pour répondre à vos besoins.

Procédures et déclencheurs stockés

Cloud Spanner n'est pas compatible avec l'exécution de code utilisateur au niveau de la base de données. Par conséquent, dans le cadre de la migration, la logique métier mise en œuvre par les procédures et les déclencheurs stockés au niveau de la base de données doit être déplacée dans l'application.

Séquences

Spanner vous recommande d'utiliser l'UUID version 4 comme méthode par défaut pour générer des valeurs de clé primaire. La fonction GENERATE_UUID() (GoogleSQL, PostgreSQL) renvoie les valeurs de l'UUID version 4 représentées par le type STRING.

Si vous devez générer des valeurs entières, Spanner accepte les séquences positives inversées sur les bits (GoogleSQL, PostgreSQL), qui produisent des valeurs qui se répartissent uniformément dans l'espace de nombres positifs de 64 bits. Vous pouvez utiliser ces numéros pour éviter les problèmes de hotspotting.

Pour en savoir plus, consultez la section Stratégies pour la valeur par défaut de la clé primaire.

Contrôle des accès

Spanner permet un contrôle précis des accès au niveau des tables et des colonnes. Il n'est pas possible de contrôler précisément les accès aux vues. Pour en savoir plus, consultez la section À propos du contrôle ultraprécis des accès.

Processus de migration

La migration implique les tâches suivantes :

  • Mapper un schéma PostgreSQL sur Spanner
  • Traduire des requêtes SQL
  • Créer une instance, une base de données et un schéma Spanner
  • Refactoriser l'application pour qu'elle fonctionne avec votre base de données Spanner.
  • Effectuer la migration des données
  • Vérifier le nouveau système et le passer à l'état de production

Étape 1: Mappez votre schéma PostgreSQL sur Spanner

La première étape pour déplacer une base de données depuis PostgreSQL Open Source vers Spanner consiste à déterminer les modifications de schéma que vous devez apporter au schéma.

Clés primaires

Dans Spanner, chaque table devant stocker plusieurs lignes doit avoir une clé primaire composée d'une ou de plusieurs colonnes de la table. La clé primaire de votre table identifie de manière unique chaque ligne d'une table, et Spanner utilise la clé primaire pour trier les lignes de la table. Spanner étant hautement distribué, il est important de choisir une technique de génération de clé primaire qui s'adapte bien à la croissance de vos données. Pour en savoir plus, consultez les stratégies de migration de clé primaire que nous recommandons.

Notez qu'après avoir désigné votre clé primaire, vous ne pouvez pas ajouter ni supprimer de colonne de clé primaire, ni modifier une valeur de clé primaire sans supprimer et recréer la table. Pour savoir comment désigner votre clé primaire, consultez Schéma et modèle de données – clés primaires.

Index

Les index b-tree PostgreSQL sont semblables aux index secondaires dans Spanner. Dans une base de données Spanner, vous utilisez des index secondaires pour indexer les colonnes fréquemment recherchées afin d'améliorer les performances et pour remplacer les contraintes UNIQUE spécifiées dans vos tables. Par exemple, imaginons que votre DDL PostgreSQL affiche l'instruction suivante :

 CREATE TABLE customer (
    id CHAR (5) PRIMARY KEY,
    first_name VARCHAR (50),
    last_name VARCHAR (50),
    email VARCHAR (50) UNIQUE
 );

Vous devez utiliser cette instruction dans votre LDD Spanner:

CREATE TABLE customer (
   id VARCHAR(5) PRIMARY KEY,
   first_name VARCHAR(50),
   last_name VARCHAR(50),
   email VARCHAR(50)
   );

CREATE UNIQUE INDEX customer_emails ON customer(email);

Vous pouvez trouver les index de toutes vos tables PostgreSQL en exécutant la méta-commande \di dans psql.

Une fois que vous avez déterminé les index dont vous avez besoin, ajoutez des instructions CREATE INDEX pour les créer. Suivez les instructions de la section Index secondaires.

Spanner implémente les index sous forme de tables. Par conséquent, l'indexation de colonnes de façon croissante de manière monotone (comme celles contenant des données TIMESTAMP) peut entraîner un hotspot. Pour en savoir plus sur les méthodes permettant d'éviter les hotspots, consultez l'article Ce que les administrateurs de base de données doivent savoir sur Spanner, partie 1: Clés et index.

Spanner met en œuvre les index secondaires de la même manière que les tables, de sorte que les valeurs de colonne à utiliser comme clés d'index auront les mêmes contraintes que les clés primaires des tables. Cela signifie également que les index ont la même garantie de cohérence que les tables Spanner.

Les recherches de valeurs utilisant des index secondaires sont en réalité les mêmes que les requêtes avec jointure de table. Vous pouvez améliorer les performances des requêtes utilisant des index en stockant des copies des valeurs de colonne de la table d'origine dans l'index secondaire à l'aide de la clause INCLUDE, ce qui en fait un index de couverture.

L'optimiseur de requêtes de Cloud Spanner n'utilise automatiquement un index secondaire que lorsque l'index stocke lui-même toutes les colonnes interrogées (une requête couverte). Pour forcer l'utilisation d'un index lors de la recherche de colonnes dans la table d'origine, vous devez utiliser une directive FORCE INDEX dans l'instruction SQL, par exemple :

SELECT *
FROM MyTable /*@ FORCE_INDEX=MyTableIndex */
WHERE IndexedColumn=$1;

Voici un exemple d'instruction DDL créant un index secondaire pour la table Albums :

CREATE INDEX AlbumsByAlbumTitle ON Albums(AlbumTitle);

Si vous créez des index supplémentaires après le chargement de vos données, le remplissage de l'index peut prendre un certain temps. Nous vous recommandons de limiter la fréquence à laquelle vous les ajoutez à une moyenne de trois par jour. Pour obtenir plus de conseils sur la création d'index secondaires, consultez la section Index secondaires. Pour en savoir plus sur les limitations relatives à la création d'index, consultez la section Mises à jour de schémas.

Vues

Les vues Spanner sont en lecture seule. Ils ne permettent pas d'insérer, de mettre à jour ou de supprimer des données. Pour en savoir plus, consultez la section Vues.

Colonnes générées

Spanner accepte les colonnes générées. Consultez la section Créer et gérer des colonnes générées pour connaître les différences de syntaxe et les restrictions.

Entrelacement de tables

Cloud Spanner propose une fonctionnalité dans laquelle vous pouvez définir deux tables comme ayant une relation parent/enfant de un à plusieurs. Cette fonctionnalité entrelace les lignes de données enfants à côté de leur ligne parente dans le stockage. L'entrelacement signifie que les tables sont préjointes, ce qui permet d'améliorer l'efficacité de la récupération des données lorsque le parent et les enfants sont recherchés ensemble.

La clé primaire de la table enfant doit commencer par la ou les colonnes de clé primaire de la table parente. Du point de vue de la ligne enfant, la clé primaire de la ligne parente est appelée clé étrangère. Vous pouvez définir jusqu'à six niveaux de relations parent-enfant.

Vous pouvez définir des actions ON DELETE pour les tables enfants afin de déterminer ce qui se passe lorsque la ligne parente est supprimée : toutes les lignes enfants sont supprimées ou la suppression de la ligne parente est bloquée tant que des lignes enfants existent.

Voici un exemple de création d'une table Albums entrelacée dans la table parente Singers définie précédemment :

CREATE TABLE Albums (
 SingerID      bigint,
 AlbumID       bigint,
 AlbumTitle    varchar,
 PRIMARY KEY (SingerID, AlbumID)
 )
 INTERLEAVE IN PARENT Singers ON DELETE CASCADE;

Pour en savoir plus, consultez la section Créer des tables entrelacées.

Types de données

Le tableau suivant répertorie les types de données PostgreSQL Open Source non compatibles avec l'interface PostgreSQL pour Spanner.

Type de données Utiliser à la place
bigserial,serial8 bigint, int8
bit [ (n) ] -
variation de bits [ (n) ], varbit [ (n) ] -
box -
caractère [ (n) ], car [ (n) ] caractère variable
cidr text
cercle -
inet text
entier, int4 bigint, int8
intervalle [champs] [ (p) ] bigint
json jsonb
line -
lseg -
macaddr text
argent numérique, décimal
chemin d'accès -
pg_lsn -
point -
polygon -
realfloat4 double précision, float8
smallint, int2 bigint, int8
smallserial, serial2 bigint, int8
série, série4 bigint, int8
time [ (p) ] [ sans fuseau horaire ] texte, au format HH:MM:SS.sss
time [ (p) ] avec fuseau horaire fuseau horaire au format HH:MM:SS.sss+ZZZZ. Vous pouvez aussi utiliser deux colonnes.
timestamp [ (p) ] [ sans fuseau horaire ] "text" ou "timestamptz"
tsquery -
tsvector -
txid_snapshot -
uuid texte ou bytea
xml text

Étape 2: Traduisez des requêtes SQL

Spanner propose de nombreuses fonctions PostgreSQL Open Source pour vous aider à réduire la charge de conversion.

Les requêtes SQL peuvent être profilées à l'aide de la page Spanner Studio de la console Google Cloud pour exécuter la requête. En général, les requêtes qui effectuent des analyses complètes de tables sur des tables volumineuses sont très coûteuses et doivent être utilisées avec parcimonie. Pour en savoir plus sur l'optimisation des requêtes SQL, consultez la documentation relative aux bonnes pratiques SQL.

Étape 3: Créer l'instance, la base de données et le schéma Spanner

Créez l'instance, puis une base de données dans le dialecte PostgreSQL. Créez ensuite votre schéma à l'aide du langage de définition de données (LDD) PostgreSQL.

Utilisez pg_dump pour créer des instructions LDD qui définissent les objets de votre base de données PostgreSQL, puis modifiez-les comme décrit dans les sections précédentes. Après avoir mis à jour les instructions LDD, utilisez-les pour créer votre base de données dans l'instance Spanner.

Pour en savoir plus, consultez :

Étape 4: Refactorisez l'application

Ajoutez une logique d'application pour tenir compte du schéma modifié et des requêtes SQL révisées, et pour remplacer la logique résidente de la base de données, comme les procédures et les déclencheurs.

Étape 5: Migrez vos données

Il existe deux façons de migrer vos données:

  • En utilisant Harbourbridge.

    Harbourbridge est compatible avec la migration du schéma et des données. Vous pouvez importer un fichier pg_dump ou CSV, ou l'importer via une connexion directe à la base de données Open Source PostgreSQL.

  • À l'aide de la commande COPY FROM STDIN

    Pour en savoir plus, consultez la section Commande COPY pour l'importation de données.