Apporta aggiornamenti allo schema

Spanner consente di aggiornare lo schema senza tempi di inattività. Puoi aggiornare lo schema di un database esistente in diversi modi:

Aggiornamenti dello schema supportati

Spanner supporta i seguenti aggiornamenti dello schema di un database esistente:

  • Aggiungi o rilascia uno schema denominato.
  • Crea una nuova tabella. Le colonne nelle nuove tabelle possono essere NOT NULL.
  • Elimina una tabella se non ci sono altre tabelle con interleaving al suo interno e non ha indici secondari.
  • Crea o elimina una tabella con una chiave esterna.
  • Aggiungi o rimuovi una chiave esterna da una tabella esistente.
  • Aggiungi una colonna non chiave a qualsiasi tabella. Le nuove colonne non chiave non possono essere NOT NULL.
  • Rilascia una colonna non chiave da qualsiasi tabella, a meno che non sia utilizzata da un indice secondario, da una chiave esterna, da una colonna generata archiviata o da un vincolo di verifica.
  • Aggiungi NOT NULL a una colonna non chiave, escluse le colonne ARRAY.
  • Rimuovi NOT NULL da una colonna non chiave.
  • Cambia una colonna STRING in una colonna BYTES o una colonna BYTES in una colonna STRING.
  • Cambia una colonna PROTO in una colonna BYTES o una colonna BYTES in una colonna PROTO.
  • Modifica il tipo di messaggio di protocollo di una colonna PROTO.
  • Aggiungi nuovi valori a una definizione di ENUM e rinomina i valori esistenti utilizzando ALTER PROTO BUNDLE.
  • Modifica i messaggi definiti in un PROTO BUNDLE in modo arbitrario, a condizione che i campi modificati di questi messaggi non vengano utilizzati come chiavi in nessuna tabella e che i dati esistenti soddisfino i nuovi vincoli.
  • Aumenta o diminuisci il limite di lunghezza per un tipo STRING o BYTES (incluso fino a MAX), a meno che non si tratti di una colonna di chiave primaria ereditata da una o più tabelle figlio.
  • Aumenta o riduci il limite di lunghezza di una colonna ARRAY<STRING>, ARRAY<BYTES> o ARRAY<PROTO> fino al limite massimo consentito.
  • Abilita o disabilita i timestamp di commit nelle colonne dei valori e di chiave primaria.
  • Aggiungere o rimuovere un indice secondario.
  • Aggiungi o rimuovi un vincolo di controllo da una tabella esistente.
  • Aggiungi o rimuovi da una tabella esistente una colonna generata archiviata.
  • Crea un nuovo pacchetto di statistiche di ottimizzazione.
  • Creare e gestire le viste.
  • Crea e gestisci le sequenze.
  • Creare ruoli del database e concedere privilegi.
  • Imposta, modifica o elimina il valore predefinito di una colonna.
  • Modifica le opzioni del database (default_leader o version_retention_period ad esempio).
  • Creare e gestire i flussi di modifiche.
  • Creare e gestire modelli di ML.

Aggiornamenti dello schema non supportati

Spanner non supporta i seguenti aggiornamenti dello schema di un database esistente:

  • Se è presente un campo PROTO di tipo ENUM a cui fa riferimento una tabella o una chiave di indice, non puoi rimuovere i valori ENUM dai proto enum. La rimozione dei valori ENUM dalle enum usate dalle colonne ENUM<> è supportata, anche quando queste colonne vengono utilizzate come chiavi.

Prestazioni dell'aggiornamento dello schema

Gli aggiornamenti dello schema in Spanner non richiedono tempi di inattività. Quando invii un batch di istruzioni DDL a un database Spanner, puoi continuare a scrivere e leggere dal database senza interruzioni mentre Spanner applica l'aggiornamento come operazione a lunga esecuzione.

Il tempo necessario per eseguire un'istruzione DDL dipende dal fatto che l'aggiornamento richieda la convalida dei dati esistenti o il backfill di dati. Ad esempio, se aggiungi l'annotazione NOT NULL a una colonna esistente, Spanner deve leggere tutti i valori nella colonna per assicurarsi che la colonna non contenga valori di NULL. Questo passaggio può richiedere molto tempo se sono presenti molti dati da convalidare. Un altro esempio è l'aggiunta di un indice a un database: Spanner esegue il backfill dell'indice utilizzando i dati esistenti e questo processo può richiedere molto tempo, a seconda di come la definizione dell'indice e le dimensioni della tabella di base corrispondente. Tuttavia, se aggiungi una nuova colonna a una tabella, non esistono dati da convalidare, quindi Spanner può eseguire l'aggiornamento più rapidamente.

Riassumendo, gli aggiornamenti dello schema che non richiedono Spanner per convalidare i dati esistenti possono essere eseguiti in pochi minuti. Gli aggiornamenti dello schema che richiedono la convalida possono richiedere più tempo, a seconda della quantità di dati esistenti che devono essere convalidati, ma la convalida dei dati avviene in background con una priorità inferiore rispetto al traffico di produzione. Gli aggiornamenti dello schema che richiedono la convalida dei dati sono descritti più dettagliatamente nella prossima sezione.

Aggiornamenti dello schema convalidati in base alle definizioni delle viste

Quando esegui un aggiornamento dello schema, Spanner verifica che l'aggiornamento non invalida le query utilizzate per definire le viste esistenti. Se la convalida ha esito positivo, l'aggiornamento dello schema va a buon fine. Se la convalida non va a buon fine, l'aggiornamento dello schema non va a buon fine. Per i dettagli, consulta le best practice per la creazione delle viste.

Aggiornamenti dello schema che richiedono la convalida dei dati

Puoi apportare aggiornamenti allo schema che richiedono la convalida della conformità dei dati esistenti ai nuovi vincoli. Quando un aggiornamento dello schema richiede la convalida dei dati, Spanner non consente gli aggiornamenti in conflitto dello schema nelle entità dello schema interessate e convalida i dati in background. Se la convalida ha esito positivo, l'aggiornamento dello schema va a buon fine. Se la convalida non va a buon fine, l'aggiornamento dello schema non va a buon fine. Le operazioni di convalida vengono eseguite come operazioni a lunga esecuzione. Puoi controllare lo stato di queste operazioni per determinare se sono riuscite o non riuscite.

Ad esempio, supponi di aver definito il seguente file music.proto con un enum RecordLabel e un messaggio di protocollo Songwriter:

  enum RecordLabel {
    COOL_MUSIC_INC = 0;
    PACIFIC_ENTERTAINMENT = 1;
    XYZ_RECORDS = 2;
  }

  message Songwriter {
    required string nationality   = 1;
    optional int64  year_of_birth = 2;
  }

Per aggiungere una tabella Songwriters allo schema:

GoogleSQL 

CREATE PROTO BUNDLE (
  googlesql.example.music.Songwriter,
  googlesql.example.music.RecordLabel,
);

CREATE TABLE Songwriters (
  Id         INT64 NOT NULL,
  FirstName  STRING(1024),
  LastName   STRING(1024),
  Nickname   STRING(MAX),
  OpaqueData BYTES(MAX),
  SongWriter googlesql.example.music.Songwriter
) PRIMARY KEY (Id);

CREATE TABLE Albums (
  SongwriterId     INT64 NOT NULL,
  AlbumId          INT64 NOT NULL,
  AlbumTitle       STRING(MAX),
  Label            INT32
) PRIMARY KEY (SongwriterId, AlbumId);

I seguenti aggiornamenti dello schema sono consentiti, ma richiedono la convalida e il completamento potrebbe richiedere più tempo, a seconda della quantità di dati esistenti:

  • Aggiunta dell'annotazione NOT NULL a una colonna non chiave. Ad esempio:

    ALTER TABLE Songwriters ALTER COLUMN Nickname STRING(MAX) NOT NULL;

  • Ridurre la lunghezza di una colonna. Ad esempio:

    ALTER TABLE Songwriters ALTER COLUMN FirstName STRING(10);

  • Modifica in corso da BYTES a STRING. Ad esempio:

    ALTER TABLE Songwriters ALTER COLUMN OpaqueData STRING(MAX);

  • Modifica in corso da INT64/INT32 a ENUM. Ad esempio:

    ALTER TABLE Albums ALTER COLUMN Label googlesql.example.music.RecordLabel;

  • Rimozione dei valori esistenti dalla definizione enum RecordLabel.

  • Abilitazione dei timestamp di commit in una colonna TIMESTAMP esistente. Ad esempio:

    ALTER TABLE Albums ALTER COLUMN LastUpdateTime SET OPTIONS (allow_commit_timestamp = true);

  • Aggiunta di un vincolo di controllo a una tabella esistente.

  • Aggiunta di una colonna generata archiviata a una tabella esistente.

  • Creazione di una nuova tabella con una chiave esterna.

  • Aggiunta di una chiave esterna a una tabella esistente.

Questi aggiornamenti dello schema non riescono se i dati sottostanti non soddisfano i nuovi vincoli. Ad esempio, l'istruzione ALTER TABLE Songwriters ALTER COLUMN Nickname STRING(MAX) NOT NULL ha esito negativo se un valore nella colonna Nickname è NULL, perché i dati esistenti non soddisfano il vincolo NOT NULL della nuova definizione.

La convalida dei dati può richiedere da diversi minuti a molte ore. Il tempo per il completamento della convalida dei dati dipende da:

  • La dimensione del set di dati
  • La capacità di calcolo dell'istanza
  • Il carico sull'istanza

Alcuni aggiornamenti dello schema possono modificare il comportamento delle richieste al database prima del completamento dell'aggiornamento dello schema. Ad esempio, se aggiungi NOT NULL a una colonna, Spanner inizia quasi immediatamente a rifiutare le scritture per le nuove richieste che utilizzano NULL per la colonna. Se alla fine il nuovo aggiornamento dello schema non riesce per la convalida dei dati, ci sarà stato un periodo di tempo in cui le scritture sono state bloccate, anche se sarebbero state accettate dallo schema precedente.

Puoi annullare un'operazione di convalida dei dati a lunga esecuzione utilizzando il metodo projects.instances.databases.operations.cancel o gcloud spanner operations.

Ordine di esecuzione delle istruzioni in batch

Se utilizzi Google Cloud CLI, l'API REST o l'API RPC, puoi inviare un batch di una o più istruzioni CREATE, ALTER o DROP.

Spanner applica le istruzioni dello stesso batch in ordine, fermandosi al primo errore. Se l'applicazione di un'istruzione genera un errore, viene eseguito il rollback dell'istruzione. I risultati di eventuali istruzioni applicate in precedenza nel batch non vengono sottoposti a rollback.

Spanner potrebbe combinare e riordinare le istruzioni di diversi batch, potenzialmente mescolando istruzioni di batch diversi in un'unica modifica atomica applicata al database. All'interno di ogni modifica atomica, le istruzioni di batch diversi avvengono in un ordine arbitrario. Ad esempio, se un batch di istruzioni contiene ALTER TABLE MyTable ALTER COLUMN MyColumn STRING(50) e un altro batch di istruzioni contiene ALTER TABLE MyTable ALTER COLUMN MyColumn STRING(20), Spanner lascerà la colonna in uno di questi due stati, ma non verrà specificato quale.

Versioni di schema create durante gli aggiornamenti dello schema

Spanner utilizza il controllo delle versioni dello schema per evitare tempi di inattività durante l'aggiornamento dello schema a un database di grandi dimensioni. Spanner mantiene la versione precedente dello schema per supportare le letture durante l'elaborazione dell'aggiornamento dello schema. Spanner crea quindi una o più nuove versioni dello schema per elaborare l'aggiornamento dello schema. Ogni versione contiene il risultato di una raccolta di istruzioni in una singola modifica atomica.

Le versioni dello schema non corrispondono necessariamente uno a uno né con i batch di istruzioni DDL né con le singole istruzioni DDL. Alcune singole istruzioni DDL, come la creazione di indici per tabelle di base esistenti o istruzioni che richiedono la convalida dei dati, generano più versioni dello schema. In altri casi, più istruzioni DDL possono essere raggruppate in un'unica versione. Le versioni precedenti dello schema possono utilizzare notevoli risorse per il server e l'archiviazione e vengono conservate fino alla scadenza (non sono più necessarie per gestire le letture di versioni precedenti dei dati).

La tabella seguente mostra il tempo necessario a Spanner per aggiornare uno schema.

Operazione dello schema Durata stimata
CREATE TABLE Minuti
CREATE INDEX

Da minuti a ore, se la tabella di base viene creata prima dell'indice.

Minuti, se l'istruzione viene eseguita contemporaneamente all'istruzione CREATE TABLE per la tabella di base.
DROP TABLE Minuti
DROP INDEX Minuti
ALTER TABLE ... ADD COLUMN Minuti
ALTER TABLE ... ALTER COLUMN

Da minuti a ore, se è richiesta la convalida in background.

Minuti, se la convalida in background non è richiesta.
ALTER TABLE ... DROP COLUMN Minuti
ANALYZE

Da minuti a ore, a seconda della dimensione del database.

Modifiche ai tipi di dati e modifiche in tempo reale

Se modifichi il tipo di dati di una colonna monitorata da un flusso di modifiche, il campo column_types dei record di modifiche in tempo reale pertinenti riflette il nuovo tipo, così come i dati JSON di old_values nel campo mods dei record.

Il new_values del campo mods di un record di modifiche in tempo reale corrisponde sempre al tipo corrente di una colonna. La modifica del tipo di dati di una colonna controllata non influisce sui record delle modifiche in tempo reale precedenti a tale modifica.

Nel caso specifico di una modifica da BYTES a STRING, Spanner convalida i vecchi valori della colonna nell'ambito dell'aggiornamento dello schema. Di conseguenza, Spanner ha decodificato in modo sicuro i vecchi valori del tipo BYTES in stringhe quando scrive eventuali record successivi delle modifiche in tempo reale.

Best practice per gli aggiornamenti dello schema

Le seguenti sezioni descrivono le best practice per l'aggiornamento degli schemi.

Procedure precedenti all'aggiornamento dello schema

Prima di eseguire un aggiornamento dello schema:

  • Verifica che tutti i dati esistenti nel database che stai modificando soddisfino i vincoli imposti dall'aggiornamento dello schema. Poiché il successo di alcuni tipi di aggiornamenti dello schema dipende dai dati nel database e non solo dallo schema attuale, un aggiornamento dello schema riuscito di un database di test non garantisce la riuscita dell'aggiornamento di un database di produzione. Ecco alcuni esempi comuni:

    • Se aggiungi un'annotazione NOT NULL a una colonna esistente, verifica che la colonna non contenga valori NULL esistenti.
    • Se stai abbreviando la lunghezza consentita di una colonna STRING o BYTES, verifica che tutti i valori esistenti in quella colonna soddisfino il vincolo di lunghezza.

  • Se scrivi su una colonna, una tabella o un indice in fase di aggiornamento dello schema, assicurati che i valori che stai scrivendo soddisfino i nuovi vincoli.

  • Se stai eliminando una colonna, una tabella o un indice, assicurati di non continuare a eseguire operazioni di scrittura o lettura su quell'elemento.

Limitare la frequenza degli aggiornamenti dello schema

Se esegui troppi aggiornamenti dello schema in un breve periodo di tempo, Spanner potrebbe throttle elaborare gli aggiornamenti dello schema in coda. Questo perché Spanner limita la quantità di spazio per l'archiviazione delle versioni dello schema. L'aggiornamento dello schema potrebbe essere limitato se sono presenti troppe versioni precedenti dello schema nel periodo di conservazione. La frequenza massima delle modifiche allo schema dipende da molti fattori, uno dei quali è il numero totale di colonne nel database. Ad esempio, un database con 2000 colonne (circa 2000 righe in INFORMATION_SCHEMA.COLUMNS) è in grado di eseguire al massimo 1500 modifiche allo schema (meno se la modifica allo schema richiede più versioni) durante il periodo di conservazione. Per visualizzare lo stato degli aggiornamenti dello schema in corso, utilizza il comando gcloud spanner operations list e filtra per operazioni di tipo DATABASE_UPDATE_DDL. Per annullare un aggiornamento in corso dello schema, utilizza il comando gcloud spanner operations cancel e specifica l'ID operazione.

Il modo in cui le istruzioni DDL vengono raggruppate e il loro ordine all'interno di ogni batch possono influire sul numero di versioni dello schema risultanti. Per massimizzare il numero di aggiornamenti dello schema che puoi eseguire in un determinato periodo di tempo, devi utilizzare il batch che riduce al minimo il numero di versioni dello schema. Alcune regole generali sono descritte negli aggiornamenti di grandi dimensioni.

Come descritto nelle versioni dello schema, alcune istruzioni DDL creano più versioni dello schema, che sono importanti quando si considerano le istruzioni in batch e l'ordine all'interno di ogni batch. Esistono due tipi principali di istruzioni che possono creare più versioni dello schema:

  • Dichiarazioni che potrebbero richiedere il backfill dei dati dell'indice, ad esempio CREATE INDEX
  • Dichiarazioni che potrebbero richiedere la convalida di dati esistenti, come l'aggiunta di NOT NULL

Tuttavia, questi tipi di istruzioni non creano sempre più versioni dello schema. Spanner proverà a rilevare quando questi tipi di istruzioni possono essere ottimizzati per evitare di utilizzare più versioni dello schema, che dipendono dal raggruppamento. Ad esempio, un'istruzione CREATE INDEX che si verifica nello stesso batch di un'istruzione CREATE TABLE per la tabella di base dell'indice, senza alcuna istruzione intermedia per altre tabelle, può evitare di dover eseguire il backfill dei dati dell'indice, poiché Spanner può garantire che la tabella di base sia vuota al momento della creazione dell'indice. La sezione relativa agli aggiornamenti di grandi dimensioni descrive come utilizzare questa proprietà per creare molti indici in modo efficiente.

Se non puoi raggruppare le istruzioni DDL per evitare di creare molte versioni dello schema, devi limitare il numero di aggiornamenti dello schema allo schema di un singolo database nel relativo periodo di conservazione. Aumenta l'intervallo di tempo durante il quale effettui gli aggiornamenti dello schema per consentire a Spanner di rimuovere le versioni precedenti dello schema prima che vengano create nuove versioni.

  • Per alcuni sistemi di gestione di database relazionali, esistono pacchetti software che effettuano una lunga serie di aggiornamenti dello schema di upgrade e downgrade del database a ogni deployment in produzione. Questi tipi di processi non sono consigliati per Spanner.
  • Spanner è ottimizzato per usare le chiavi primarie per eseguire il partizionamento dei dati per soluzioni multi-tenancy. Le soluzioni multi-tenancy che utilizzano tabelle separate per ciascun cliente possono comportare un backlog elevato di operazioni di aggiornamento dello schema che richiedono molto tempo per il completamento.
  • Gli aggiornamenti dello schema che richiedono la convalida o il backfill dell'indice utilizzano più risorse del server perché ogni istruzione crea più versioni dello schema internamente.

Opzioni per aggiornamenti di grandi dimensioni dello schema

Il modo migliore per creare una tabella e un numero elevato di indici al suo interno è crearli tutti contemporaneamente, in modo che venga creata una sola versione dello schema. Conviene creare gli indici subito dopo la tabella nell'elenco di istruzioni DDL. Puoi creare la tabella e i suoi indici quando crei il database o in un singolo batch di grandi dimensioni di istruzioni. Se devi creare molte tabelle, ciascuna con molti indici, puoi includere tutte le istruzioni in un singolo batch. Puoi includere diverse migliaia di istruzioni in un unico batch quando tutte le istruzioni possono essere eseguite insieme utilizzando un'unica versione dello schema.

Quando un'istruzione richiede il backfill dei dati dell'indice o la convalida dei dati, non può essere eseguita in una singola versione dello schema. Questo si verifica per le istruzioni CREATE INDEX quando la tabella di base dell'indice esiste già (perché è stata creata in un batch precedente di istruzioni DDL o perché era presente un'istruzione nel batch tra le istruzioni CREATE TABLE e CREATE INDEX che richiedevano più versioni dello schema). Spanner richiede che ci siano non più di 10 istruzioni in un singolo batch. Per la creazione di indici che richiedono in particolare il backfill, vengono utilizzate diverse versioni dello schema per indice, pertanto è buona norma creare non più di tre nuovi indici che richiedono il backfill al giorno (indipendentemente dalla modalità di raggruppamento in batch, a meno che questo non impedisca il backfill).

Ad esempio, questo gruppo di istruzioni utilizzerà una singola versione dello schema:

GoogleSQL 

CREATE TABLE Singers (
SingerId   INT64 NOT NULL,
FirstName  STRING(1024),
LastName   STRING(1024),
) PRIMARY KEY (SingerId);

CREATE INDEX SingersByFirstName ON Singers(FirstName);

CREATE INDEX SingersByLastName ON Singers(LastName);

CREATE TABLE Albums (
SingerId   INT64 NOT NULL,
AlbumId    INT64 NOT NULL,
AlbumTitle STRING(MAX),
) PRIMARY KEY (SingerId, AlbumId);

CREATE INDEX AlbumsByTitle ON Albums(AlbumTitle);

Al contrario, questo batch utilizzerà molte versioni dello schema, perché UnrelatedIndex richiede il backfill (dal momento che la sua tabella di base deve essere già esistente) e ciò obbliga tutti i seguenti indici a richiedere anche il backfill (anche se si trovano nello stesso batch delle relative tabelle di base):

GoogleSQL 

CREATE TABLE Singers (
SingerId   INT64 NOT NULL,
FirstName  STRING(1024),
LastName   STRING(1024),
) PRIMARY KEY (SingerId);

CREATE TABLE Albums (
SingerId   INT64 NOT NULL,
AlbumId    INT64 NOT NULL,
AlbumTitle STRING(MAX),
) PRIMARY KEY (SingerId, AlbumId);

CREATE INDEX UnrelatedIndex ON UnrelatedTable(UnrelatedIndexKey);

CREATE INDEX SingersByFirstName ON Singers(FirstName);

CREATE INDEX SingersByLastName ON Singers(LastName);

CREATE INDEX AlbumsByTitle ON Albums(AlbumTitle);

Sarebbe meglio spostare la creazione di UnrelatedIndex alla fine del batch o in un batch diverso, per ridurre al minimo le versioni dello schema.

Attendi il completamento delle richieste API

Quando effettui richieste projects.instances.databases.updateDdl (API REST) o UpdateDatabaseDdl (API RPC), utilizza rispettivamente projects.instances.databases.operations.get (API REST) o GetOperation (API RPC) per attendere il completamento di ogni richiesta prima di avviarne una nuova. In attesa del completamento di ogni richiesta, l'applicazione può monitorare lo stato di avanzamento degli aggiornamenti dello schema. Inoltre, mantiene il backlog degli aggiornamenti dello schema in attesa a una dimensione gestibile.

Caricamento collettivo

Se esegui il caricamento in blocco dei dati nelle tabelle dopo la creazione, di solito è più efficiente creare gli indici dopo aver caricato i dati. Se stai aggiungendo diversi indici, potrebbe essere più efficiente creare il database con tutte le tabelle e tutti gli indici nello schema iniziale, come descritto nelle opzioni per gli aggiornamenti di grandi dimensioni.