Realiza actualizaciones del esquema

Spanner te permite realizar actualizaciones del esquema sin tiempo de inactividad. Puedes actualizar el esquema de una base de datos existente de varias maneras:

Actualizaciones del esquema compatibles

Spanner admite las siguientes actualizaciones de esquema de una base de datos existente:

  • Crear una tabla nueva Las columnas de las tablas nuevas pueden ser NOT NULL
  • Borrar una tabla, si la tabla no tiene otras intercaladas ni índices secundarios
  • Crear o borrar una tabla con una clave externa
  • Agregar o quitar una clave externa de una tabla existente.
  • Agregar una columna sin clave a una tabla. Las columnas nuevas sin clave no pueden ser NOT NULL.
  • Descarta una columna sin clave de cualquier tabla, a menos que la use un índice secundario, una clave externa, una columna generada almacenada o una restricción de verificación.
  • Agregar NOT NULL a una columna sin clave, excepto las columnas ARRAY
  • Quitar NOT NULL de una columna sin clave
  • Cambiar una columna STRING por una columna BYTES o una columna BYTES por una columna STRING
  • Aumentar o disminuir el límite de longitud para un tipo STRING o BYTES (incluido MAX), a menos que sea una columna de clave primaria que heredada por una o más tablas secundarias
  • Habilitar o inhabilitar marcas de tiempo de confirmación en las columnas de valor y clave primaria
  • Agregar o quitar un índice secundario
  • Agrega o quita una restricción de verificación de una tabla existente.
  • Agrega o quita de una tabla existente una columna generada que se almacena.
  • Crea un nuevo paquete de estadísticas del optimizador.

Rendimiento de la actualización del esquema

Las actualizaciones de esquema en Spanner no requieren tiempo de inactividad. Cuando emites un lote de declaraciones DDL a una base de datos de Spanner, puedes continuar escribiendo en la base de datos y leyendo desde ella sin interrupciones mientras Spanner aplica la actualización como una operación de larga duración.

El tiempo que tarda ejecutar una declaración DDL está sujeto a si la actualización requiere la validación de los datos existentes o el reabastecimiento de algún dato. Por ejemplo, si agregas la anotación NOT NULL a una columna existente, Spanner debe leer todos los valores de la columna para asegurarse de que la columna no contenga valores NULL. Este paso puede demorar bastante si hay muchos datos para validar. Otro ejemplo es si agregas un índice a una base de datos: Spanner reabastece el índice con datos existentes, y ese proceso puede tardar mucho tiempo según la definición del índice y el tamaño de la tabla base correspondiente. Sin embargo, si agregas una columna nueva a una tabla, no hay datos para validar, por lo que Spanner puede realizar la actualización con más rapidez.

En resumen, las actualizaciones de esquema que no requieren que Spanner valide los datos existentes pueden ocurrir en minutos. Las actualizaciones del esquema que requieren validación pueden tardar más, según la cantidad de datos existentes que deban validarse. Sin embargo, la validación de datos ocurre en segundo plano con una prioridad menor que el tráfico de producción. Las actualizaciones del esquema que requieren validación de datos se analizan con más detalle en la sección siguiente.

Actualizaciones del esquema validadas en función de las definiciones de vistas

Cuando actualizas un esquema, Spanner valida que la actualización no invalidará las consultas usadas para definir las vistas existentes. Si la validación se realiza correctamente, la actualización del esquema se realizará de forma correcta. Si la validación no es exitosa, la actualización del esquema falla. Consulta Prácticas recomendadas para crear vistas a fin de obtener más detalles.

Actualizaciones del esquema que requieren validación de datos

Puedes realizar actualizaciones del esquema que requieran validar que los datos existentes cumplan con las restricciones nuevas. Cuando una actualización del esquema requiere la validación de datos, Spanner no permite las actualizaciones de esquema en conflicto para las entidades de esquema afectadas y valida los datos en segundo plano. Si la validación no falla, se realizará de forma correcta la actualización del esquema. Si la validación falla, la actualización del esquema no se realizará de forma correcta. Las operaciones de validación se ejecutan como operaciones de larga duración. Puedes verificar el estado de estas operaciones para determinar si se realizaron de forma correcta o no.

Por ejemplo, supongamos que definiste una tabla Songwriters en tu esquema:

GoogleSQL

CREATE TABLE Songwriters (
  Id         INT64 NOT NULL,
  FirstName  STRING(1024),
  LastName   STRING(1024),
  Nickname   STRING(MAX),
  OpaqueData BYTES(MAX),
) PRIMARY KEY (Id);

Se permiten las siguientes actualizaciones del esquema, pero requieren validación y pueden tardar más en completarse, según la cantidad de datos existentes:

  • Agregar la anotación NOT NULL a una columna sin clave. Por ejemplo:

    ALTER TABLE Songwriters ALTER COLUMN Nickname STRING(MAX) NOT NULL;
    
  • Reducir la longitud de una columna. Por ejemplo:

    ALTER TABLE Songwriters ALTER COLUMN FirstName STRING(10);
    
  • Cambiar BYTES por STRING. Por ejemplo:

    ALTER TABLE Songwriters ALTER COLUMN OpaqueData STRING(MAX);
    
  • Habilitar marcas de tiempo de confirmación en una columna TIMESTAMP existente. Por ejemplo:

    ALTER TABLE Albums ALTER COLUMN LastUpdateTime SET OPTIONS (allow_commit_timestamp = true);
    
  • Agregar una restricción de verificación a una tabla existente

  • Agregar una columna generada almacenada a una tabla existente.

  • Crear una tabla nueva con una clave externa

  • Agregar una clave externa a una tabla existente

Estas actualizaciones del esquema fallan si los datos subyacentes no cumplen con las restricciones nuevas. Por ejemplo, la declaración ALTER TABLE Songwriters ALTER COLUMN Nickname STRING(MAX) NOT NULL anterior falla si algún valor de la columna Nickname es NULL, porque los datos existentes no cumplen con la restricción NOT NULL de la definición nueva.

La validación de datos puede tardar varios minutos o varias horas. El tiempo para completar la validación de los datos depende de lo siguiente:

  • El tamaño del conjunto de datos
  • La capacidad de procesamiento de la instancia
  • La carga de la instancia

Algunas actualizaciones del esquema pueden cambiar el comportamiento de las solicitudes a la base de datos antes de que se complete la actualización del esquema. Por ejemplo, si agregas NOT NULL a una columna, Spanner comienza casi de inmediato a rechazar las escrituras de las solicitudes nuevas que usan NULL para la columna. Si la actualización del esquema nuevo al final falla para la validación de datos, habrá un período en el que se bloquearon las escrituras, incluso si el esquema anterior las hubiera aceptado.

Puedes cancelar una operación de validación de datos de larga duración con el método projects.instances.databases.operations.cancel o con gcloud spanner operations.

Orden de ejecución de las declaraciones en lotes

Si usas Google Cloud CLI, la API de REST o la API de RPC, puedes emitir un lote de una o más declaraciones CREATE, ALTER o DROP.

Spanner aplica declaraciones del mismo lote en orden y se detiene en el primer error. Si aplicar una declaración da como resultado un error, esa declaración se revierte. Los resultados de las declaraciones aplicadas antes en el lote no se revierten.

Spanner puede combinar y reordenar declaraciones de diferentes lotes, lo que podría mezclar declaraciones de lotes diferentes en un cambio atómico que se aplica a la base de datos. Dentro de cada cambio atómico, las declaraciones de diferentes lotes ocurren en un orden arbitrario. Por ejemplo, si un lote de declaraciones contiene ALTER TABLE MyTable ALTER COLUMN MyColumn STRING(50) y otro lote de declaraciones contiene ALTER TABLE MyTable ALTER COLUMN MyColumn STRING(20), Spanner dejará esa columna en uno de esos dos estados, pero no se especificará cuál.

Versiones de esquema creadas durante las actualizaciones del esquema

Spanner usa el control de versiones de esquemas para que no haya tiempo de inactividad durante una actualización del esquema en una base de datos grande. Spanner mantiene la versión anterior del esquema para admitir las lecturas mientras se procesa la actualización del esquema. Luego, Spanner crea una o más versiones nuevas del esquema para procesar la actualización del esquema. Cada versión contiene el resultado de una colección de declaraciones en un cambio atómico único, como se describió antes.

No es necesario que las versiones de esquema se correspondan uno a uno con lotes de declaraciones DDL ni con declaraciones DDL individuales. Algunas declaraciones DDL individuales, como la creación de índices para tablas base existentes o instrucciones que requieren validación de datos, dan como resultado varias versiones de esquema. En otros casos, varias declaraciones DDL se pueden agrupar en una sola versión. Las versiones de esquema anteriores pueden consumir una cantidad significativa de recursos de servidor y almacenamiento, y se retienen hasta que vencen (ya no se necesitan para entregar lecturas de versiones anteriores de datos).

En la siguiente tabla, se muestra cuánto tiempo tarda Spanner en actualizar un esquema.

Operación de esquema Duración estimada
CREATE TABLE Minutos
CREATE INDEX

Minutos a horas, si la tabla base se creó antes del índice

Minutos, si la declaración se ejecuta al mismo tiempo que la declaración CREATE TABLE para la tabla base

DROP TABLE Minutos
DROP INDEX Minutos
ALTER TABLE ... ADD COLUMN Minutos
ALTER TABLE ... ALTER COLUMN

Minutos a horas, si se requiere validación en segundo plano

Minutos, si la validación en segundo plano no es necesaria

ALTER TABLE ... DROP COLUMN Minutos
ANALYZE

De minutos a horas, según el tamaño de la base de datos.

Cambios en los tipos de datos y flujos de cambios

Si cambias el tipo de datos de una columna que supervisa un flujo de cambios, el campo column_types de los registros de flujos de cambios relevantes refleja su tipo nuevo, al igual que los datos JSON de old_values dentro del campo mods de los registros.

El new_values del campo mods de un registro de flujos de cambios siempre coincide con el tipo actual de una columna. Cambiar el tipo de datos de una columna supervisada no afecta ningún registro de flujo de cambios anterior a ese cambio.

En el caso particular de un cambio de BYTES a STRING, Spanner valida los valores anteriores de la columna como parte de la actualización del esquema. Como resultado, Spanner decodificó de forma segura los valores anteriores de tipo BYTES en strings cuando escribe los registros de flujos de cambios posteriores.

Prácticas recomendadas para las actualizaciones del esquema

En las siguientes secciones, se describen las prácticas recomendadas para actualizar esquemas.

Procedimientos previos a la actualización del esquema

Antes de emitir una actualización del esquema, realiza los siguientes pasos:

  • Verifica que todos los datos existentes en la base de datos que deseas modificar cumplan con las restricciones que impone la actualización del esquema. Como el éxito de algunos tipos de actualizaciones del esquema depende de los datos de la base de datos y no solo del esquema actual, una actualización del esquema correcta de una base de datos de prueba no garantiza una actualización del esquema correcta de una base de datos de producción. A continuación, hay algunos ejemplos comunes:

    • Si agregas una anotación NOT NULL a una columna existente, comprueba que la columna no contenga ningún valor NULL existente.
    • Si acortas la longitud permitida de una columna STRING o BYTES, verifica que todos los valores existentes en esa columna cumplan con la restricción de longitud deseada.
  • Si escribes en una columna, tabla o índice que experimenta una actualización del esquema, asegúrate de que los valores que escribes cumplan con las restricciones nuevas.

  • Si eliminas una columna, una tabla o un índice, asegúrate de no estar escribiendo datos allí ni leyéndolos.

Limita la frecuencia de las actualizaciones del esquema

Si realizas demasiadas actualizaciones de esquema en un período corto, Spanner puede throttle el procesamiento de las actualizaciones de esquema en cola. Esto se debe a que Spanner limita la cantidad de espacio para almacenar versiones de esquema. Es posible que la actualización del esquema se limite si hay demasiadas versiones de esquema antiguas dentro del período de retención. La frecuencia máxima de los cambios de esquema depende de muchos factores, uno de ellos es la cantidad total de columnas en la base de datos. Por ejemplo, una base de datos con 2,000 columnas (aproximadamente 2,000 filas en INFORMATION_SCHEMA.COLUMNS) puede realizar un máximo de 1,500 cambios de esquema simples (menos si el cambio de esquema requiere varias versiones) dentro del período de retención. Para ver el estado de las actualizaciones del esquema en curso, usa el comando gcloud spanner operations list y filtra por operaciones de tipo DATABASE_UPDATE_DDL. Para cancelar una actualización de esquema en curso, usa el comando gcloud spanner operations cancel y especifica el ID de operación.

La manera en que se agrupan por lotes tus declaraciones DDL y su orden dentro de cada lote puede afectar la cantidad de versiones de esquema resultantes. Para maximizar la cantidad de actualizaciones del esquema que puedes realizar en un período determinado, debes usar lotes que minimice la cantidad de versiones de esquema. Algunas reglas generales se describen en actualizaciones grandes.

Como se describe en las versiones de esquema, algunas declaraciones DDL crearán varias versiones de esquema, y estas son importantes cuando se consideran los lotes y el orden en cada lote. Hay dos tipos principales de declaraciones que pueden crear varias versiones de esquema:

  • Declaraciones que pueden necesitar reabastecer los datos del índice, como CREATE INDEX
  • Declaraciones que podrían necesitar validar datos existentes, como agregar NOT NULL

Sin embargo, estos tipos de declaraciones no siempre crean varias versiones de esquema. Spanner intentará detectar cuándo se pueden optimizar estos tipos de declaraciones para evitar el uso de varias versiones de esquema, lo que depende del procesamiento por lotes. Por ejemplo, una declaración CREATE INDEX que ocurre en el mismo lote que una declaración CREATE TABLE para la tabla base del índice, sin ninguna declaración que intervenga para otras tablas, puede evitar la necesidad de reabastecer los datos del índice, ya que Spanner puede garantizar que la tabla base estará vacía en el momento en que se crea el índice. En la sección sobre actualizaciones grandes, se describe cómo usar esta propiedad para crear muchos índices de manera eficiente.

Si no puedes agrupar en lotes tus declaraciones DDL para evitar la creación de muchas versiones de esquema, debes limitar la cantidad de actualizaciones del esquema al esquema de una sola base de datos dentro de su período de retención. Aumenta el tiempo en el que realizas actualizaciones del esquema para permitir que Spanner quite las versiones anteriores del esquema antes de que se creen versiones nuevas.

  • Para algunos sistemas de administración de bases de datos relacionales, hay paquetes de software que realizan varias series de actualizaciones del esquema a una versión inferior o una posterior en la base de datos en cada implementación de producción. No se recomiendan estos tipos de procesos para Spanner.
  • Spanner está optimizado para usar claves primarias en los datos de partición de las soluciones de multiusuario. Las soluciones de multiusuario que usan tablas separadas para cada cliente pueden generar una gran acumulación de operaciones de actualización del esquema que tardan mucho en completarse.
  • Las actualizaciones de esquema que requieren validación o reabastecimiento de índices usan más recursos del servidor, ya que cada instrucción crea varias versiones del esquema de forma interna.

Opciones para actualizaciones del esquema grandes

La mejor manera de crear una tabla y una gran cantidad de índices en ella es crearlos todos al mismo tiempo, de modo que se cree una sola versión del esquema. Se recomienda crear los índices inmediatamente después de la tabla en la lista de declaraciones DDL. Puedes crear la tabla y sus índices cuando creas la base de datos o en un único lote grande de declaraciones. Si necesitas crear muchas tablas, cada una con muchos índices, puedes incluir todas las sentencias en un solo lote. Puedes incluir varias miles de declaraciones en un solo lote cuando todas las declaraciones se pueden ejecutar juntas con una sola versión de esquema.

Cuando una instrucción requiere reabastecer los datos del índice o realizar la validación de datos, no se puede ejecutar en una sola versión de esquema. Esto sucede para las declaraciones CREATE INDEX cuando la tabla base del índice ya existe (ya sea porque se creó en un lote anterior de declaraciones DDL o porque había una declaración en el lote entre las declaraciones CREATE TABLE y CREATE INDEX que requería varias versiones de esquema). Spanner requiere que no haya más de 10 declaraciones de ese tipo en un solo lote. Para crear índices que requieren reabastecimiento, en particular, se usan varias versiones de esquema por índice, por lo que es una buena regla general crear no más de 3 índices nuevos que requieran reabastecimiento por día (sin importar cómo se agrupen en lotes, a menos que ese tipo de lotes pueda evitar el reabastecimiento).

Por ejemplo, este lote de declaraciones usará una sola versión de esquema:

GoogleSQL

CREATE TABLE Singers (
SingerId   INT64 NOT NULL,
FirstName  STRING(1024),
LastName   STRING(1024),
) PRIMARY KEY (SingerId);

CREATE INDEX SingersByFirstName ON Singers(FirstName);

CREATE INDEX SingersByLastName ON Singers(LastName);

CREATE TABLE Albums (
SingerId   INT64 NOT NULL,
AlbumId    INT64 NOT NULL,
AlbumTitle STRING(MAX),
) PRIMARY KEY (SingerId, AlbumId);

CREATE INDEX AlbumsByTitle ON Albums(AlbumTitle);

En cambio, este lote usará muchas versiones de esquema, porque UnrelatedIndex requiere el reabastecimiento (ya que su tabla base ya debe existir) y que obliga a todos los siguientes índices a requerir el reabastecimiento (aunque están en el mismo lote que sus tablas base):

GoogleSQL

CREATE TABLE Singers (
SingerId   INT64 NOT NULL,
FirstName  STRING(1024),
LastName   STRING(1024),
) PRIMARY KEY (SingerId);

CREATE TABLE Albums (
SingerId   INT64 NOT NULL,
AlbumId    INT64 NOT NULL,
AlbumTitle STRING(MAX),
) PRIMARY KEY (SingerId, AlbumId);

CREATE INDEX UnrelatedIndex ON UnrelatedTable(UnrelatedIndexKey);

CREATE INDEX SingersByFirstName ON Singers(FirstName);

CREATE INDEX SingersByLastName ON Singers(LastName);

CREATE INDEX AlbumsByTitle ON Albums(AlbumTitle);

Sería mejor mover la creación de UnrelatedIndex al final del lote o a un lote diferente para minimizar las versiones de esquema.

Espera a que se completen las solicitudes a la API

Cuando realices solicitudes projects.instances.databases.updateDdl (API de REST) o UpdateDatabaseDdl (API de RPC), usa projects.instances.databases.operations.get (API de REST) o GetOperation (API de RPC), respectivamente, para esperar a que se complete cada solicitud antes de iniciar una solicitud nueva. Esperar a que se complete cada solicitud permite que tu aplicación realice un seguimiento del progreso de las actualizaciones del esquema. También mantiene la acumulación de actualizaciones del esquema pendientes en un tamaño administrable.

Carga masiva

Si cargas datos de forma masiva en tus tablas después de crearlas, suele ser más eficaz crear índices después de cargar los datos. Si agregas varios índices, podría ser más eficaz crear la base de datos con todas las tablas y los índices en el esquema inicial, como se describe en las opciones para actualizaciones grandes.