Estadísticas de DML particionadas activas

El lenguaje de manipulación de datos (DML) particionado activo proporciona el progreso en tiempo real de los DML particionados que actualmente están activos en la base de datos.

Spanner proporciona una tabla integrada, SPANNER_SYS.ACTIVE_PARTITIONED_DMLS, que enumera los DML particionados en ejecución y el progreso que se realizaron en ellos.

En este artículo, describiremos la tabla en detalle, mostraremos algunas consultas de ejemplo que usan esta tabla y, finalmente, demostraremos cómo usar estas consultas para ayudar a mitigar problemas causados por DML particionados activos.

Disponibilidad

Los datos de SPANNER_SYS solo están disponibles a través de interfaces de SQL. Por ejemplo:

Otros métodos de lectura única que proporciona Spanner no son compatibles con SPANNER_SYS.

ACTIVE_PARTITIONED_DMLS

SPANNER_SYS.ACTIVE_PARTITIONED_DMLS muestra una lista de los DML particionados activos ordenados por su hora de inicio.

Esquema de la tabla

A continuación, se muestra el esquema de la tabla de SPANNER_SYS.ACTIVE_PARTITIONED_DMLS.

nombre de la columna Tipo Descripción
TEXT STRING El texto de la declaración de consulta de DML particionada.
TEXT_FINGERPRINT INT64 La huella digital es un hash del texto DML particionado.
SESSION_ID STRING El ID de la sesión que ejecuta el DML particionado. Si borras el ID de sesión, se cancelará la consulta.
NUM_PARTITIONS_TOTAL INT64 La cantidad total de particiones en el DML particionado.
NUM_PARTITIONS_COMPLETE INT64 La cantidad de particiones que completó el DML particionado.
NUM_TRIVIAL_PARTITIONS_COMPLETE INT64 Es la cantidad de particiones completas en las que no se procesaron filas.
PROGRESS DOUBLE El progreso de un DML particionado se calcula como la cantidad de particiones no triviales completadas dividida por la cantidad total de particiones no triviales.
ROWS_PROCESSED INT64 La cantidad de filas procesadas hasta el momento, actualizadas después de que se completa cada partición.
START_TIMESTAMP. TIMESTAMP Un límite superior en la hora de inicio de un DML particionado.
LAST_UPDATE_TIMESTAMP TIMESTAMP Última marca de tiempo en la que avanzó el DML particionado. Se actualiza después de que se completa una partición.

Consultas de ejemplo

Puedes ejecutar las siguientes instrucciones de SQL de ejemplo con las bibliotecas cliente, Google Cloud CLI o la consola de Google Cloud.

Enumera las consultas en ejecución más antiguas

En la siguiente consulta, se muestra una lista de los DML particionados en ejecución ordenados por la hora de inicio de la consulta.

SELECT text,
       session_id,
       num_partitions_total,
       num_partitions_complete,
       num_trivial_partitions_complete,
       progress,
       rows_processed,
       start_timestamp,
       last_update_timestamp
FROM spanner_sys.active_partitioned_dmls
ORDER BY start_timestamp ASC;
texto session_id num_partitions_total num_partitions_complete num_trivial_partitions_complete #googlecloudcertified rows_processed start_timestamp last_update_timestamp
UPDATE Concerts SET VenueId = \'increíble local\' WHERE SingerId < 900000 5bd37a99-200c-5d2e-9021-15d0dbbd97e6 27 15 3 50.00% 2398654 2024-01-21 15:56:30.498744-8:00 2024-01-22 15:56:39.049799-08:00
UPDATE Singers SET LastName = NULL WHERE LastName = '' 0028284f-0190-52f9-b396-aa588e034806 8 4 4 00,00% 0 2024-01-22 15:55:18.498744-8:00 2024-01-22 15:56:28.049799-8:00
DELETE de Singers WHERE SingerId > 1000000 0071a85e-7e5c-576b-8a17-f9bc3d157eea 8 4 3 20,00% 238654 2024-01-22 15:56:30.498744-8:00 2024-01-22 15:56:19.049799-8:00
UPDATE cantantes SET MarketingBudget = 1000 WHERE true 036097a9-91d4-566a-a399-20c754eabdc2 8 5 0 62,50% 238654 2024-01-22 15:57:47.498744-8:00 2024-01-22 15:57:39.049799-08:00

Limitaciones

El uso de la tabla SPANNER_SYS.ACTIVE_PARTITIONED_DMLS tiene las siguientes limitaciones:

  • Los resultados de PROGRESS, ROWS_PROCESSED y LAST_UPDATE_TIMESTAMP aumentan en los límites de partición completos, por lo que el DML particionado puede seguir actualizando filas, mientras que los valores en estos tres campos permanecen iguales.

  • Si hay millones de particiones en un DML particionado, es posible que el valor de la columna PROGRESS no capture todo el progreso incremental. Usa NUM_PARTITIONS_COMPLETE y NUM_TRIVIAL_PARTITIONS_COMPLETE para hacer referencia al progreso con mayor nivel de detalle.

  • Si cancelas un DML particionado mediante una solicitud de RPC, es posible que el DML particionado cancelado aún aparezca en la tabla. Si cancelas un DML particionado mediante la eliminación de sesiones, se quita de la tabla de inmediato. Para obtener más información, consulta Cómo borrar el ID de sesión.

Usa los datos de consultas DML particionadas activas para solucionar problemas relacionados con el alto uso de CPU

Las estadísticas de consulta y estadísticas de transacciones proporcionan información útil cuando solucionas problemas de latencia en una base de datos de Spanner. Estas herramientas proporcionan información sobre las consultas que ya se completaron. Sin embargo, a veces es necesario saber qué se está ejecutando en el sistema. Por ejemplo, considera la situación en la que el uso de CPU es alto y deseas responder las siguientes preguntas.

  • ¿Cuántos DML particionados se están ejecutando en este momento?
  • ¿Qué son estos DML particionados?
  • ¿Cuántos de esos DML particionados se ejecutan durante mucho tiempo?
  • ¿En qué sesión se está ejecutando la consulta?

Si tienes respuestas para las preguntas anteriores, puedes decidir realizar la siguiente acción.

  • Borra la sesión que ejecuta la consulta para obtener una resolución inmediata.
  • Reduce la frecuencia de un DML particionado.

En la siguiente explicación, examinaremos los DML particionados activos y determinaremos qué acción, si corresponde, tomar.

Recuperar un resumen de los DML particionados activos

En nuestra situación de ejemplo, notamos un uso de CPU más alto de lo normal, por lo que decidimos ejecutar la siguiente consulta para mostrar el recuento de DML particionados activos.

SELECT count(*) as active_count
FROM spanner_sys.active_partitioned_dmls;

La consulta arroja el siguiente resultado.

active_count
22

Enumera los 2 DML particionados en ejecución más antiguos

Luego, podemos ejecutar una consulta para obtener más información sobre los 2 DML particionados en ejecución más antiguos, ordenados por la hora de inicio del DML particionado.

SELECT text,
       session_id,
       num_partitions_total,
       num_partitions_complete,
       num_trivial_partitions_complete,
       progress,
       rows_processed,
       start_timestamp,
       last_update_timestamp
FROM spanner_sys.active_partitioned_dmls
ORDER BY start_timestamp ASC LIMIT 2;
texto session_id num_partitions_total num_partitions_complete num_trivial_partitions_complete #googlecloudcertified rows_processed start_timestamp last_update_timestamp
UPDATE Concerts SET VenueId = \'increíble local\' WHERE SingerId < 900000 5bd37a99-200c-5d2e-9021-15d0dbbd97e6 27 15 3 50.00% 2398654 2024-01-21 15:56:30.498744-8:00 2024-01-22 15:56:39.049799-08:00
UPDATE Singers SET LastName = NULL WHERE LastName = '' 0028284f-0190-52f9-b396-aa588e034806 8 4 4 00,00% 0 2024-01-22 15:55:18.498744-8:00 2024-01-22 15:56:28.049799-8:00

Cancela una consulta costosa

Detectamos un DML particionado que se ejecuta desde hace días y no progresa. Por lo tanto, podemos ejecutar el siguiente comando gcloud spanner databases sessions delete para borrar la sesión con el ID de sesión que cancela el DML particionado.

gcloud spanner databases sessions delete\
   5bd37a99-200c-5d2e-9021-15d0dbbd97e6 \
    --database=singer_db --instance=test-instance

¿Qué sigue?