Estadísticas de consulta

Spanner proporciona tablas integradas que conservan muchas estadísticas de las consultas y las instrucciones de DML que usaron más CPU, y todas las consultas en conjunto (incluidas las consultas de flujo de cambios).

Disponibilidad

Los datos SPANNER_SYS solo están disponibles a través de interfaces de SQL; por ejemplo:

Otros métodos de lectura única que proporciona Spanner no son compatibles con SPANNER_SYS.

Uso de CPU agrupado por consulta

Con las siguientes tablas, se realiza un seguimiento de las consultas con el uso más alto de CPU durante un período específico:

  • SPANNER_SYS.QUERY_STATS_TOP_MINUTE: Consultas en intervalos de 1 minuto
  • SPANNER_SYS.QUERY_STATS_TOP_10MINUTE: Consultas en intervalos de 10 minutos
  • SPANNER_SYS.QUERY_STATS_TOP_HOUR: Consultas en intervalos de 1 hora

Estas tablas tienen las siguientes propiedades:

  • Cada tabla contiene datos de intervalos de tiempo no superpuestos de la longitud que se especifica en el nombre de la tabla.

  • Los intervalos se basan en tiempos de reloj. Los intervalos de 1 minuto finalizan en el minuto, los intervalos de 10 minutos finalizan cada 10 minutos a partir de la hora y los intervalos de 1 hora finalizan en la hora.

    Por ejemplo, a las 11:59:30 a.m., los intervalos más recientes disponibles para las consultas de SQL son los siguientes:

    • 1 minuto: de 11:58:00 a 11:58:59 a.m.
    • 10 minutos: de 11:40:00 a 11:49:59 a.m.
    • 1 hora: de 10:00:00 a 10:59:59 a.m.

  • Spanner agrupa las estadísticas según el texto de la consulta en SQL. Si una consulta usa parámetros de búsqueda, Spanner agrupa todas las ejecuciones de esa consulta en una fila. Si la consulta usa literales de cadena, Spanner solo agrupa las estadísticas si el texto completo de la consulta es idéntico; cuando algún texto difiere, cada consulta aparece como una fila separada. En el caso de la DML por lotes, Spanner normaliza el lote a través de la eliminación de duplicados de declaraciones idénticas consecutivas antes de generar la huella digital.

  • Si hay una etiqueta de solicitud, FPRINT es el hash de la etiqueta de solicitud. De lo contrario, es el hash del valor TEXT. Para las DML particionadas, FPRINT siempre es el hash del valor TEXT.

  • Cada fila contiene estadísticas de todas las ejecuciones de una consulta en SQL en particular en las que Spanner captura estadísticas durante el intervalo especificado.

  • Si Spanner no puede almacenar todas las consultas que se ejecutan durante el intervalo, el sistema prioriza las consultas con el mayor uso de CPU durante el intervalo especificado.

  • Las consultas con seguimiento incluyen aquellas que el usuario completó, con errores o que canceló.

  • Un subconjunto de estadísticas es específico de las consultas que se ejecutaron, pero que no se completaron:

    • El recuento de ejecución y la latencia media en segundos en todas las consultas que no tuvieron éxito.

    • Recuento de ejecuciones para las consultas que agotaron el tiempo de espera.

    • Recuento de ejecuciones de las consultas que el usuario canceló o que fallaron debido a problemas de conectividad de red.

  • Todas las columnas de las tablas admiten valores nulos.

Las estadísticas de consultas admiten estadísticas de DML particionadas, con las siguientes propiedades:

  • Cada declaración DML particionada que se realiza correctamente se cuenta estrictamente como una ejecución. Una declaración DML particionada que falló, se canceló o se está ejecutando tiene un recuento de ejecución de cero.

  • No se realiza un seguimiento de las estadísticas de ALL_FAILED_EXECUTION_COUNT, ALL_FAILED_AVG_LATENCY_SECONDS, CANCELLED_OR_DISCONNECTED_EXECUTION_COUNT ni TIMED_OUT_EXECUTION_COUNT para las DML particionadas.

  • Las estadísticas de cada declaración DML particionada pueden aparecer en diferentes intervalos. SPANNER_SYS.QUERY_STATS_TOP_10MINUTE y SPANNER_SYS.QUERY_STATS_TOP_HOUR proporcionan una vista agregada para las sentencias DML particionadas que finalizan en 10 minutos y 1 hora. Para ver las estadísticas de las sentencias cuya duración es superior a 1 hora, consulta el ejemplo de consulta.

Esquema de la tabla

Nombre de la columna Tipo Descripción
INTERVAL_END TIMESTAMP Fin del intervalo en el que se produjeron las ejecuciones de consultas incluidas
REQUEST_TAG STRING La etiqueta de solicitud opcional para esta operación de consulta. Para obtener más información sobre el uso de etiquetas, consulta Solución de problemas con etiquetas de solicitud.
QUERY_TYPE STRING Indica si una consulta es PARTITIONED_QUERY o QUERY. Un PARTITIONED_QUERY es una consulta con un partitionToken obtenido de la API de PartitionQuery o una sentencia DML particionada. Todas las demás consultas y sentencias DML se indican con el tipo de consulta QUERY.
TEXT STRING Texto de consulta de SQL, truncado a aproximadamente 64 KB

Las estadísticas de varias consultas que tienen la misma string de etiquetas se agrupan en una sola fila con REQUEST_TAG que coincide con esa string. Solo el texto de una de esas consultas se muestra en este campo, truncado a aproximadamente 64 KB. En el caso de la DML por lotes, el conjunto de instrucciones de SQL se aplana en una sola fila y se concatena con un delimitador de punto y coma. Los textos SQL idénticos consecutivos se eliminan antes de truncarlos.
TEXT_TRUNCATED BOOL Indica si el texto de la consulta se truncó o no
TEXT_FINGERPRINT INT64 El hash del valor REQUEST_TAG si está presente. De lo contrario, es el hash del valor TEXT. Corresponde al campo query_fingerprint en el registro de auditoría.
EXECUTION_COUNT INT64 Cantidad de veces que Spanner vio la consulta durante el intervalo.
AVG_LATENCY_SECONDS FLOAT64 Promedio de tiempo, en segundos, para cada ejecución de consulta dentro de la base de datos. Este promedio excluye la codificación y el tiempo de transmisión del conjunto de resultados, así como la sobrecarga.
AVG_ROWS FLOAT64 Promedio de filas que mostró la consulta.
AVG_BYTES FLOAT64 Promedio de bytes de datos que mostró la consulta, sin incluir la sobrecarga de codificación de transmisión.
AVG_ROWS_SCANNED FLOAT64 Promedio de filas que analizó la consulta, sin incluir los valores borrados.
AVG_CPU_SECONDS FLOAT64 Promedio de segundos de tiempo de CPU que Spanner invirtió en todas las operaciones para ejecutar la consulta.
ALL_FAILED_EXECUTION_COUNT INT64 Cantidad de veces que la consulta falló durante el intervalo.
ALL_FAILED_AVG_LATENCY_SECONDS FLOAT64 Promedio de tiempo, en segundos, para cada ejecución de consulta que falló en la base de datos. Este promedio excluye la codificación y el tiempo de transmisión del conjunto de resultados, así como la sobrecarga.
CANCELLED_OR_DISCONNECTED_EXECUTION_COUNT INT64 Cantidad de veces que el usuario canceló la consulta o falló debido a una conexión de red interrumpida durante el intervalo.
TIMED_OUT_EXECUTION_COUNT INT64 Cantidad de veces que se agotó el tiempo de espera de la consulta durante el intervalo.
AVG_BYTES_WRITTEN FLOAT64 Es la cantidad promedio de bytes que escribió la sentencia.
AVG_ROWS_WRITTEN FLOAT64 Es la cantidad promedio de filas que modificó la sentencia.
STATEMENT_COUNT INT64 Es la suma de las instrucciones agregadas a esta entrada. Para las consultas normales y la DML, esto es igual al recuento de ejecuciones. En el caso de la DML por lotes, Spanner captura la cantidad de instrucciones del lote.
RUN_IN_RW_TRANSACTION_EXECUTION_COUNT INT64 Es la cantidad de veces que se ejecutó la consulta como parte de una transacción de lectura y escritura. Esta columna te ayuda a determinar si puedes evitar las contención de bloqueos moviendo la consulta a una transacción de solo lectura.
LATENCY_DISTRIBUTION ARRAY<STRUCT>

Un histograma del tiempo de ejecución de la consulta. Los valores se miden en segundos.

El array contiene un solo elemento y tiene el siguiente tipo:
ARRAY<STRUCT<
  COUNT INT64,
  MEAN FLOAT64,
  SUM_OF_SQUARED_DEVIATION FLOAT64,
  NUM_FINITE_BUCKETS INT64,
  GROWTH_FACTOR FLOAT64,
  SCALE FLOAT64,
  BUCKET_COUNTS ARRAY<INT64>>>
Para obtener más información sobre los valores, consulta Distribución.

Para calcular la latencia del percentil de la distribución, usa la función SPANNER_SYS.DISTRIBUTION_PERCENTILE(distribution, n FLOAT64), que muestra el percentil n estimado. Para ver un ejemplo relacionado, consulta Cómo encontrar la latencia del percentil 99 para las consultas.

Para obtener más información, consulta Percentiles y métricas con valores de distribución.

AVG_MEMORY_PEAK_USAGE_BYTES FLOAT64

Durante una ejecución de consulta distribuida, el uso máximo promedio de memoria (en bytes)

Usa esta estadística para identificar qué consultas o tamaños de datos de tablas es probable que encuentren límites de memoria.
AVG_MEMORY_USAGE_PERCENTAGE FLOAT64

Durante la ejecución de una consulta distribuida, el uso promedio de memoria requerido (como un porcentaje del límite de memoria permitido para esta consulta)

Esta estadística solo realiza un seguimiento de la memoria necesaria para que se ejecute la consulta. Algunos operadores usan memoria de almacenamiento en búfer adicional para mejorar el rendimiento. La memoria de almacenamiento en búfer adicional que se usa se puede ver en el plan de consulta, pero no se usa para calcular AVG_MEMORY_USAGE_PERCENTAGE porque la memoria de almacenamiento en búfer se usa para la optimización y no es obligatoria.

Usa esta estadística para identificar las consultas que están por alcanzar el límite de uso de la memoria y que corren el riesgo de fallar si aumenta el tamaño de los datos. Para mitigar el riesgo de que falle la consulta, consulta las prácticas recomendadas de SQL para optimizar estas consultas o dividirlas en partes que lean menos datos.
AVG_QUERY_PLAN_CREATION_TIME_SECS FLOAT64

Es el tiempo promedio de CPU en segundos dedicado a la compilación de consultas, incluida la creación del entorno de ejecución de consultas.

Si el valor de esta columna es alto, usa consultas con parámetros.
AVG_FILESYSTEM_DELAY_SECS FLOAT64

Es el tiempo promedio que la consulta dedica a leer del sistema de archivos o a bloquearse en la entrada y salida (E/S).

Usa esta estadística para identificar la posible latencia alta causada por la E/S del sistema de archivos. Para mitigarlo, agrega un índice o una cláusula STORING (GoogleSQL) o INCLUDE (PostgreSQL) a un índice existente.
AVG_REMOTE_SERVER_CALLS FLOAT64

Es la cantidad promedio de llamadas al servidor remoto (RPC) que completó la consulta.

Usa esta estadística para identificar si diferentes consultas que analizan la misma cantidad de filas tienen una cantidad muy diferente de RPC. La consulta con un valor de RPC más alto podría beneficiarse de agregar un índice o una cláusula STORING (GoogleSQL) o INCLUDE (PostgreSQL) a un índice existente.
AVG_ROWS_SPOOLED FLOAT64

Es la cantidad promedio de filas que la sentencia de consulta escribe en un disco temporal (no en la memoria).

Usa esta estadística para identificar consultas con latencia potencialmente alta que son costosas en términos de memoria y que no se pueden ejecutar en memoria. Para mitigarlo, cambia el orden de JOIN o agrega un índice que proporcione un SORT obligatorio.

EXECUTION_COUNT, AVG_LATENCY_SECONDS y LATENCY_DISTRIBUTION para las consultas con errores incluyen consultas que fallaron debido a una sintaxis incorrecta o que encontraron un error transitorio, pero tuvieron éxito en el reintento. Estas estadísticas no realizan un seguimiento de las declaraciones DML particionadas que fallaron o se cancelaron.

Estadísticas agregadas

También hay tablas que realizan un seguimiento de los datos agregados de todas las consultas para las que Spanner capturó estadísticas en un período específico:

  • SPANNER_SYS.QUERY_STATS_TOTAL_MINUTE: Consultas en intervalos de 1 minuto
  • SPANNER_SYS.QUERY_STATS_TOTAL_10MINUTE: Consultas en intervalos de 10 minutos
  • SPANNER_SYS.QUERY_STATS_TOTAL_HOUR: Consultas en intervalos de 1 hora

Estas tablas tienen las siguientes propiedades:

  • Cada tabla contiene datos de intervalos de tiempo no superpuestos de la longitud que se especifica en el nombre de la tabla.

  • Los intervalos se basan en tiempos de reloj. Los intervalos de 1 minuto finalizan en el minuto, los intervalos de 10 minutos finalizan cada 10 minutos a partir de la hora y los intervalos de 1 hora finalizan en la hora.

    Por ejemplo, a las 11:59:30 a.m., los intervalos más recientes disponibles para las consultas de SQL son los siguientes:

    • 1 minuto: de 11:58:00 a 11:58:59 a.m.
    • 10 minutos: de 11:40:00 a 11:49:59 a.m.
    • 1 hora: de 10:00:00 a 10:59:59 a.m.

  • Cada fila contiene estadísticas de todas las consultas que se ejecutaron en la base de datos durante el intervalo especificado, combinadas. Solo hay una fila por intervalo de tiempo y, además, incluye consultas completadas, consultas con errores y consultas que canceló el usuario.

  • Las estadísticas capturadas en las tablas TOTAL pueden incluir consultas que Spanner no capturó en las tablas TOP.

  • Algunas columnas de estas tablas se exponen como métricas en Cloud Monitoring. Las métricas expuestas son las siguientes:

    • Cantidad de ejecuciones de consultas
    • Fallos de consulta
    • Latencias de las consultas
    • Cantidad de filas mostradas
    • Cantidad de filas analizadas
    • Recuento de bytes mostrados
    • Tiempo de CPU de consulta

    Para obtener más información, consulta Métricas de Spanner.

Esquema de la tabla

Nombre de la columna Tipo Descripción
INTERVAL_END TIMESTAMP Fin del intervalo en el que se produjeron las ejecuciones de consultas incluidas
EXECUTION_COUNT INT64 Cantidad de veces que Spanner hizo la consulta durante el intervalo.
AVG_LATENCY_SECONDS FLOAT64 Promedio de tiempo, en segundos, para cada ejecución de consulta dentro de la base de datos. Este promedio excluye la codificación y el tiempo de transmisión del conjunto de resultados, así como la sobrecarga.
AVG_ROWS FLOAT64 Promedio de filas que mostró la consulta.
AVG_BYTES FLOAT64 Promedio de bytes de datos que mostró la consulta, sin incluir la sobrecarga de codificación de transmisión.
AVG_ROWS_SCANNED FLOAT64 Promedio de filas que analizó la consulta, sin incluir los valores borrados.
AVG_CPU_SECONDS FLOAT64 Promedio de segundos de tiempo de CPU que Spanner invirtió en todas las operaciones para ejecutar la consulta.
ALL_FAILED_EXECUTION_COUNT INT64 Cantidad de veces que la consulta falló durante el intervalo.
ALL_FAILED_AVG_LATENCY_SECONDS FLOAT64 Promedio de tiempo, en segundos, para cada ejecución de consulta que falló en la base de datos. Este promedio excluye la codificación y el tiempo de transmisión del conjunto de resultados, así como la sobrecarga.
CANCELLED_OR_DISCONNECTED_EXECUTION_COUNT INT64 Cantidad de veces que el usuario canceló la consulta o falló debido a una conexión de red interrumpida durante el intervalo.
TIMED_OUT_EXECUTION_COUNT INT64 Cantidad de veces que se agotó el tiempo de espera de la consulta durante el intervalo.
AVG_BYTES_WRITTEN FLOAT64 Es la cantidad promedio de bytes que escribió la sentencia.
AVG_ROWS_WRITTEN FLOAT64 Es la cantidad promedio de filas que modificó la sentencia.
RUN_IN_RW_TRANSACTION_EXECUTION_COUNT INT64 Indica la cantidad de veces que se ejecutaron las consultas como parte de transacciones de lectura y escritura. Esta columna te ayuda a determinar si puedes evitar las contención de bloqueos moviendo algunas consultas a transacciones de solo lectura.
LATENCY_DISTRIBUTION ARRAY<STRUCT>

Un histograma del tiempo de ejecución en todas las consultas. Los valores se miden en segundos.

Especifica el array de la siguiente manera:
ARRAY<STRUCT<
  COUNT INT64,
  MEAN FLOAT64,
  SUM_OF_SQUARED_DEVIATION FLOAT64,
  NUM_FINITE_BUCKETS INT64,
  GROWTH_FACTOR FLOAT64,
  SCALE FLOAT64,
  BUCKET_COUNTS ARRAY<INT64>>>
Para obtener más información sobre los valores, consulta Distribución.

Para calcular la latencia del percentil de la distribución, usa la función SPANNER_SYS.DISTRIBUTION_PERCENTILE(distribution, n FLOAT64), que muestra el percentil n estimado. Para ver un ejemplo relacionado, consulta Cómo encontrar la latencia del percentil 99 para las consultas.

Para obtener más información, consulta Percentiles y métricas con valores de distribución.

Retención de datos

Como mínimo, Spanner conserva los datos para cada tabla durante los siguientes períodos:

  • SPANNER_SYS.QUERY_STATS_TOP_MINUTE y SPANNER_SYS.QUERY_STATS_TOTAL_MINUTE: Intervalos que abarcan las 6 horas anteriores.

  • SPANNER_SYS.QUERY_STATS_TOP_10MINUTE y SPANNER_SYS.QUERY_STATS_TOTAL_10MINUTE: Intervalos que abarcan los 4 días anteriores.

  • SPANNER_SYS.QUERY_STATS_TOP_HOUR y SPANNER_SYS.QUERY_STATS_TOTAL_HOUR: Intervalos que abarcan los 30 días anteriores.

Consultas de ejemplo

En esta sección, se incluyen varias instrucciones de SQL de ejemplo que recuperan estadísticas de consultas. Puedes ejecutar estas instrucciones de SQL con las bibliotecas cliente, Google Cloud CLI o la consola deGoogle Cloud .

Enumera las estadísticas básicas de cada consulta en un período determinado

La siguiente consulta muestra los datos sin procesar de las consultas principales en el minuto anterior:

SELECT text,
       request_tag,
       interval_end,
       execution_count,
       avg_latency_seconds,
       avg_rows,
       avg_bytes,
       avg_rows_scanned,
       avg_cpu_seconds
FROM spanner_sys.query_stats_top_minute
ORDER BY interval_end DESC;

Muestra una lista de las estadísticas de las sentencias DML particionadas que se ejecutan durante más de una hora

La siguiente consulta muestra el recuento de ejecución y las filas promedio escritas por las consultas de DML particionadas principales en las horas anteriores:

SELECT text,
       request_tag,
       interval_end,
       sum(execution_count) as execution_count
       sum(avg_rows_written*execution_count)/sum(execution_count) as avg_rows_written
FROM spanner_sys.query_stats_top_hour
WHERE starts_with(text, "UPDATE") AND query_type = "PARTITIONED_QUERY"
group by text,request_tag, query_type;

Genera una lista de las consultas con el mayor uso de CPU

La siguiente consulta muestra las consultas con el uso de CPU más alto en la hora anterior:

SELECT text,
       request_tag,
       execution_count AS count,
       avg_latency_seconds AS latency,
       avg_cpu_seconds AS cpu,
       execution_count * avg_cpu_seconds AS total_cpu
FROM spanner_sys.query_stats_top_hour
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_top_hour)
ORDER BY total_cpu DESC;

Conoce el recuento total de ejecuciones en un período determinado

La siguiente consulta muestra la cantidad total de consultas ejecutadas en el intervalo completo de 1 minuto más reciente:

SELECT interval_end,
       execution_count
FROM spanner_sys.query_stats_total_minute
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_top_minute);

Encuentra la latencia promedio de una consulta

La siguiente consulta muestra la información de latencia promedio de una consulta específica:

SELECT avg_latency_seconds
FROM spanner_sys.query_stats_top_hour
WHERE text LIKE "SELECT x FROM table WHERE x=@foo;";

Cómo encontrar la latencia del percentil 99 para las consultas

La siguiente consulta muestra el percentil 99 del tiempo de ejecución en las consultas que se ejecutaron en los 10 minutos anteriores:

SELECT interval_end, avg_latency_seconds, SPANNER_SYS.DISTRIBUTION_PERCENTILE(latency_distribution[OFFSET(0)], 99.0)
  AS percentile_latency
FROM spanner_sys.query_stats_total_10minute
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_total_10minute)
ORDER BY interval_end;

Comparar la latencia promedio con la latencia del percentil 99 ayuda a identificar posibles consultas anómalas con tiempos de ejecución altos.

Encuentra las consultas que analizan la mayor cantidad de datos

Puedes usar la cantidad de filas analizadas por una consulta como una medida de la cantidad de datos que analizó la consulta. La siguiente consulta muestra el número de filas analizadas por consultas ejecutadas en la hora anterior:

SELECT text,
       execution_count,
       avg_rows_scanned
FROM spanner_sys.query_stats_top_hour
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_top_hour)
ORDER BY avg_rows_scanned DESC;

Encuentra las instrucciones que escribieron la mayor cantidad de datos

Puedes usar la cantidad de filas escritas (o bytes escritos) por la DML como una medida de la cantidad de datos que modificó la consulta. La siguiente consulta muestra la cantidad de filas escritas por las instrucciones DML ejecutadas en la hora anterior:

SELECT text,
       execution_count,
       avg_rows_written
FROM spanner_sys.query_stats_top_hour
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_top_hour)
ORDER BY avg_rows_written DESC;

Calcular el total de uso de la CPU en todas las consultas

La siguiente consulta muestra el número de horas de CPU usadas en la hora anterior:

SELECT (avg_cpu_seconds * execution_count / 60 / 60)
  AS total_cpu_hours
FROM spanner_sys.query_stats_total_hour
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_total_hour);

Muestra las consultas que fallaron en un período determinado

La siguiente consulta muestra los datos sin procesar, incluido el recuento de ejecución y la latencia promedio de las consultas con errores para las consultas principales durante el minuto anterior. Estas estadísticas no realizan un seguimiento de las declaraciones DML particionadas que fallaron o se cancelaron.

SELECT text,
       request_tag,
       interval_end,
       execution_count,
       all_failed_execution_count,
       all_failed_avg_latency_seconds,
       avg_latency_seconds,
       avg_rows,
       avg_bytes,
       avg_rows_scanned,
       avg_cpu_seconds
FROM spanner_sys.query_stats_top_minute
WHERE all_failed_execution_count > 0
ORDER BY interval_end;

Encuentra el recuento total de errores en un período determinado

La siguiente consulta muestra la cantidad total de consultas que no se ejecutaron en el intervalo completo de 1 minuto más reciente. Estas estadísticas no realizan un seguimiento de las declaraciones DML particionadas fallidas y canceladas.

SELECT interval_end,
       all_failed_execution_count
FROM spanner_sys.query_stats_total_minute
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_top_minute)
ORDER BY interval_end;

Genera una lista de las consultas que tienen más tiempo de espera

La siguiente consulta muestra las consultas con el recuento de tiempo de espera más alto en la hora anterior.

SELECT text,
       execution_count AS count,
       timed_out_execution_count AS timeout_count,
       avg_latency_seconds AS latency,
       avg_cpu_seconds AS cpu,
       execution_count * avg_cpu_seconds AS total_cpu
FROM spanner_sys.query_stats_top_hour
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_top_hour)
ORDER BY timed_out_execution_count DESC;

Encuentra la latencia promedio de ejecuciones correctas y con errores para una consulta

La siguiente consulta muestra la latencia promedio combinada, la latencia promedio de las ejecuciones exitosas y la latencia promedio de las ejecuciones fallidas de una consulta específica. Estas estadísticas no realizan un seguimiento de las declaraciones DML particionadas que fallaron o se cancelaron.

SELECT avg_latency_seconds AS combined_avg_latency,
       all_failed_avg_latency_seconds AS failed_execution_latency,
       ( avg_latency_seconds * execution_count -
         all_failed_avg_latency_seconds * all_failed_execution_count
       ) / (
       execution_count - all_failed_execution_count ) AS success_execution_latency
FROM   spanner_sys.query_stats_top_hour
WHERE  text LIKE "select x from table where x=@foo;";

Soluciona problemas del uso alto de CPU o latencia de consulta elevada con estadísticas de consultas

Las estadísticas de consultas son útiles cuando necesitas investigar el uso alto de CPU en tu base de datos de Spanner o cuando solo intentas comprender las formas de consulta pesadas de CPU en tu base de datos. Inspeccionar las consultas que usan cantidades significativas de recursos de bases de datos brinda a los usuarios de Spanner una forma potencial de reducir los costos operativos y, quizás, mejorar las latencias generales del sistema.

Puedes usar el código SQL o el panel Estadísticas de consultas para investigar las consultas problemáticas en tu base de datos. En los siguientes temas, se muestra cómo puedes investigar esas consultas con el código SQL.

Si bien el siguiente ejemplo se centra en el uso de la CPU, se pueden seguir pasos similares para solucionar los problemas de latencia de consulta elevada y encontrar las consultas con mayor latencia. Solo selecciona intervalos y consultas por tiempo de latencia en lugar de uso de CPU.

Selecciona un período para investigar

Para comenzar la investigación, busca un momento en el que la aplicación comience a experimentar un uso alto de CPU. Por ejemplo, si el problema comenzó a ocurrir alrededor del 24 de julio de 2020 a las 5:00 p.m. UTC.

Recopila estadísticas de consultas para el período seleccionado

Después de seleccionar un período para comenzar nuestra investigación, veremos las estadísticas recopiladas en la tabla QUERY_STATS_TOTAL_10MINUTE alrededor de ese momento. Los resultados de esta consulta pueden indicar cómo cambiaron la CPU y otras estadísticas de la consulta durante ese período.

La siguiente consulta muestra las estadísticas de consultas agregadas de 16:30 a 17:30 UTC inclusive. Usamos ROUND en nuestra consulta a fin de restringir la cantidad de decimales para fines de visualización.

SELECT interval_end,
       execution_count AS count,
       ROUND(avg_latency_seconds,2) AS latency,
       ROUND(avg_rows,2) AS rows_returned,
       ROUND(avg_bytes,2) AS bytes,
       ROUND(avg_rows_scanned,2) AS rows_scanned,
       ROUND(avg_cpu_seconds,3) AS avg_cpu
FROM spanner_sys.query_stats_total_10minute
WHERE
  interval_end >= "2020-07-24T16:30:00Z"
  AND interval_end <= "2020-07-24T17:30:00Z"
ORDER BY interval_end;

La ejecución de la consulta arrojó los siguientes resultados.

interval_end count Latencia Filas mostradas bytes Filas analizadas CPU promedio
2020-07-24T16:30:00Z 6 0.06 5.00 536.00 16.67 0.035
2020-07-24T16:40:00Z 55 0.02 0.22 25.29 0.22 0.004
2020-07-24T16:50:00Z 102 0.02 0.30 33.35 0.30 0.004
2020-07-24T17:00:00Z 154 1.06 4.42 486.33 7792208.12 4.633
2020-07-24T17:10:00Z 94 0.02 1.68 106.84 1.68 0.006
2020-07-24T17:20:00Z 110 0.02 0.38 34.60 0.38 0.005
2020-07-24T17:30:00Z 47 0.02 0.23 24.96 0.23 0.004

En la tabla anterior, vemos que el tiempo de CPU promedio, la columna average_cpu en la tabla de resultados, es más alta en los intervalos destacados que terminan en 17:00. También vemos una cantidad mucho mayor de filas analizadas en promedio. Esto indica que las consultas más demandantes se ejecutaron entre las 16:50 y las 17:00. Elige ese intervalo para investigar más en el paso siguiente.

Encuentra las consultas que generan un uso elevado de la CPU

Con un intervalo de tiempo para investigar seleccionado, ahora consultamos la tabla QUERY_STATS_TOP_10MINUTE. Los resultados de esta consulta pueden ayudar a indicar qué consultas causan un uso de CPU elevado.

SELECT text_fingerprint AS fingerprint,
       execution_count AS count,
       ROUND(avg_latency_seconds,2) AS latency,
       ROUND(avg_cpu_seconds,3) AS cpu,
       ROUND(execution_count * avg_cpu_seconds,3) AS total_cpu
FROM spanner_sys.query_stats_top_10MINUTE
WHERE
  interval_end = "2020-07-24T17:00:00Z"
ORDER BY total_cpu DESC;

Cuando se ejecuta esta consulta, se obtienen los siguientes resultados.

Fingerprint count Latencia cpu total_cpu
5505124206529314852 30 3.88 17.635 529.039
1697951036096498470 10 4.49 18.388 183.882
2295109096748351518 1 0.33 0.048 0.048
11618299167612903606 1 0.25 0.021 0.021
10302798842433860499 1 0.04 0.006 0.006
123771704548746223 1 0.04 0.006 0.006
4216063638051261350 1 0.04 0.006 0.006
3654744714919476398 1 0.04 0.006 0.006
2999453161628434990 1 0.04 0.006 0.006
823179738756093706 1 0.02 0.005 0.0056

Las 2 consultas principales, destacadas en la tabla de resultados, son valores atípicos en términos de CPU y latencia promedio, así como la cantidad de ejecuciones y la CPU total. Investiga la primera consulta que aparece en estos resultados.

Compara las ejecuciones de consultas a lo largo del tiempo

Después de limitar la investigación, podemos enfocarnos en la tabla QUERY_STATS_TOP_MINUTE. Cuando comparamos las ejecuciones en el tiempo de una consulta en particular, podemos buscar correlaciones entre la cantidad de filas o bytes que se muestran, o la cantidad de filas analizadas y la latencia o CPU elevada. Una desviación puede indicar que no hay uniformidad en los datos. La cantidad constante de filas analizadas puede indicar la falta de índices adecuados o un orden de unión subóptimo.

Investigamos la consulta que muestra el uso de CPU promedio y la latencia más altos mediante la ejecución de la siguiente declaración, que filtra la text_huella digital de esa consulta.

SELECT interval_end,
       ROUND(avg_latency_seconds,2) AS latency,
       avg_rows AS rows_returned,
       avg_bytes AS bytes_returned,
       avg_rows_scanned AS rows_scanned,
       ROUND(avg_cpu_seconds,3) AS cpu,
FROM spanner_sys.query_stats_top_minute
WHERE text_fingerprint = 5505124206529314852
ORDER BY interval_end DESC;

Cuando se ejecuta esta consulta, se muestran los siguientes resultados.

interval_end Latencia Filas mostradas bytes_devueltos Filas analizadas cpu
2020-07-24T17:00:00Z 4.55 21 2365 30000000 19.255
2020-07-24T16:00:00Z 3.62 21 2365 30000000 17.255
2020-07-24T15:00:00Z 4.37 21 2365 30000000 18.350
2020-07-24T14:00:00Z 4.02 21 2365 30000000 17.748
2020-07-24T13:00:00Z 3.12 21 2365 30000000 16.380
2020-07-24T12:00:00Z 3.45 21 2365 30000000 15.476
2020-07-24T11:00:00Z 4.94 21 2365 30000000 22.611
2020-07-24T10:00:00Z 6.48 21 2365 30000000 21.265
2020-07-24T09:00:00Z 0.23 21 2365 5 0.040
2020-07-24T08:00:00Z 0.04 21 2365 5 0.021
2020-07-24T07:00:00Z 0.09 21 2365 5 0.030

Si examinamos los resultados anteriores, vemos que la cantidad de filas analizadas, la CPU usada y la latencia cambiaron de manera significativa a las 9:00 a.m. Para comprender por qué estos números aumentaron de forma considerable, examinaremos el texto de la consulta y veremos si algún cambio en el esquema puede haber afectado la consulta.

Usa la siguiente consulta para recuperar el texto de la consulta que estamos investigando.

SELECT text,
       text_truncated
FROM spanner_sys.query_stats_top_hour
WHERE text_fingerprint = 5505124206529314852
LIMIT 1;

Esta acción devuelve el siguiente resultado.

text text_truncated
selecciona * en los pedidos en los que o_custkey = 36901; falso

Cuando examinamos el texto de la consulta que se muestra, nos dimos cuenta de que la consulta filtra en un campo llamado o_custkey. Esta es una columna sin clave en la tabla orders. Como suele suceder, hubo un índice en esa columna que se descartó cerca de las 9 a.m. Esto explica el cambio en el costo de esta consulta. Podemos volver a agregar el índice o, si la consulta se ejecuta con poca frecuencia, decidir no incluir el índice y aceptar el costo de lectura más alto.

Nuestra investigación se enfocó hasta el momento en las consultas que se completaron de forma correcta y descubrimos un motivo por el cual la base de datos experimentaba cierta degradación del rendimiento. En el siguiente paso, nos enfocaremos en las consultas fallidas o canceladas, y mostraremos cómo examinar esos datos para obtener más estadísticas.

Cómo investigar consultas que fallaron

Las consultas que no se completan de forma correcta consumen recursos antes de que se agote el tiempo de espera, se cancelen o fallen. Spanner hace un seguimiento del recuento de ejecuciones y de los recursos que consumen las consultas con errores junto con los correctos. Estas estadísticas no realizan un seguimiento de las declaraciones DML particionadas que fallaron o se cancelaron.

Para verificar si las consultas con errores son un factor importante del uso del sistema, primero podemos verificar cuántas consultas fallaron en el intervalo de interés.

SELECT interval_end,
       all_failed_execution_count AS failed_count,
       all_failed_avg_latency_seconds AS latency
FROM spanner_sys.query_stats_total_minute
WHERE
  interval_end >= "2020-07-24T16:50:00Z"
  AND interval_end <= "2020-07-24T17:00:00Z"
ORDER BY interval_end;
interval_end Cantidad de consultas fallidas Latencia
2020-07-24T16:52:00Z 1 15.211391
2020-07-24T16:53:00Z 3 58.312232

Si seguimos investigando, podemos buscar consultas que tengan más probabilidades de fallar mediante el uso de la siguiente consulta.

SELECT interval_end,
       text_fingerprint,
       execution_count,
       avg_latency_seconds AS avg_latency,
       all_failed_execution_count AS failed_count,
       all_failed_avg_latency_seconds AS failed_latency,
       cancelled_or_disconnected_execution_count AS cancel_count,
       timed_out_execution_count AS to_count
FROM spanner_sys.query_stats_top_minute
WHERE all_failed_execution_count > 0
ORDER BY interval_end;
interval_end text_fingerprint execution_count Cantidad de consultas fallidas cancelar_recuento para_recuento
2020-07-24T16:52:00Z 5505124206529314852 3 1 1 0
2020-07-24T16:53:00Z 1697951036096498470 2 1 1 0
2020-07-24T16:53:00Z 5505124206529314852 5 2 1 1

Como se muestra en la tabla anterior, la consulta con la huella digital 5505124206529314852 falló varias veces durante diferentes intervalos de tiempo. Dado un patrón de fallas como este, es interesante comparar la latencia de las ejecuciones correctas con las fallidas.

SELECT interval_end,
       avg_latency_seconds AS combined_avg_latency,
       all_failed_avg_latency_seconds AS failed_execution_latency,
       ( avg_latency_seconds * execution_count -
         all_failed_avg_latency_seconds * all_failed_execution_count
       ) / (
       execution_count - all_failed_execution_count ) AS success_execution_latency
FROM   spanner_sys.query_stats_top_hour
WHERE  text_fingerprint = 5505124206529314852;
interval_end latencia_promedio_combinada latencia_ejecución_fallida latencia_ejecución_exitosa
2020-07-24T17:00:00Z 3.880420 13.830709 2.774832

Aplica las prácticas recomendadas

Después de identificar una consulta que puede optimizarse, podemos observar el perfil de consulta y tratar de optimizar mediante las prácticas recomendadas de SQL.

¿Qué sigue?