Estadísticas de consulta

Spanner proporciona tablas integradas que conservan muchas estadísticas de las consultas y las declaraciones DML que usaron más CPU, así como de todas las consultas agregadas (incluidas las consultas de flujo de cambios).

Disponibilidad

Los datos SPANNER_SYS solo están disponibles a través de interfaces de SQL; por ejemplo:

Otros métodos de lectura única que proporciona Spanner no son compatibles con SPANNER_SYS.

Uso de CPU agrupado por consulta

Con las siguientes tablas, se realiza un seguimiento de las consultas con el uso más alto de CPU durante un período específico:

  • SPANNER_SYS.QUERY_STATS_TOP_MINUTE: Consultas en intervalos de 1 minuto
  • SPANNER_SYS.QUERY_STATS_TOP_10MINUTE: Consultas en intervalos de 10 minutos
  • SPANNER_SYS.QUERY_STATS_TOP_HOUR: Consultas en intervalos de 1 hora

Estas tablas tienen las siguientes propiedades:

  • Cada tabla contiene datos de intervalos de tiempo no superpuestos de la longitud que se especifica en el nombre de la tabla.

  • Los intervalos se basan en tiempos de reloj. Los intervalos de 1 minuto finalizan en el minuto, los intervalos de 10 minutos finalizan cada 10 minutos a partir de la hora y los intervalos de 1 hora finalizan en la hora.

    Por ejemplo, a las 11:59:30 a.m., los intervalos más recientes disponibles para las consultas de SQL son los siguientes:

    • 1 minuto: de 11:58:00 a 11:58:59 a.m.
    • 10 minutos: de 11:40:00 a 11:49:59 a.m.
    • 1 hora: de 10:00:00 a 10:59:59 a.m.

  • Spanner agrupa las estadísticas según el texto de la consulta en SQL. Si una consulta usa parámetros de consulta, Spanner agrupa todas las ejecuciones de esa consulta en una fila. Si la consulta usa literales de string, Spanner solo agrupa las estadísticas si el texto completo de la consulta es idéntico. Cuando cualquier texto difiere, cada consulta aparece como una fila separada. Para el DML por lotes, Spanner normaliza el lote. Para ello, anula el duplicado de declaraciones idénticas consecutivas antes de generar la huella digital.

  • Si hay una etiqueta de solicitud, FPRINT es el hash de esa etiqueta. De lo contrario, es el hash del valor TEXT.

  • Cada fila contiene estadísticas de todas las ejecuciones de una consulta en SQL en particular para las que Spanner captura estadísticas durante el intervalo especificado.

  • Si Spanner no puede almacenar todas las consultas que se ejecutan durante el intervalo, el sistema prioriza las consultas con el mayor uso de CPU durante el intervalo especificado.

  • Las consultas con seguimiento incluyen aquellas que el usuario completó, con errores o que canceló.

  • Un subconjunto de estadísticas es específico de las consultas que se ejecutaron, pero que no se completaron:

    • El recuento de ejecución y la latencia media en segundos en todas las consultas que no tuvieron éxito.

    • Recuento de ejecuciones para las consultas que agotaron el tiempo de espera.

    • Recuento de ejecuciones de las consultas que el usuario canceló o que fallaron debido a problemas de conectividad de red.

  • Todas las columnas de las tablas admiten valores nulos.

Esquema de la tabla

Nombre de la columna Tipo Descripción
INTERVAL_END TIMESTAMP Fin del intervalo en el que se produjeron las ejecuciones de consultas incluidas
REQUEST_TAG STRING La etiqueta de solicitud opcional para esta operación de consulta. Para obtener más información sobre el uso de etiquetas, consulta Solución de problemas con etiquetas de solicitud.
QUERY_TYPE STRING Indica si una consulta es PARTITIONED_QUERY o QUERY. Un PARTITIONED_QUERY es una consulta con un partitionToken que se obtiene de la API de PartitionQuery. Todas las demás consultas y las declaraciones DML se denotan con el tipo de consulta QUERY. No se admiten las estadísticas de consulta para el DML particionado.
TEXT STRING Texto de consulta de SQL, truncado a aproximadamente 64 KB

Las estadísticas de varias consultas que tienen la misma string de etiquetas se agrupan en una sola fila con REQUEST_TAG que coincide con esa string. Solo el texto de una de esas consultas se muestra en este campo, truncado a aproximadamente 64 KB. En el caso del DML por lotes, el conjunto de instrucciones de SQL se acopla en una sola fila y se concatena con un delimitador de punto y coma. Se anula la duplicación de textos en SQL idénticos consecutivos antes de truncarse.
TEXT_TRUNCATED BOOL Indica si el texto de la consulta se truncó o no
TEXT_FINGERPRINT INT64 El hash del valor REQUEST_TAG si está presente. De lo contrario, es el hash del valor TEXT.
EXECUTION_COUNT INT64 Cantidad de veces que Spanner vio la consulta durante el intervalo.
AVG_LATENCY_SECONDS FLOAT64 Promedio de tiempo, en segundos, para cada ejecución de consulta dentro de la base de datos. Este promedio excluye la codificación y el tiempo de transmisión del conjunto de resultados, así como la sobrecarga.
AVG_ROWS FLOAT64 Promedio de filas que mostró la consulta.
AVG_BYTES FLOAT64 Promedio de bytes de datos que mostró la consulta, sin incluir la sobrecarga de codificación de transmisión.
AVG_ROWS_SCANNED FLOAT64 Promedio de filas que analizó la consulta, sin incluir los valores borrados.
AVG_CPU_SECONDS FLOAT64 Promedio de segundos de tiempo de CPU que Spanner dedicó a todas las operaciones para ejecutar la consulta.
ALL_FAILED_EXECUTION_COUNT INT64 Cantidad de veces que la consulta falló durante el intervalo.
ALL_FAILED_AVG_LATENCY_SECONDS FLOAT64 Promedio de tiempo, en segundos, para cada ejecución de consulta que falló en la base de datos. Este promedio excluye la codificación y el tiempo de transmisión del conjunto de resultados, así como la sobrecarga.
CANCELLED_OR_DISCONNECTED_EXECUTION_COUNT INT64 Cantidad de veces que el usuario canceló la consulta o falló debido a una conexión de red interrumpida durante el intervalo.
TIMED_OUT_EXECUTION_COUNT INT64 Cantidad de veces que se agotó el tiempo de espera de la consulta durante el intervalo.
AVG_BYTES_WRITTEN FLOAT64 Cantidad promedio de bytes que escribe la instrucción.
AVG_ROWS_WRITTEN FLOAT64 Promedio de filas modificadas por la instrucción.
STATEMENT_COUNT INT64 Es la suma de las declaraciones agregadas en esta entrada. En el caso de consultas normales y DML, esto equivale al recuento de ejecuciones. En el caso de los DML por lotes, Spanner captura la cantidad de declaraciones en el lote.
RUN_IN_RW_TRANSACTION_EXECUTION_COUNT INT64 Indica la cantidad de veces que se ejecutó la consulta como parte de una transacción de lectura y escritura. Esta columna te ayuda a determinar si puedes evitar las contenciones de bloqueo moviendo la consulta a una transacción de solo lectura.
LATENCY_DISTRIBUTION ARRAY<STRUCT>

Un histograma del tiempo de ejecución de la consulta. Los valores se miden en segundos.

El array contiene un solo elemento y tiene el siguiente tipo:
ARRAY<STRUCT<
  COUNT INT64,
  MEAN FLOAT64,
  SUM_OF_SQUARED_DEVIATION FLOAT64,
  NUM_FINITE_BUCKETS INT64,
  GROWTH_FACTOR FLOAT64,
  SCALE FLOAT64,
  BUCKET_COUNTS ARRAY<INT64>>>
Para obtener más información sobre los valores, consulta Distribución.

Para calcular la latencia de percentil de la distribución, usa la función SPANNER_SYS.DISTRIBUTION_PERCENTILE(distribution, n FLOAT64), que muestra el percentil n estimado. Para ver un ejemplo relacionado, consulta Encuentra la latencia del percentil 99 de las consultas.

Para obtener más información, consulta Percentiles y métricas con valores de distribución.

AVG_MEMORY_PEAK_USAGE_BYTES FLOAT64

El uso máximo promedio de memoria (en bytes) durante una ejecución de consulta distribuida.

Usa esta estadística para identificar qué consultas o tamaños de datos de tablas tienen probabilidades de alcanzar límites de memoria.
AVG_MEMORY_USAGE_PERCENTAGE FLOAT64

Durante la ejecución de una consulta distribuida, el uso promedio de memoria requerido (como un porcentaje del límite de memoria permitido para esta consulta).

Esta estadística solo realiza un seguimiento de la memoria necesaria para que se ejecute la consulta. Algunos operadores usan memoria de almacenamiento en búfer adicional para mejorar el rendimiento. La memoria de almacenamiento en búfer adicional que se usa es visible en el plan de consulta, pero no se usa para calcular AVG_MEMORY_USAGE_PERCENTAGE, ya que la memoria de almacenamiento en búfer se usa para la optimización y no es necesaria.

Usa esta estadística para identificar las consultas que se acercan al límite de uso de memoria y que corren el riesgo de fallar si aumenta el tamaño de los datos. Para mitigar el riesgo de que la consulta falle, consulta las prácticas recomendadas de SQL para optimizar estas consultas o dividir la consulta en partes que lean menos datos.
AVG_QUERY_PLAN_CREATION_TIME_SECS FLOAT64

El tiempo de CPU promedio en segundos dedicado a la compilación de consultas, incluida la creación del tiempo de ejecución de la consulta.

Si el valor de esta columna es alto, usa las consultas parametrizadas.
AVG_FILESYSTEM_DELAY_SECS FLOAT64

El tiempo promedio que la consulta dedica a leer desde el sistema de archivos o a bloquearse en la entrada o salida (E/S).

Usa esta estadística para identificar una posible latencia alta causada por la E/S del sistema de archivos. Para mitigar esto, agrega un índice o agrega una cláusula STORING (GoogleSQL) o INCLUDE (PostgreSQL) a un índice existente.
AVG_REMOTE_SERVER_CALLS FLOAT64

La cantidad promedio de llamadas al servidor remoto (RPC) que completó la consulta.

Usa esta estadística para identificar si las diferentes consultas que analizan la misma cantidad de filas tienen una cantidad de RPC muy diferente. La consulta con un valor de RPC más alto podría beneficiarse si agregas un índice o una cláusula STORING (GoogleSQL) o INCLUDE (PostgreSQL) a un índice existente.
AVG_ROWS_SPOOLED FLOAT64

La cantidad promedio de filas escritas en un disco temporal (no en la memoria) mediante la declaración de consulta.

Usa esta estadística para identificar las consultas de posible latencia alta que son costosas para la memoria y que no se pueden ejecutar en ella. Para mitigar esto, cambia el orden de JOIN o agrega un índice que proporcione un SORT obligatorio.

EXECUTION_COUNT, AVG_LATENCY_SECONDS y LATENCY_DISTRIBUTION para las consultas con errores incluyen consultas que fallaron debido a una sintaxis incorrecta o que encontraron un error transitorio, pero que se realizaron sin problemas.

Estadísticas agregadas

También hay tablas que realizan un seguimiento de los datos agregados de todas las consultas para las que Spanner capturó estadísticas durante un período específico:

  • SPANNER_SYS.QUERY_STATS_TOTAL_MINUTE: Consultas en intervalos de 1 minuto
  • SPANNER_SYS.QUERY_STATS_TOTAL_10MINUTE: Consultas en intervalos de 10 minutos
  • SPANNER_SYS.QUERY_STATS_TOTAL_HOUR: Consultas en intervalos de 1 hora

Estas tablas tienen las siguientes propiedades:

  • Cada tabla contiene datos de intervalos de tiempo no superpuestos de la longitud que se especifica en el nombre de la tabla.

  • Los intervalos se basan en tiempos de reloj. Los intervalos de 1 minuto finalizan en el minuto, los intervalos de 10 minutos finalizan cada 10 minutos a partir de la hora y los intervalos de 1 hora finalizan en la hora.

    Por ejemplo, a las 11:59:30 a.m., los intervalos más recientes disponibles para las consultas de SQL son los siguientes:

    • 1 minuto: de 11:58:00 a 11:58:59 a.m.
    • 10 minutos: de 11:40:00 a 11:49:59 a.m.
    • 1 hora: de 10:00:00 a 10:59:59 a.m.

  • Cada fila contiene estadísticas de todas las consultas que se ejecutaron en la base de datos durante el intervalo especificado, combinadas. Solo hay una fila por intervalo de tiempo y, además, incluye consultas completadas, consultas con errores y consultas que canceló el usuario.

  • Las estadísticas capturadas en las tablas TOTAL pueden incluir consultas que Spanner no capturó en las tablas TOP.

  • Algunas columnas de estas tablas están expuestas como métricas en Cloud Monitoring. Las métricas expuestas son las siguientes:

    • Recuento de ejecuciones de consultas
    • Fallas de consultas
    • Latencias de consulta
    • Recuento de filas mostradas
    • Recuento de filas analizadas
    • Recuento de bytes mostrados
    • Tiempo de CPU de consulta

    Para obtener más información, consulta Métricas de Spanner.

Esquema de la tabla

Nombre de la columna Tipo Descripción
INTERVAL_END TIMESTAMP Fin del intervalo en el que se produjeron las ejecuciones de consultas incluidas
EXECUTION_COUNT INT64 Cantidad de veces que Spanner vio la consulta durante el intervalo de tiempo.
AVG_LATENCY_SECONDS FLOAT64 Promedio de tiempo, en segundos, para cada ejecución de consulta dentro de la base de datos. Este promedio excluye la codificación y el tiempo de transmisión del conjunto de resultados, así como la sobrecarga.
AVG_ROWS FLOAT64 Promedio de filas que mostró la consulta.
AVG_BYTES FLOAT64 Promedio de bytes de datos que mostró la consulta, sin incluir la sobrecarga de codificación de transmisión.
AVG_ROWS_SCANNED FLOAT64 Promedio de filas que analizó la consulta, sin incluir los valores borrados.
AVG_CPU_SECONDS FLOAT64 Promedio de segundos de tiempo de CPU que Spanner dedicó a todas las operaciones para ejecutar la consulta.
ALL_FAILED_EXECUTION_COUNT INT64 Cantidad de veces que la consulta falló durante el intervalo.
ALL_FAILED_AVG_LATENCY_SECONDS FLOAT64 Promedio de tiempo, en segundos, para cada ejecución de consulta que falló en la base de datos. Este promedio excluye la codificación y el tiempo de transmisión del conjunto de resultados, así como la sobrecarga.
CANCELLED_OR_DISCONNECTED_EXECUTION_COUNT INT64 Cantidad de veces que el usuario canceló la consulta o falló debido a una conexión de red interrumpida durante el intervalo.
TIMED_OUT_EXECUTION_COUNT INT64 Cantidad de veces que se agotó el tiempo de espera de la consulta durante el intervalo.
AVG_BYTES_WRITTEN FLOAT64 Cantidad promedio de bytes que escribe la instrucción.
AVG_ROWS_WRITTEN FLOAT64 Promedio de filas modificadas por la instrucción.
RUN_IN_RW_TRANSACTION_EXECUTION_COUNT INT64 La cantidad de veces que se ejecutaron consultas como parte de las transacciones de lectura y escritura. Esta columna te ayuda a determinar si puedes evitar las contenciones de bloqueo moviendo algunas consultas a transacciones de solo lectura.
LATENCY_DISTRIBUTION ARRAY<STRUCT>

Un histograma del tiempo de ejecución en todas las consultas. Los valores se miden en segundos.

Especifica el array de la siguiente manera:
ARRAY<STRUCT<
  COUNT INT64,
  MEAN FLOAT64,
  SUM_OF_SQUARED_DEVIATION FLOAT64,
  NUM_FINITE_BUCKETS INT64,
  GROWTH_FACTOR FLOAT64,
  SCALE FLOAT64,
  BUCKET_COUNTS ARRAY<INT64>>>
Para obtener más información sobre los valores, consulta Distribución.

Para calcular la latencia de percentil de la distribución, usa la función SPANNER_SYS.DISTRIBUTION_PERCENTILE(distribution, n FLOAT64), que muestra el percentil n estimado. Para ver un ejemplo relacionado, consulta Encuentra la latencia del percentil 99 de las consultas.

Para obtener más información, consulta Percentiles y métricas con valores de distribución.

Retención de datos

Como mínimo, Spanner conserva los datos de cada tabla durante los siguientes períodos:

  • SPANNER_SYS.QUERY_STATS_TOP_MINUTE y SPANNER_SYS.QUERY_STATS_TOTAL_MINUTE: Intervalos que abarcan las 6 horas anteriores.

  • SPANNER_SYS.QUERY_STATS_TOP_10MINUTE y SPANNER_SYS.QUERY_STATS_TOTAL_10MINUTE: Intervalos que abarcan los 4 días anteriores.

  • SPANNER_SYS.QUERY_STATS_TOP_HOUR y SPANNER_SYS.QUERY_STATS_TOTAL_HOUR: Intervalos que abarcan los 30 días anteriores.

Consultas de ejemplo

En esta sección, se incluyen varias instrucciones de SQL de ejemplo que recuperan estadísticas de consultas. Puedes ejecutar estas instrucciones de SQL mediante las bibliotecas cliente, Google Cloud CLI o la consola de Google Cloud.

Enumerar las estadísticas básicas de cada consulta en un período determinado

La siguiente consulta muestra los datos sin procesar de las consultas principales en el minuto anterior:

SELECT text,
       request_tag,
       interval_end,
       execution_count,
       avg_latency_seconds,
       avg_rows,
       avg_bytes,
       avg_rows_scanned,
       avg_cpu_seconds
FROM spanner_sys.query_stats_top_minute
ORDER BY interval_end DESC;

Obtén una lista de las consultas con el uso de CPU más alto

La siguiente consulta muestra las consultas con el uso de CPU más alto en la hora anterior:

SELECT text,
       request_tag,
       execution_count AS count,
       avg_latency_seconds AS latency,
       avg_cpu_seconds AS cpu,
       execution_count * avg_cpu_seconds AS total_cpu
FROM spanner_sys.query_stats_top_hour
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_top_hour)
ORDER BY total_cpu DESC;

Conoce el recuento total de ejecuciones en un período determinado

La siguiente consulta muestra la cantidad total de consultas ejecutadas en el intervalo completo de 1 minuto más reciente:

SELECT interval_end,
       execution_count
FROM spanner_sys.query_stats_total_minute
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_top_minute);

Cómo encontrar la latencia promedio de una consulta

La siguiente consulta muestra la información de latencia promedio de una consulta específica:

SELECT avg_latency_seconds
FROM spanner_sys.query_stats_top_hour
WHERE text LIKE "SELECT x FROM table WHERE x=@foo;";

Encuentra la latencia del percentil 99 de las consultas

La siguiente consulta muestra el percentil 99 del tiempo de ejecución en las consultas ejecutadas en los 10 minutos anteriores:

SELECT interval_end, avg_latency_seconds, SPANNER_SYS.DISTRIBUTION_PERCENTILE(latency_distribution[OFFSET(0)], 99.0)
  AS percentile_latency
FROM spanner_sys.query_stats_total_10minute
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_total_10minute)
ORDER BY interval_end;

Comparar la latencia promedio con la latencia del percentil 99 ayuda a identificar posibles consultas de valores atípicos con tiempos de ejecución altos.

Encuentra las consultas que analizan más datos

Puedes usar la cantidad de filas analizadas por una consulta como una medida de la cantidad de datos que analizó la consulta. La siguiente consulta muestra el número de filas analizadas por consultas ejecutadas en la hora anterior:

SELECT text,
       execution_count,
       avg_rows_scanned
FROM spanner_sys.query_stats_top_hour
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_top_hour)
ORDER BY avg_rows_scanned DESC;

Determina las afirmaciones que escribieron más datos

Puedes usar la cantidad de filas escritas (o bytes escritos) por DML como una medida de la cantidad de datos que modificó la consulta. La siguiente consulta muestra la cantidad de filas escritas por declaraciones DML que se ejecutaron en la hora anterior:

SELECT text,
       execution_count,
       avg_rows_written
FROM spanner_sys.query_stats_top_hour
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_top_hour)
ORDER BY avg_rows_written DESC;

Total de uso de CPU en todas las consultas

La siguiente consulta muestra el número de horas de CPU usadas en la hora anterior:

SELECT (avg_cpu_seconds * execution_count / 60 / 60)
  AS total_cpu_hours
FROM spanner_sys.query_stats_total_hour
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_total_hour);

Enumerar las consultas que fallaron en un período determinado

La siguiente consulta muestra los datos sin procesar, incluido el recuento de ejecución y la latencia promedio de las consultas con errores para las consultas principales durante el minuto anterior:

SELECT text,
       request_tag,
       interval_end,
       execution_count,
       all_failed_execution_count,
       all_failed_avg_latency_seconds,
       avg_latency_seconds,
       avg_rows,
       avg_bytes,
       avg_rows_scanned,
       avg_cpu_seconds
FROM spanner_sys.query_stats_top_minute
WHERE all_failed_execution_count > 0
ORDER BY interval_end;

Cómo buscar el recuento total de errores en un período determinado

La siguiente consulta muestra la cantidad total de consultas que no se ejecutaron en el intervalo completo de 1 minuto más reciente.

SELECT interval_end,
       all_failed_execution_count
FROM spanner_sys.query_stats_total_minute
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_top_minute)
ORDER BY interval_end;

Enumerar las consultas que agotan más el tiempo de espera

La siguiente consulta muestra las consultas con el recuento de tiempo de espera más alto en la hora anterior.

SELECT text,
       execution_count AS count,
       timed_out_execution_count AS timeout_count,
       avg_latency_seconds AS latency,
       avg_cpu_seconds AS cpu,
       execution_count * avg_cpu_seconds AS total_cpu
FROM spanner_sys.query_stats_top_hour
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_top_hour)
ORDER BY timed_out_execution_count DESC;

Encuentra la latencia promedio de las ejecuciones exitosas y fallidas de una consulta

La siguiente consulta muestra la latencia promedio combinada, la latencia promedio de las ejecuciones exitosas y la latencia promedio de las ejecuciones fallidas de una consulta específica.

SELECT avg_latency_seconds AS combined_avg_latency,
       all_failed_avg_latency_seconds AS failed_execution_latency,
       ( avg_latency_seconds * execution_count -
         all_failed_avg_latency_seconds * all_failed_execution_count
       ) / (
       execution_count - all_failed_execution_count ) AS success_execution_latency
FROM   spanner_sys.query_stats_top_hour
WHERE  text LIKE "select x from table where x=@foo;";

Soluciona problemas de uso elevado de CPU o latencia de consultas elevadas con estadísticas de consultas

Las estadísticas de consultas son útiles cuando necesitas investigar el uso alto de CPU en tu base de datos de Spanner o cuando solo intentas comprender las formas de consultas pesadas de CPU en tu base de datos. Inspeccionar consultas que usan cantidades significativas de recursos de base de datos brinda a los usuarios de Spanner una forma potencial de reducir los costos operativos y posiblemente mejorar las latencias generales del sistema.

Puedes usar el código SQL o el panel Estadísticas de consultas para investigar las consultas problemáticas en tu base de datos. En los siguientes temas, se muestra cómo puedes investigar este tipo de consultas con el código SQL.

Si bien el siguiente ejemplo se centra en el uso de CPU, se pueden seguir pasos similares para solucionar problemas de latencia de consulta elevada y encontrar las consultas con las latencias más altas. Solo selecciona intervalos y consultas por tiempo de latencia en lugar de uso de CPU.

Selecciona un período para investigar

Para comenzar la investigación, busca un momento en el que la aplicación comience a experimentar un uso alto de CPU. Por ejemplo, si el problema comenzó a ocurrir alrededor de las 5:00 p.m. del 24 de julio de 2020 (UTC).

Recopila estadísticas de consultas para el período seleccionado

Después de seleccionar un período para comenzar nuestra investigación, veremos las estadísticas recopiladas en la tabla QUERY_STATS_TOTAL_10MINUTE alrededor de ese momento. Los resultados de esta consulta pueden indicar cómo cambiaron la CPU y otras estadísticas de la consulta durante ese período.

La siguiente consulta muestra las estadísticas de consultas agregadas de 16:30 a 17:30 UTC inclusive. Usamos ROUND en nuestra consulta a fin de restringir la cantidad de decimales para fines de visualización.

SELECT interval_end,
       execution_count AS count,
       ROUND(avg_latency_seconds,2) AS latency,
       ROUND(avg_rows,2) AS rows_returned,
       ROUND(avg_bytes,2) AS bytes,
       ROUND(avg_rows_scanned,2) AS rows_scanned,
       ROUND(avg_cpu_seconds,3) AS avg_cpu
FROM spanner_sys.query_stats_total_10minute
WHERE
  interval_end >= "2020-07-24T16:30:00Z"
  AND interval_end <= "2020-07-24T17:30:00Z"
ORDER BY interval_end;

La ejecución de la consulta arrojó los siguientes resultados.

interval_end count Latencia rows_returned bytes rows_scanned avg_cpu
2020-07-24T16:30:00Z 6 0.06 5.00 536.00 16.67 0.035
2020-07-24T16:40:00Z 55 0.02 0.22 25.29 0.22 0.004
2020-07-24T16:50:00Z 102 0.02 0.30 33.35 0.30 0.004
2020-07-24T17:00:00Z 154 1.06 4.42 486.33 7792208.12 4.633
2020-07-24T17:10:00Z 94 0.02 1.68 106.84 1.68 0.006
2020-07-24T17:20:00Z 110 0.02 0.38 34.60 0.38 0.005
2020-07-24T17:30:00Z 47 0.02 0.23 24.96 0.23 0.004

En la tabla anterior, vemos que el tiempo de CPU promedio, la columna avg_cpu en la tabla de resultados, es más alta en los intervalos destacados que terminan en 17:00. También vemos una cantidad mucho mayor de filas analizadas en promedio. Esto indica que las consultas más demandantes se ejecutaron entre las 16:50 y las 17:00. Elige ese intervalo para investigar más a fondo en el siguiente paso.

Identifica las consultas que causan un uso elevado de CPU

Con un intervalo de tiempo para investigar seleccionado, ahora consultamos la tabla QUERY_STATS_TOP_10MINUTE. Los resultados de esta consulta pueden ayudar a indicar qué consultas causan un uso de CPU elevado.

SELECT text_fingerprint AS fingerprint,
       execution_count AS count,
       ROUND(avg_latency_seconds,2) AS latency,
       ROUND(avg_cpu_seconds,3) AS cpu,
       ROUND(execution_count * avg_cpu_seconds,3) AS total_cpu
FROM spanner_sys.query_stats_top_10MINUTE
WHERE
  interval_end = "2020-07-24T17:00:00Z"
ORDER BY total_cpu DESC;

Cuando se ejecuta esta consulta, se obtienen los siguientes resultados.

Fingerprint count Latencia cpu total_cpu
5505124206529314852 30 3.88 17.635 529.039
1697951036096498470 10 4.49 18.388 183.882
2295109096748351518 1 0.33 0.048 0.048
11618299167612903606 1 0.25 0.021 0.021
10302798842433860499 1 0.04 0.006 0.006
123771704548746223 1 0.04 0.006 0.006
4216063638051261350 1 0.04 0.006 0.006
3654744714919476398 1 0.04 0.006 0.006
2999453161628434990 1 0.04 0.006 0.006
823179738756093706 1 0.02 0.005 0.0056

Las 2 consultas principales, destacadas en la tabla de resultados, son valores atípicos en términos de CPU y latencia promedio, así como la cantidad de ejecuciones y la CPU total. Investiga la primera consulta que aparece en estos resultados.

Compara las ejecuciones de consultas a lo largo del tiempo

Después de limitar la investigación, podemos enfocarnos en la tabla QUERY_STATS_TOP_MINUTE. Cuando comparamos las ejecuciones en el tiempo de una consulta en particular, podemos buscar correlaciones entre la cantidad de filas o bytes que se muestran, o la cantidad de filas analizadas y la latencia o CPU elevada. Una desviación puede indicar que no hay uniformidad en los datos. La cantidad constante de filas analizadas puede indicar la falta de índices adecuados o un orden de unión subóptimo.

Investiga la consulta que exhibe el uso promedio de CPU más alto y la latencia más alta mediante la ejecución de la siguiente declaración, que filtra en text_fingerprint de esa consulta.

SELECT interval_end,
       ROUND(avg_latency_seconds,2) AS latency,
       avg_rows AS rows_returned,
       avg_bytes AS bytes_returned,
       avg_rows_scanned AS rows_scanned,
       ROUND(avg_cpu_seconds,3) AS cpu,
FROM spanner_sys.query_stats_top_minute
WHERE text_fingerprint = 5505124206529314852
ORDER BY interval_end DESC;

Cuando se ejecuta esta consulta, se muestran los siguientes resultados.

interval_end Latencia rows_returned bytes_returned rows_scanned cpu
2020-07-24T17:00:00Z 4.55 21 2365 30000000 19.255
2020-07-24T16:00:00Z 3.62 21 2365 30000000 17.255
2020-07-24T15:00:00Z 4.37 21 2365 30000000 18.350
2020-07-24T14:00:00Z 4.02 21 2365 30000000 17.748
2020-07-24T13:00:00Z 3.12 21 2365 30000000 16.380
2020-07-24T12:00:00Z 3.45 21 2365 30000000 15.476
2020-07-24T11:00:00Z 4.94 21 2365 30000000 22.611
2020-07-24T10:00:00Z 6.48 21 2365 30000000 21.265
2020-07-24T09:00:00Z 0.23 21 2365 5 0.040
2020-07-24T08:00:00Z 0.04 21 2365 5 0.021
2020-07-24T07:00:00Z 0.09 21 2365 5 0.030

Si examinamos los resultados anteriores, vemos que la cantidad de filas analizadas, la CPU usada y la latencia cambiaron de manera significativa a las 9:00 a.m. Para comprender por qué estos números aumentaron de forma considerable, examinaremos el texto de la consulta y veremos si algún cambio en el esquema puede haber afectado la consulta.

Usa la siguiente consulta para recuperar el texto de la consulta que estamos investigando.

SELECT text,
       text_truncated
FROM spanner_sys.query_stats_top_hour
WHERE text_fingerprint = 5505124206529314852
LIMIT 1;

Esta acción devuelve el siguiente resultado.

text text_truncated
selecciona * en los pedidos en los que o_custkey = 36901; false

Cuando examinamos el texto de la consulta que se muestra, nos dimos cuenta de que la consulta filtra en un campo llamado o_custkey. Esta es una columna sin clave en la tabla orders. Como suele suceder, hubo un índice en esa columna que se descartó cerca de las 9 a.m. Esto explica el cambio en el costo de esta consulta. Podemos volver a agregar el índice o, si la consulta se ejecuta con poca frecuencia, decidir no incluir el índice y aceptar el costo de lectura más alto.

Nuestra investigación se enfocó hasta el momento en las consultas que se completaron de forma correcta y descubrimos un motivo por el cual la base de datos experimentaba cierta degradación del rendimiento. En el siguiente paso, nos enfocaremos en las consultas fallidas o canceladas, y mostraremos cómo examinar esos datos para obtener más estadísticas.

Investiga las consultas con errores

Las consultas que no se completan de forma correcta consumen recursos antes de que se agote el tiempo de espera, se cancelen o fallen. Spanner realiza un seguimiento del recuento de ejecución y los recursos que consumen las consultas con errores junto con las correctas.

Para verificar si las consultas con errores son un factor importante del uso del sistema, primero podemos verificar cuántas consultas fallaron en el intervalo de interés.

SELECT interval_end,
       all_failed_execution_count AS failed_count,
       all_failed_avg_latency_seconds AS latency
FROM spanner_sys.query_stats_total_minute
WHERE
  interval_end >= "2020-07-24T16:50:00Z"
  AND interval_end <= "2020-07-24T17:00:00Z"
ORDER BY interval_end;
interval_end failed_count Latencia
2020-07-24T16:52:00Z 1 15.211391
2020-07-24T16:53:00Z 3 58.312232

Si seguimos investigando, podemos buscar consultas que tengan más probabilidades de fallar mediante el uso de la siguiente consulta.

SELECT interval_end,
       text_fingerprint,
       execution_count,
       avg_latency_seconds AS avg_latency,
       all_failed_execution_count AS failed_count,
       all_failed_avg_latency_seconds AS failed_latency,
       cancelled_or_disconnected_execution_count AS cancel_count,
       timed_out_execution_count AS to_count
FROM spanner_sys.query_stats_top_minute
WHERE all_failed_execution_count > 0
ORDER BY interval_end;
interval_end text_fingerprint execution_count failed_count cancel_count to_count
2020-07-24T16:52:00Z 5505124206529314852 3 1 1 0
2020-07-24T16:53:00Z 1697951036096498470 2 1 1 0
2020-07-24T16:53:00Z 5505124206529314852 5 2 1 1

Como se muestra en la tabla anterior, la consulta con la huella digital 5505124206529314852 falló varias veces durante diferentes intervalos de tiempo. Dado un patrón de fallas como este, es interesante comparar la latencia de las ejecuciones correctas con las fallidas.

SELECT interval_end,
       avg_latency_seconds AS combined_avg_latency,
       all_failed_avg_latency_seconds AS failed_execution_latency,
       ( avg_latency_seconds * execution_count -
         all_failed_avg_latency_seconds * all_failed_execution_count
       ) / (
       execution_count - all_failed_execution_count ) AS success_execution_latency
FROM   spanner_sys.query_stats_top_hour
WHERE  text_fingerprint = 5505124206529314852;
interval_end combined_avg_latency failed_execution_latency success_execution_latency
2020-07-24T17:00:00Z 3.880420 13.830709 2.774832

Aplica las prácticas recomendadas

Después de identificar una consulta que puede optimizarse, podemos observar el perfil de consulta y tratar de optimizar mediante las prácticas recomendadas de SQL.

¿Qué sigue?