Estadísticas de consulta

Spanner proporciona tablas integradas que conservan muchas estadísticas de las consultas y las instrucciones del lenguaje de manipulación de datos (DML) que usaron más CPU, y todas las consultas en conjunto (incluidas las consultas de transmisión de cambios).

Cómo acceder a las estadísticas de búsqueda

Spanner proporciona las estadísticas de consultas en el esquema SPANNER_SYS. Puedes acceder a los datos de SPANNER_SYS de las siguientes maneras:

Los siguientes métodos de lectura única que proporciona Spanner no son compatibles con SPANNER_SYS:

  • Realizar una lectura sólida desde una o varias filas de una tabla
  • Realizar una lectura inactiva desde una o varias filas en una tabla
  • Leer desde una o varias filas en un índice secundario

Para obtener más información, consulta Métodos de lectura única.

Uso de CPU agrupado por consulta

Con las siguientes tablas, se realiza un seguimiento de las consultas con el uso más alto de CPU durante un período específico:

  • SPANNER_SYS.QUERY_STATS_TOP_MINUTE: Consultas en intervalos de 1 minuto
  • SPANNER_SYS.QUERY_STATS_TOP_10MINUTE: Consultas en intervalos de 10 minutos
  • SPANNER_SYS.QUERY_STATS_TOP_HOUR: Consultas en intervalos de 1 hora

Estas tablas tienen las siguientes propiedades:

  • Cada tabla contiene datos de intervalos de tiempo no superpuestos de la longitud que se especifica en el nombre de la tabla.

  • Los intervalos se basan en tiempos de reloj. Los intervalos de 1 minuto finalizan en el minuto, los intervalos de 10 minutos finalizan cada 10 minutos a partir de la hora y los intervalos de 1 hora finalizan en la hora.

    Por ejemplo, a las 11:59:30 a.m., los intervalos más recientes disponibles para las consultas de SQL son los siguientes:

    • 1 minuto: de 11:58:00 a 11:58:59 a.m.
    • 10 minutos: de 11:40:00 a 11:49:59 a.m.
    • 1 hora: de 10:00:00 a 10:59:59 a.m.

  • Spanner agrupa las estadísticas según el texto de la consulta en SQL. Si una consulta usa parámetros de búsqueda, Spanner agrupa todas las ejecuciones de esa consulta en una fila. Si la consulta usa literales de cadena, Spanner solo agrupa las estadísticas si el texto completo de la consulta es idéntico; cuando algún texto difiere, cada consulta aparece como una fila separada. En el caso del DML por lotes, Spanner normaliza el lote deduplicando las declaraciones idénticas consecutivas antes de generar la huella digital.

  • Si hay una etiqueta de solicitud, FPRINT es el hash de la etiqueta de solicitud. De lo contrario, es el hash del valor TEXT. En el caso de los DML particionados, FPRINT siempre es el hash del valor de TEXT.

  • Cada fila contiene estadísticas de todas las ejecuciones de una consulta en SQL en particular en las que Spanner captura estadísticas durante el intervalo especificado.

  • Si Spanner no puede almacenar todas las consultas que se ejecutan durante el intervalo, el sistema prioriza las consultas con el mayor uso de CPU durante el intervalo especificado.

  • Las consultas con seguimiento incluyen aquellas que el usuario completó, con errores o que canceló.

  • Un subconjunto de estadísticas es específico de las consultas que se ejecutaron, pero que no se completaron:

    • El recuento de ejecución y la latencia media en segundos en todas las consultas que no tuvieron éxito.

    • Recuento de ejecuciones para las consultas que agotaron el tiempo de espera.

    • Recuento de ejecuciones de las consultas que el usuario canceló o que fallaron debido a problemas de conectividad de red.

  • Todas las columnas de las tablas admiten valores nulos.

Las estadísticas de las consultas para las sentencias de DML particionado ejecutadas anteriormente tienen las siguientes propiedades:

  • Cada declaración DML particionada exitosa se considera estrictamente como una ejecución. Una declaración DML particionada que falló, se canceló o se está ejecutando tiene un recuento de ejecución de cero.

  • No se hace un seguimiento de las estadísticas de ALL_FAILED_EXECUTION_COUNT, ALL_FAILED_AVG_LATENCY_SECONDS, CANCELLED_OR_DISCONNECTED_EXECUTION_COUNT y TIMED_OUT_EXECUTION_COUNT para los DML particionados.

  • Las estadísticas de cada declaración DML particionada ejecutada anteriormente pueden aparecer en intervalos diferentes. SPANNER_SYS.QUERY_STATS_TOP_10MINUTE y SPANNER_SYS.QUERY_STATS_TOP_HOUR proporcionan una vista agregada para las sentencias DML particionadas que se completan en 10 minutos y 1 hora, respectivamente. Para ver las estadísticas de las instrucciones cuya duración es superior a 1 hora, consulta el ejemplo de consulta.

Esquema de la tabla

Nombre de la columna Tipo Descripción
INTERVAL_END TIMESTAMP Fin del intervalo en el que se produjeron las ejecuciones de consultas incluidas
REQUEST_TAG STRING La etiqueta de solicitud opcional para esta operación de consulta. Para obtener más información sobre el uso de etiquetas, consulta Solución de problemas con etiquetas de solicitud.
QUERY_TYPE STRING Indica si una búsqueda es de PARTITIONED_QUERY o QUERY. Un PARTITIONED_QUERY es una consulta con un partitionToken obtenido de la API de PartitionQuery o una declaración de DML particionado. Todas las demás consultas y declaraciones DML se indican con el tipo de consulta QUERY.
TEXT STRING Texto de consulta de SQL, truncado a aproximadamente 64 KB

Las estadísticas de varias consultas que tienen la misma string de etiquetas se agrupan en una sola fila con REQUEST_TAG que coincide con esa string. Solo el texto de una de esas consultas se muestra en este campo, truncado a aproximadamente 64 KB. En el caso del DML por lotes, el conjunto de instrucciones de SQL se aplana en una sola fila, concatenada con un delimitador de punto y coma. Los textos de SQL idénticos consecutivos se eliminan antes de truncarse.
TEXT_TRUNCATED BOOL Indica si el texto de la consulta se truncó o no
TEXT_FINGERPRINT INT64 El hash del valor REQUEST_TAG si está presente. De lo contrario, es el hash del valor TEXT. Corresponde al campo query_fingerprint en el registro de auditoría.
EXECUTION_COUNT INT64 Cantidad de veces que Spanner vio la consulta durante el intervalo.
AVG_LATENCY_SECONDS FLOAT64 Promedio de tiempo, en segundos, para cada ejecución de consulta dentro de la base de datos. Este promedio excluye la codificación y el tiempo de transmisión del conjunto de resultados, así como la sobrecarga.
AVG_ROWS FLOAT64 Promedio de filas que mostró la consulta.
AVG_BYTES FLOAT64 Promedio de bytes de datos que mostró la consulta, sin incluir la sobrecarga de codificación de transmisión.
AVG_ROWS_SCANNED FLOAT64 Promedio de filas que analizó la consulta, sin incluir los valores borrados.
AVG_CPU_SECONDS FLOAT64 Promedio de segundos de tiempo de CPU que Spanner invirtió en todas las operaciones para ejecutar la consulta.
ALL_FAILED_EXECUTION_COUNT INT64 Cantidad de veces que la consulta falló durante el intervalo.
ALL_FAILED_AVG_LATENCY_SECONDS FLOAT64 Promedio de tiempo, en segundos, para cada ejecución de consulta que falló en la base de datos. Este promedio excluye la codificación y el tiempo de transmisión del conjunto de resultados, así como la sobrecarga.
CANCELLED_OR_DISCONNECTED_EXECUTION_COUNT INT64 Cantidad de veces que el usuario canceló la consulta o falló debido a una conexión de red interrumpida durante el intervalo.
TIMED_OUT_EXECUTION_COUNT INT64 Cantidad de veces que se agotó el tiempo de espera de la consulta durante el intervalo.
AVG_BYTES_WRITTEN FLOAT64 Cantidad promedio de bytes que escribió la instrucción.
AVG_ROWS_WRITTEN FLOAT64 Es la cantidad promedio de filas modificadas por la sentencia.
STATEMENT_COUNT INT64 Es la suma de las instrucciones agregadas en esta entrada. Para las consultas y el DML normales, este valor es igual al recuento de ejecución. En el caso del DML por lotes, Spanner captura la cantidad de instrucciones en el lote.
RUN_IN_RW_TRANSACTION_EXECUTION_COUNT INT64 Es la cantidad de veces que se ejecutó la consulta como parte de una transacción de lectura y escritura. Esta columna te ayuda a determinar si puedes evitar las disputas de bloqueo moviendo la consulta a una transacción de solo lectura.
LATENCY_DISTRIBUTION ARRAY<STRUCT>

Es un histograma del tiempo de ejecución de la consulta. Los valores se miden en segundos.

El array contiene un solo elemento y tiene el siguiente tipo:
ARRAY<STRUCT<
  COUNT INT64,
  MEAN FLOAT64,
  SUM_OF_SQUARED_DEVIATION FLOAT64,
  NUM_FINITE_BUCKETS INT64,
  GROWTH_FACTOR FLOAT64,
  SCALE FLOAT64,
  BUCKET_COUNTS ARRAY<INT64>>>
Para obtener más información sobre los valores, consulta Distribución.

Para calcular la latencia del percentil a partir de la distribución, usa la función SPANNER_SYS.DISTRIBUTION_PERCENTILE(distribution, n FLOAT64), que devuelve el percentil n estimado. Para ver un ejemplo relacionado, consulta Cómo encontrar la latencia del percentil 99 para las búsquedas.

Para obtener más información, consulta Percentiles y métricas con valores de distribución.

AVG_MEMORY_PEAK_USAGE_BYTES FLOAT64

Durante la ejecución de una consulta distribuida, el uso promedio máximo de memoria (en bytes).

Usa esta estadística para identificar qué consultas o tamaños de datos de tablas es probable que alcancen los límites de memoria.
AVG_MEMORY_USAGE_PERCENTAGE FLOAT64

Durante la ejecución de una consulta distribuida, el uso promedio de memoria requerido (como porcentaje del límite de memoria permitido para esta consulta).

Esta estadística solo hace un seguimiento de la memoria que se requiere para ejecutar la consulta. Algunos operadores usan memoria de búfer adicional para mejorar el rendimiento. La memoria de búfer adicional que se usa es visible en el plan de consulta, pero no se usa para calcular AVG_MEMORY_USAGE_PERCENTAGE, ya que la memoria de búfer se usa para la optimización y no es obligatoria.

Usa esta estadística para identificar las consultas que se acercan al límite de uso de memoria y que corren el riesgo de fallar si aumenta el tamaño de los datos. Para mitigar el riesgo de que la consulta falle, consulta las prácticas recomendadas de SQL para optimizar estas consultas o divídela en partes que lean menos datos.
AVG_QUERY_PLAN_CREATION_TIME_SECS FLOAT64

Es el tiempo promedio de CPU en segundos que se dedica a la compilación de la consulta, incluida la creación del tiempo de ejecución de la consulta.

Si el valor de esta columna es alto, usa consultas con parámetros.
AVG_FILESYSTEM_DELAY_SECS FLOAT64

Es el tiempo promedio que la consulta dedica a leer desde el sistema de archivos o a estar bloqueada en la entrada o salida (E/S).

Usa esta estadística para identificar la posible latencia alta causada por la E/S del sistema de archivos. Para mitigar el problema, agrega un índice o una cláusula STORING (GoogleSQL) o INCLUDE (PostgreSQL) a un índice existente.
AVG_REMOTE_SERVER_CALLS FLOAT64

Es la cantidad promedio de llamadas al servidor remoto (RPC) que completó la búsqueda.

Usa esta estadística para identificar si diferentes consultas que analizan la misma cantidad de filas tienen una cantidad muy diferente de RPC. La consulta con un valor de RPC más alto podría beneficiarse de la adición de un índice o una cláusula STORING (GoogleSQL) o INCLUDE (PostgreSQL) a un índice existente.
AVG_ROWS_SPOOLED FLOAT64

Es la cantidad promedio de filas que la instrucción de la consulta escribe en un disco temporal (no en la memoria).

Usa esta estadística para identificar las consultas con latencia potencialmente alta que son costosas en términos de memoria y no se pueden ejecutar en la memoria. Para mitigar el problema, cambia el orden de JOIN o agrega un índice que proporcione un SORT requerido.
AVG_DISK_IO_COST FLOAT64

Es el costo promedio de esta consulta en términos de carga de disco del HDD de Spanner.

Usa este valor para realizar comparaciones relativas del costo de E/S del HDD entre las lecturas que ejecutas en la base de datos. Consultar datos en el almacenamiento HDD genera un cargo en la capacidad de carga del disco HDD de la instancia. Un valor más alto indica que usas más carga de disco HDD y que tu búsqueda podría ser más lenta que si se ejecutara en SSD. Además, si la carga del disco HDD está al máximo de su capacidad, el rendimiento de tus consultas podría verse aún más afectado. Puedes supervisar la capacidad total de carga del disco HDD de la instancia como un porcentaje. Para agregar más capacidad de carga de discos HDD, puedes agregar más unidades de procesamiento o nodos a tu instancia. Para obtener más información, consulta Cómo cambiar la capacidad de procesamiento. Para mejorar el rendimiento de las consultas, también considera transferir algunos datos a SSD.

Para las cargas de trabajo que consumen una gran cantidad de E/S de disco, te recomendamos que almacenes los datos a los que se accede con frecuencia en el almacenamiento SSD. Los datos a los que se accede desde SSD no consumen capacidad de carga del disco HDD. Puedes almacenar tablas, columnas o índices secundarios selectivos en el almacenamiento SSD según sea necesario, mientras mantienes los datos a los que se accede con poca frecuencia en el almacenamiento HDD. Para obtener más información, consulta la descripción general del almacenamiento por niveles.

EXECUTION_COUNT, AVG_LATENCY_SECONDS y LATENCY_DISTRIBUTION para las búsquedas con errores incluyen búsquedas que fallaron debido a una sintaxis incorrecta o que encontraron un error transitorio, pero tuvieron éxito en el reintento. Estas estadísticas no hacen un seguimiento de las declaraciones DML particionadas que fallaron o se cancelaron.

Estadísticas agregadas

También hay tablas que realizan un seguimiento de los datos agregados de todas las consultas para las que Spanner capturó estadísticas en un período específico:

  • SPANNER_SYS.QUERY_STATS_TOTAL_MINUTE: Consultas en intervalos de 1 minuto
  • SPANNER_SYS.QUERY_STATS_TOTAL_10MINUTE: Consultas en intervalos de 10 minutos
  • SPANNER_SYS.QUERY_STATS_TOTAL_HOUR: Consultas en intervalos de 1 hora

Estas tablas tienen las siguientes propiedades:

  • Cada tabla contiene datos de intervalos de tiempo no superpuestos de la longitud que se especifica en el nombre de la tabla.

  • Los intervalos se basan en tiempos de reloj. Los intervalos de 1 minuto finalizan en el minuto, los intervalos de 10 minutos finalizan cada 10 minutos a partir de la hora y los intervalos de 1 hora finalizan en la hora.

    Por ejemplo, a las 11:59:30 a.m., los intervalos más recientes disponibles para las consultas de SQL son los siguientes:

    • 1 minuto: de 11:58:00 a 11:58:59 a.m.
    • 10 minutos: de 11:40:00 a 11:49:59 a.m.
    • 1 hora: de 10:00:00 a 10:59:59 a.m.

  • Cada fila contiene estadísticas de todas las consultas que se ejecutaron en la base de datos durante el intervalo especificado, combinadas. Solo hay una fila por intervalo de tiempo y, además, incluye consultas completadas, consultas con errores y consultas que canceló el usuario.

  • Las estadísticas capturadas en las tablas TOTAL pueden incluir consultas que Spanner no capturó en las tablas TOP.

  • Algunas columnas de estas tablas se exponen como métricas en Cloud Monitoring. Las métricas expuestas son las siguientes:

    • Recuento de ejecución de consultas
    • Fallos en las consultas
    • Latencias de las consultas
    • Recuento de filas devueltas
    • Recuento de filas analizadas
    • Recuento de bytes devueltos
    • Tiempo de CPU de la consulta

    Para obtener más información, consulta Métricas de Spanner.

Esquema de la tabla

Nombre de la columna Tipo Descripción
INTERVAL_END TIMESTAMP Fin del intervalo en el que se produjeron las ejecuciones de consultas incluidas
EXECUTION_COUNT INT64 Cantidad de veces que Spanner vio la consulta durante el intervalo.
AVG_LATENCY_SECONDS FLOAT64 Promedio de tiempo, en segundos, para cada ejecución de consulta dentro de la base de datos. Este promedio excluye la codificación y el tiempo de transmisión del conjunto de resultados, así como la sobrecarga.
AVG_ROWS FLOAT64 Promedio de filas que mostró la consulta.
AVG_BYTES FLOAT64 Promedio de bytes de datos que mostró la consulta, sin incluir la sobrecarga de codificación de transmisión.
AVG_ROWS_SCANNED FLOAT64 Promedio de filas que analizó la consulta, sin incluir los valores borrados.
AVG_CPU_SECONDS FLOAT64 Promedio de segundos de tiempo de CPU que Spanner invirtió en todas las operaciones para ejecutar la consulta.
ALL_FAILED_EXECUTION_COUNT INT64 Cantidad de veces que la consulta falló durante el intervalo.
ALL_FAILED_AVG_LATENCY_SECONDS FLOAT64 Promedio de tiempo, en segundos, para cada ejecución de consulta que falló en la base de datos. Este promedio excluye la codificación y el tiempo de transmisión del conjunto de resultados, así como la sobrecarga.
CANCELLED_OR_DISCONNECTED_EXECUTION_COUNT INT64 Cantidad de veces que el usuario canceló la consulta o falló debido a una conexión de red interrumpida durante el intervalo.
TIMED_OUT_EXECUTION_COUNT INT64 Cantidad de veces que se agotó el tiempo de espera de la consulta durante el intervalo.
AVG_BYTES_WRITTEN FLOAT64 Cantidad promedio de bytes que escribió la instrucción.
AVG_ROWS_WRITTEN FLOAT64 Es la cantidad promedio de filas modificadas por la sentencia.
RUN_IN_RW_TRANSACTION_EXECUTION_COUNT INT64 Cantidad de veces que se ejecutaron las consultas como parte de transacciones de lectura y escritura. Esta columna te ayuda a determinar si puedes evitar las disputas de bloqueo trasladando algunas consultas a transacciones de solo lectura.
LATENCY_DISTRIBUTION ARRAY<STRUCT>

Es un histograma del tiempo de ejecución en todas las consultas. Los valores se miden en segundos.

Especifica el array de la siguiente manera:
ARRAY<STRUCT<
  COUNT INT64,
  MEAN FLOAT64,
  SUM_OF_SQUARED_DEVIATION FLOAT64,
  NUM_FINITE_BUCKETS INT64,
  GROWTH_FACTOR FLOAT64,
  SCALE FLOAT64,
  BUCKET_COUNTS ARRAY<INT64>>>
Para obtener más información sobre los valores, consulta Distribución.

Para calcular la latencia del percentil a partir de la distribución, usa la función SPANNER_SYS.DISTRIBUTION_PERCENTILE(distribution, n FLOAT64), que devuelve el percentil n estimado. Para ver un ejemplo relacionado, consulta Cómo encontrar la latencia del percentil 99 para las búsquedas.

Para obtener más información, consulta Percentiles y métricas con valores de distribución.

Retención de datos

Como mínimo, Spanner conserva los datos para cada tabla durante los siguientes períodos:

  • SPANNER_SYS.QUERY_STATS_TOP_MINUTE y SPANNER_SYS.QUERY_STATS_TOTAL_MINUTE: Intervalos que abarcan las 6 horas anteriores.

  • SPANNER_SYS.QUERY_STATS_TOP_10MINUTE y SPANNER_SYS.QUERY_STATS_TOTAL_10MINUTE: Intervalos que abarcan los 4 días anteriores.

  • SPANNER_SYS.QUERY_STATS_TOP_HOUR y SPANNER_SYS.QUERY_STATS_TOTAL_HOUR: Intervalos que abarcan los 30 días anteriores.

Consultas de ejemplo

En esta sección, se incluyen varias instrucciones de SQL de ejemplo que recuperan estadísticas de consultas. Puedes ejecutar estas instrucciones de SQL con las bibliotecas cliente, Google Cloud CLI o la consola deGoogle Cloud .

Enumera las estadísticas básicas de cada búsqueda en un período determinado

La siguiente consulta muestra los datos sin procesar de las consultas principales en el minuto anterior:

SELECT text,
       request_tag,
       interval_end,
       execution_count,
       avg_latency_seconds,
       avg_rows,
       avg_bytes,
       avg_rows_scanned,
       avg_cpu_seconds
FROM spanner_sys.query_stats_top_minute
ORDER BY interval_end DESC;

Enumera las estadísticas de las sentencias DML particionadas que se ejecutan durante más de una hora

La siguiente consulta muestra el recuento de ejecución y las filas promedio escritas por las principales consultas DML particionadas en las últimas horas:

SELECT text,
       request_tag,
       interval_end,
       sum(execution_count) as execution_count
       sum(avg_rows_written*execution_count)/sum(execution_count) as avg_rows_written
FROM spanner_sys.query_stats_top_hour
WHERE starts_with(text, "UPDATE") AND query_type = "PARTITIONED_QUERY"
group by text, request_tag, interval_end
ORDER BY interval_end DESC;

Genera una lista de las consultas con el mayor uso de CPU

La siguiente consulta muestra las consultas con el uso de CPU más alto en la hora anterior:

SELECT text,
       request_tag,
       execution_count AS count,
       avg_latency_seconds AS latency,
       avg_cpu_seconds AS cpu,
       execution_count * avg_cpu_seconds AS total_cpu
FROM spanner_sys.query_stats_top_hour
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_top_hour)
ORDER BY total_cpu DESC;

Conoce el recuento total de ejecuciones en un período determinado

La siguiente consulta muestra la cantidad total de consultas ejecutadas en el intervalo completo de 1 minuto más reciente:

SELECT interval_end,
       execution_count
FROM spanner_sys.query_stats_total_minute
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_top_minute);

Encuentra la latencia promedio de una consulta

La siguiente consulta muestra la información de latencia promedio de una consulta específica:

SELECT avg_latency_seconds
FROM spanner_sys.query_stats_top_hour
WHERE text LIKE "SELECT x FROM table WHERE x=@foo;";

Cómo encontrar la latencia del percentil 99 para las búsquedas

La siguiente consulta muestra el percentil 99 del tiempo de ejecución en todas las consultas ejecutadas en los últimos 10 minutos:

SELECT interval_end, avg_latency_seconds, SPANNER_SYS.DISTRIBUTION_PERCENTILE(latency_distribution[OFFSET(0)], 99.0)
  AS percentile_latency
FROM spanner_sys.query_stats_total_10minute
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_total_10minute)
ORDER BY interval_end;

Comparar la latencia promedio con la latencia del percentil 99 ayuda a identificar posibles consultas atípicas con tiempos de ejecución altos.

Encuentra las consultas que analizan la mayor cantidad de datos

Puedes usar la cantidad de filas analizadas por una consulta como una medida de la cantidad de datos que analizó la consulta. La siguiente consulta muestra el número de filas analizadas por consultas ejecutadas en la hora anterior:

SELECT text,
       execution_count,
       avg_rows_scanned
FROM spanner_sys.query_stats_top_hour
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_top_hour)
ORDER BY avg_rows_scanned DESC;

Encuentra las instrucciones que escribieron la mayor cantidad de datos

Puedes usar la cantidad de filas escritas (o bytes escritos) por DML como una medida de la cantidad de datos que modificó la consulta. La siguiente consulta muestra la cantidad de filas escritas por las instrucciones DML ejecutadas en la hora anterior:

SELECT text,
       execution_count,
       avg_rows_written
FROM spanner_sys.query_stats_top_hour
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_top_hour)
ORDER BY avg_rows_written DESC;

Calcular el total de uso de la CPU en todas las consultas

La siguiente consulta muestra el número de horas de CPU usadas en la hora anterior:

SELECT (avg_cpu_seconds * execution_count / 60 / 60)
  AS total_cpu_hours
FROM spanner_sys.query_stats_total_hour
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_total_hour);

Muestra las consultas que fallaron en un período determinado

La siguiente consulta muestra los datos sin procesar, incluido el recuento de ejecución y la latencia promedio de las consultas con errores para las consultas principales durante el minuto anterior. Estas estadísticas no hacen un seguimiento de las declaraciones DML particionadas que fallaron o se cancelaron.

SELECT text,
       request_tag,
       interval_end,
       execution_count,
       all_failed_execution_count,
       all_failed_avg_latency_seconds,
       avg_latency_seconds,
       avg_rows,
       avg_bytes,
       avg_rows_scanned,
       avg_cpu_seconds
FROM spanner_sys.query_stats_top_minute
WHERE all_failed_execution_count > 0
ORDER BY interval_end;

Encuentra el recuento total de errores en un período determinado

La siguiente consulta muestra la cantidad total de consultas que no se ejecutaron en el intervalo completo de 1 minuto más reciente. Estas estadísticas no hacen un seguimiento de las declaraciones DML particionadas que fallaron o se cancelaron.

SELECT interval_end,
       all_failed_execution_count
FROM spanner_sys.query_stats_total_minute
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_top_minute)
ORDER BY interval_end;

Muestra las consultas que tienen más tiempo de espera

La siguiente consulta muestra las consultas con el recuento de tiempo de espera más alto en la hora anterior.

SELECT text,
       execution_count AS count,
       timed_out_execution_count AS timeout_count,
       avg_latency_seconds AS latency,
       avg_cpu_seconds AS cpu,
       execution_count * avg_cpu_seconds AS total_cpu
FROM spanner_sys.query_stats_top_hour
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.query_stats_top_hour)
ORDER BY timed_out_execution_count DESC;

Encuentra la latencia promedio de ejecuciones correctas y con errores para una consulta

La siguiente consulta muestra la latencia promedio combinada, la latencia promedio de las ejecuciones exitosas y la latencia promedio de las ejecuciones fallidas de una consulta específica. Estas estadísticas no hacen un seguimiento de las sentencias de DML particionado fallidas ni canceladas.

SELECT avg_latency_seconds AS combined_avg_latency,
       all_failed_avg_latency_seconds AS failed_execution_latency,
       ( avg_latency_seconds * execution_count -
         all_failed_avg_latency_seconds * all_failed_execution_count
       ) / (
       execution_count - all_failed_execution_count ) AS success_execution_latency
FROM   spanner_sys.query_stats_top_hour
WHERE  text LIKE "select x from table where x=@foo;";

Soluciona problemas del uso alto de CPU o latencia de consulta elevada con estadísticas de consultas

Las estadísticas de consultas son útiles cuando necesitas investigar el uso alto de CPU en tu base de datos de Spanner o cuando solo intentas comprender las formas de consulta pesadas de CPU en tu base de datos. Inspeccionar las consultas que usan cantidades significativas de recursos de bases de datos brinda a los usuarios de Spanner una forma potencial de reducir los costos operativos y, quizás, mejorar las latencias generales del sistema.

Puedes usar código SQL o el panel Estadísticas de consultas para investigar las consultas problemáticas en tu base de datos. En los siguientes temas, se muestra cómo puedes investigar esas consultas con código SQL.

Si bien el siguiente ejemplo se centra en el uso de la CPU, se pueden seguir pasos similares para solucionar los problemas de latencia de consulta elevada y encontrar las consultas con mayor latencia. Solo selecciona intervalos y consultas por tiempo de latencia en lugar de uso de CPU.

Selecciona un período para investigar

Para comenzar la investigación, busca un momento en el que la aplicación comience a experimentar un uso alto de CPU. Por ejemplo, si el problema comenzó a ocurrir alrededor del 24 de julio de 2020 a las 5:00 p.m. UTC.

Recopila estadísticas de búsquedas para el período seleccionado

Después de seleccionar un período para comenzar nuestra investigación, veremos las estadísticas recopiladas en la tabla QUERY_STATS_TOTAL_10MINUTE alrededor de ese momento. Los resultados de esta consulta pueden indicar cómo cambiaron la CPU y otras estadísticas de la consulta durante ese período.

La siguiente consulta muestra las estadísticas de consultas agregadas de 16:30 a 17:30 UTC inclusive. Usamos ROUND en nuestra consulta a fin de restringir la cantidad de decimales para fines de visualización.

SELECT interval_end,
       execution_count AS count,
       ROUND(avg_latency_seconds,2) AS latency,
       ROUND(avg_rows,2) AS rows_returned,
       ROUND(avg_bytes,2) AS bytes,
       ROUND(avg_rows_scanned,2) AS rows_scanned,
       ROUND(avg_cpu_seconds,3) AS avg_cpu
FROM spanner_sys.query_stats_total_10minute
WHERE
  interval_end >= "2020-07-24T16:30:00Z"
  AND interval_end <= "2020-07-24T17:30:00Z"
ORDER BY interval_end;

La ejecución de la consulta arrojó los siguientes resultados.

interval_end count Latencia Filas mostradas bytes Filas analizadas CPU promedio
2020-07-24T16:30:00Z 6 0.06 5.00 536.00 16.67 0.035
2020-07-24T16:40:00Z 55 0.02 0.22 25.29 0.22 0.004
2020-07-24T16:50:00Z 102 0.02 0.30 33.35 0.30 0.004
2020-07-24T17:00:00Z 154 1.06 4.42 486.33 7792208.12 4.633
2020-07-24T17:10:00Z 94 0.02 1.68 106.84 1.68 0.006
2020-07-24T17:20:00Z 110 0.02 0.38 34.60 0.38 0.005
2020-07-24T17:30:00Z 47 0.02 0.23 24.96 0.23 0.004

En la tabla anterior, vemos que el tiempo de CPU promedio, la columna average_cpu en la tabla de resultados, es más alta en los intervalos destacados que terminan en 17:00. También vemos una cantidad mucho mayor de filas analizadas en promedio. Esto indica que las consultas más demandantes se ejecutaron entre las 16:50 y las 17:00. Elige ese intervalo para investigar más en el paso siguiente.

Encuentra las consultas que causan un uso de CPU elevado

Con un intervalo de tiempo para investigar seleccionado, ahora consultamos la tabla QUERY_STATS_TOP_10MINUTE. Los resultados de esta consulta pueden ayudar a indicar qué consultas causan un uso de CPU elevado.

SELECT text_fingerprint AS fingerprint,
       execution_count AS count,
       ROUND(avg_latency_seconds,2) AS latency,
       ROUND(avg_cpu_seconds,3) AS cpu,
       ROUND(execution_count * avg_cpu_seconds,3) AS total_cpu
FROM spanner_sys.query_stats_top_10MINUTE
WHERE
  interval_end = "2020-07-24T17:00:00Z"
ORDER BY total_cpu DESC;

Cuando se ejecuta esta consulta, se obtienen los siguientes resultados.

Fingerprint count Latencia cpu total_cpu
5505124206529314852 30 3.88 17.635 529.039
1697951036096498470 10 4.49 18.388 183.882
2295109096748351518 1 0.33 0.048 0.048
11618299167612903606 1 0.25 0.021 0.021
10302798842433860499 1 0.04 0.006 0.006
123771704548746223 1 0.04 0.006 0.006
4216063638051261350 1 0.04 0.006 0.006
3654744714919476398 1 0.04 0.006 0.006
2999453161628434990 1 0.04 0.006 0.006
823179738756093706 1 0.02 0.005 0.0056

Las 2 consultas principales, destacadas en la tabla de resultados, son valores atípicos en términos de CPU y latencia promedio, así como la cantidad de ejecuciones y la CPU total. Investiga la primera búsqueda que aparece en estos resultados.

Compara las ejecuciones de consultas a lo largo del tiempo

Después de limitar la investigación, podemos enfocarnos en la tabla QUERY_STATS_TOP_MINUTE. Cuando comparamos las ejecuciones en el tiempo de una consulta en particular, podemos buscar correlaciones entre la cantidad de filas o bytes que se muestran, o la cantidad de filas analizadas y la latencia o CPU elevada. Una desviación puede indicar que no hay uniformidad en los datos. La cantidad constante de filas analizadas puede indicar la falta de índices adecuados o un orden de unión subóptimo.

Investiga la consulta que muestra el uso de CPU promedio y la latencia más altos ejecutando la siguiente instrucción, que filtra la huella digital de texto de esa consulta.

SELECT interval_end,
       ROUND(avg_latency_seconds,2) AS latency,
       avg_rows AS rows_returned,
       avg_bytes AS bytes_returned,
       avg_rows_scanned AS rows_scanned,
       ROUND(avg_cpu_seconds,3) AS cpu,
FROM spanner_sys.query_stats_top_minute
WHERE text_fingerprint = 5505124206529314852
ORDER BY interval_end DESC;

Cuando se ejecuta esta consulta, se muestran los siguientes resultados.

interval_end Latencia Filas mostradas bytes_devueltos Filas analizadas cpu
2020-07-24T17:00:00Z 4.55 21 2365 30000000 19.255
2020-07-24T16:00:00Z 3.62 21 2365 30000000 17.255
2020-07-24T15:00:00Z 4.37 21 2365 30000000 18.350
2020-07-24T14:00:00Z 4.02 21 2365 30000000 17.748
2020-07-24T13:00:00Z 3.12 21 2365 30000000 16.380
2020-07-24T12:00:00Z 3.45 21 2365 30000000 15.476
2020-07-24T11:00:00Z 4.94 21 2365 30000000 22.611
2020-07-24T10:00:00Z 6.48 21 2365 30000000 21.265
2020-07-24T09:00:00Z 0.23 21 2365 5 0.040
2020-07-24T08:00:00Z 0.04 21 2365 5 0.021
2020-07-24T07:00:00Z 0.09 21 2365 5 0.030

Si examinamos los resultados anteriores, vemos que la cantidad de filas analizadas, la CPU usada y la latencia cambiaron de manera significativa a las 9:00 a.m. Para comprender por qué estos números aumentaron de forma considerable, examinaremos el texto de la consulta y veremos si algún cambio en el esquema puede haber afectado la consulta.

Usa la siguiente consulta para recuperar el texto de la consulta que estamos investigando.

SELECT text,
       text_truncated
FROM spanner_sys.query_stats_top_hour
WHERE text_fingerprint = 5505124206529314852
LIMIT 1;

Esta acción devuelve el siguiente resultado.

text text_truncated
selecciona * en los pedidos en los que o_custkey = 36901; falso

Cuando examinamos el texto de la consulta que se muestra, nos dimos cuenta de que la consulta filtra en un campo llamado o_custkey. Esta es una columna sin clave en la tabla orders. Como suele suceder, hubo un índice en esa columna que se descartó cerca de las 9 a.m. Esto explica el cambio en el costo de esta consulta. Podemos volver a agregar el índice o, si la consulta se ejecuta con poca frecuencia, decidir no incluir el índice y aceptar el costo de lectura más alto.

Nuestra investigación se enfocó hasta el momento en las consultas que se completaron de forma correcta y descubrimos un motivo por el cual la base de datos experimentaba cierta degradación del rendimiento. En el siguiente paso, nos enfocaremos en las consultas fallidas o canceladas, y mostraremos cómo examinar esos datos para obtener más estadísticas.

Investiga las consultas con errores

Las consultas que no se completan de forma correcta consumen recursos antes de que se agote el tiempo de espera, se cancelen o fallen. Spanner hace un seguimiento del recuento de ejecuciones y de los recursos que consumen las consultas con errores junto con los correctos. Estas estadísticas no hacen un seguimiento de las sentencias de DML particionado fallidas ni canceladas.

Para verificar si las consultas con errores son un factor importante del uso del sistema, primero podemos verificar cuántas consultas fallaron en el intervalo de interés.

SELECT interval_end,
       all_failed_execution_count AS failed_count,
       all_failed_avg_latency_seconds AS latency
FROM spanner_sys.query_stats_total_minute
WHERE
  interval_end >= "2020-07-24T16:50:00Z"
  AND interval_end <= "2020-07-24T17:00:00Z"
ORDER BY interval_end;
interval_end Cantidad de consultas fallidas Latencia
2020-07-24T16:52:00Z 1 15.211391
2020-07-24T16:53:00Z 3 58.312232

Si seguimos investigando, podemos buscar consultas que tengan más probabilidades de fallar mediante el uso de la siguiente consulta.

SELECT interval_end,
       text_fingerprint,
       execution_count,
       avg_latency_seconds AS avg_latency,
       all_failed_execution_count AS failed_count,
       all_failed_avg_latency_seconds AS failed_latency,
       cancelled_or_disconnected_execution_count AS cancel_count,
       timed_out_execution_count AS to_count
FROM spanner_sys.query_stats_top_minute
WHERE all_failed_execution_count > 0
ORDER BY interval_end;
interval_end text_fingerprint execution_count Cantidad de consultas fallidas cancelar_recuento para_recuento
2020-07-24T16:52:00Z 5505124206529314852 3 1 1 0
2020-07-24T16:53:00Z 1697951036096498470 2 1 1 0
2020-07-24T16:53:00Z 5505124206529314852 5 2 1 1

Como se muestra en la tabla anterior, la consulta con la huella digital 5505124206529314852 falló varias veces durante diferentes intervalos de tiempo. Dado un patrón de fallas como este, es interesante comparar la latencia de las ejecuciones correctas con las fallidas.

SELECT interval_end,
       avg_latency_seconds AS combined_avg_latency,
       all_failed_avg_latency_seconds AS failed_execution_latency,
       ( avg_latency_seconds * execution_count -
         all_failed_avg_latency_seconds * all_failed_execution_count
       ) / (
       execution_count - all_failed_execution_count ) AS success_execution_latency
FROM   spanner_sys.query_stats_top_hour
WHERE  text_fingerprint = 5505124206529314852;
interval_end latencia_promedio_combinada latencia_ejecución_fallida latencia_ejecución_exitosa
2020-07-24T17:00:00Z 3.880420 13.830709 2.774832

Aplica las prácticas recomendadas

Después de identificar una consulta que puede optimizarse, podemos observar el perfil de consulta y tratar de optimizar mediante las prácticas recomendadas de SQL.

¿Qué sigue?