Statistiche sulle letture

Spanner fornisce tabelle integrate che archiviano le statistiche sulle letture. Puoi recuperare le statistiche da queste tabelle SPANNER_SYS.READ_STATS* utilizzando le istruzioni SQL.

Quando utilizzare le statistiche di lettura

Le statistiche di lettura forniscono insight sull'utilizzo del database da parte di un'applicazione e sono utili per analizzare i problemi di prestazioni. Ad esempio, puoi controllare quali forme di lettura sono in esecuzione su un database, con quale frequenza vengono eseguite e spiegare le caratteristiche prestazionali di queste forme di lettura. Puoi utilizzare le statistiche di lettura per il tuo database per identificare le forme di lettura che comportano un elevato utilizzo della CPU. A livello generale, le statistiche di lettura consentono di comprendere il comportamento del traffico indirizzato a un database in termini di utilizzo delle risorse.

Limitazioni

  • Questo strumento è più adatto per analizzare flussi di letture simili che rappresentano la maggior parte dell'utilizzo della CPU. Non è ideale per cercare letture eseguite solo una volta.

  • L'utilizzo della CPU monitorato in queste statistiche rappresenta l'utilizzo della CPU lato server di Spanner, escluso l'utilizzo della CPU di precaricamento e altri overhead.

  • Le statistiche vengono raccolte secondo il criterio del "best effort". Di conseguenza, è possibile che le statistiche non vengano visualizzate in caso di problemi con i sistemi sottostanti. Ad esempio, in caso di problemi di rete interni, è possibile che alcune statistiche vadano perse.

Disponibilità

I dati di SPANNER_SYS sono disponibili solo tramite le interfacce SQL, ad esempio:

  • Pagina Spanner Studio di un database nella console Google Cloud

  • Il comando gcloud spanner databases execute-sql

  • API executeQuery

Altri metodi di lettura singoli forniti da Spanner non supportano SPANNER_SYS.

Utilizzo CPU raggruppato per forma di lettura

Le seguenti tabelle tengono traccia delle forme di lettura con il maggiore utilizzo di CPU durante un periodo di tempo specifico:

  • SPANNER_SYS.READ_STATS_TOP_MINUTE: legge le statistiche sulle forme aggregate a intervalli di 1 minuto.
  • SPANNER_SYS.READ_STATS_TOP_10MINUTE: legge le statistiche relative alle forme aggregate a intervalli di 10 minuti.
  • SPANNER_SYS.READ_STATS_TOP_HOUR: leggi le statistiche relative alle forme aggregate a intervalli di 1 ora.

Queste tabelle hanno le seguenti proprietà:

  • Ogni tabella contiene dati per intervalli di tempo non sovrapposti della lunghezza specificata dal nome della tabella.

  • Gli intervalli sono basati sugli orari dell'orologio. Gli intervalli di 1 minuto terminano al minuto, gli intervalli di 10 minuti terminano ogni 10 minuti a partire dall'ora e gli intervalli di 1 ora ogni ora. Dopo ogni intervallo, Spanner raccoglie i dati da tutti i server e li rende subito disponibili nelle tabelle SPANNER_SYS.

    Ad esempio, alle 11:59:30, gli intervalli più recenti disponibili per le query SQL sono:

    • 1 minuto: 11:58:00-11:58:59
    • 10 minuti: 11:40:00-11:49:59
    • 1 ora: 10:00:00–10:59:59

  • Spanner raggruppa le statistiche per forma di lettura. Se è presente un tag, FPRINT è l'hash del tag. Altrimenti, si tratta dell'hash del valore READ_COLUMNS.

  • Ogni riga contiene le statistiche per tutte le esecuzioni di una particolare forma di lettura per cui Spanner acquisisce le statistiche durante l'intervallo specificato.

  • Se Spanner non è in grado di archiviare le informazioni su ogni forma di lettura distinta eseguita durante l'intervallo, il sistema assegna la priorità alle forme di lettura con il maggiore utilizzo di CPU durante l'intervallo specificato.

Schema tabella

Nome colonna Tipo Descrizione
INTERVAL_END TIMESTAMP Fine dell'intervallo di tempo in cui si sono verificate le esecuzioni di lettura incluse.
REQUEST_TAG STRING Il tag di richiesta facoltativo per questa operazione di lettura. Per ulteriori informazioni sull'uso dei tag, consulta Risoluzione dei problemi relativi ai tag di richiesta. Le statistiche per più letture con la stessa stringa tag sono raggruppate in una singola riga con "REQUEST_TAG" corrispondente alla stringa tag in questione.
READ_TYPE STRING Indica se una lettura è PARTITIONED_READ o READ. Una lettura con un partitionToken ottenuto dall'API PartitionRead è rappresentata dal tipo di lettura PARTITIONED_READ e dalle altre API di lettura da READ.
READ_COLUMNS ARRAY<STRING> L'insieme di colonne lette. in ordine alfabetico.
FPRINT INT64 L'hash del valore REQUEST_TAG, se presente; in caso contrario, l'hash del valore READ_COLUMNS.
EXECUTION_COUNT INT64 Numero di volte in cui Spanner ha eseguito la forma di lettura durante l'intervallo.
AVG_ROWS FLOAT64 Numero medio di righe restituite dalla lettura.
AVG_BYTES FLOAT64 Numero medio di byte di dati restituiti dalla lettura, escluso l'overhead della codifica di trasmissione.
AVG_CPU_SECONDS FLOAT64 Numero medio di secondi della CPU lato server Spanner che eseguono la lettura, escluso CPU di precaricamento e altro overhead.
AVG_LOCKING_DELAY_SECONDS FLOAT64 Numero medio di secondi di attesa a causa del blocco.
AVG_CLIENT_WAIT_SECONDS FLOAT64 Numero medio di secondi di attesa perché il client non consuma i dati alla velocità con cui Spanner potrebbe generarli.
AVG_LEADER_REFRESH_DELAY_SECONDS FLOAT64 Numero medio di secondi di attesa per confermare con il leader Paxos che tutte le scritture sono state osservate.
RUN_IN_RW_TRANSACTION_EXECUTION_COUNT INT64 Il numero di volte in cui la lettura è stata eseguita nell'ambito di una transazione di lettura-scrittura. Questa colonna consente di determinare se è possibile evitare i conflitti di blocco spostando la lettura in una transazione di sola lettura.

Esempi di query

Questa sezione include diverse istruzioni SQL di esempio che recuperano le statistiche di lettura. Puoi eseguire queste istruzioni SQL utilizzando le librerie client, gcloud spanner o la console Google Cloud.

Elenca le statistiche di base per ogni forma di lettura in un determinato periodo di tempo

La seguente query restituisce i dati non elaborati per le forme di lettura principali negli intervalli di tempo di 1 minuto più recenti.

SELECT fprint,
       read_columns,
       execution_count,
       avg_cpu_seconds,
       avg_rows,
       avg_bytes,
       avg_locking_delay_seconds,
       avg_client_wait_seconds
FROM spanner_sys.read_stats_top_minute
ORDER BY interval_end DESC LIMIT 3;
Output query
Fprint read_columns execution_count avg_cpu_seconds avg_rows avg_bytes avg_locking_delay_seconds avg_client_wait_seconds
125062082139 ["Singers.id", "Singers.name"] 8514387 0.000661355290396507 310.79 205 8.3232564943763752e-06 0
151238888745 ["Singers.singerinfo"] 3341542 6.5992827184280315e-05 12784 54 4.6859741349028595e-07 0
14105484 ["Albums.id", "Albums.title"] 9306619 0.00017855774721667873 1165.4 2964.71875 1.4328191393074178e-06 0

Elenca le forme di lettura, ordinate in base all'utilizzo totale massimo della CPU

La seguente query restituisce le forme di lettura con l'utilizzo maggiore di CPU nell'ora più recente:

SELECT read_columns,
       execution_count,
       avg_cpu_seconds,
       execution_count * avg_cpu_seconds AS total_cpu
FROM spanner_sys.read_stats_top_hour
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.read_stats_top_hour)
ORDER BY total_cpu DESC LIMIT 3;
Output query
read_columns execution_count avg_cpu_seconds total_cpu
["Singers.id", "Singers.name"] 1647 0.00023380297430622681 0.2579
["Albums.id", "Albums.title"] 720 0.00016738889440282034 0.221314999999999
["Singers.singerinfo""] 3223 0.00037764625882302246 0.188053

Statistiche aggregate

SPANNER_SYS contiene anche tabelle per archiviare le statistiche di lettura aggregate acquisite da Spanner in un periodo di tempo specifico:

  • SPANNER_SYS.READ_STATS_TOTAL_MINUTE: aggrega le statistiche per tutte le forme di lettura durante intervalli di 1 minuto.
  • SPANNER_SYS.READ_STATS_TOTAL_10MINUTE: aggrega le statistiche per tutte le forme di lettura durante intervalli di 10 minuti.
  • SPANNER_SYS.READ_STATS_TOTAL_HOUR: statistiche aggregate per tutte le forme di lettura a intervalli di 1 ora.

Le tabelle delle statistiche aggregate hanno le seguenti proprietà:

  • Ogni tabella contiene dati per intervalli di tempo non sovrapposti della lunghezza specificata dal nome della tabella.

  • Gli intervalli sono basati sugli orari dell'orologio. Gli intervalli di 1 minuto terminano al minuto, gli intervalli di 10 minuti terminano ogni 10 minuti a partire dall'ora e gli intervalli di 1 ora terminano ogni ora.

    Ad esempio, alle 11:59:30, gli intervalli più recenti disponibili per le query SQL sulle statistiche di lettura aggregate sono:

    • 1 minuto: 11:58:00-11:58:59
    • 10 minuti: 11:40:00-11:49:59
    • 1 ora: 10:00:00–10:59:59

  • Ogni riga contiene statistiche per tutte le forme di lettura eseguite nel database durante l'intervallo specificato, aggregate insieme. Esiste una sola riga per intervallo di tempo.

  • Le statistiche acquisite nelle tabelle SPANNER_SYS.READ_STATS_TOTAL_* potrebbero includere forme di lettura che Spanner non ha acquisito nelle tabelle SPANNER_SYS.READ_STATS_TOP_*.

  • Alcune colonne di queste tabelle sono esposte come metriche in Cloud Monitoring. Le metriche esposte sono:

    • Conteggio delle righe restituito
    • Conteggio esecuzioni di lettura
    • Tempo di CPU in lettura
    • Ritardi di blocco
    • Tempo di attesa client
    • Ritardo aggiornamento leader
    • Conteggio dei byte restituiti

    Per ulteriori informazioni, consulta Metriche di Spanner.

Schema tabella

Nome colonna Tipo Descrizione
INTERVAL_END TIMESTAMP Fine dell'intervallo di tempo in cui si sono verificate le esecuzioni della forma di lettura inclusa.
EXECUTION_COUNT INT64 Numero di volte in cui Spanner ha eseguito la forma di lettura durante l'intervallo.
AVG_ROWS FLOAT64 Numero medio di righe restituite dalle letture.
AVG_BYTES FLOAT64 Numero medio di byte di dati restituiti dalle letture, escluso l'overhead della codifica di trasmissione.
AVG_CPU_SECONDS FLOAT64 Numero medio di secondi della CPU lato server Spanner che eseguono la lettura, escluso CPU di precaricamento e altro overhead.
AVG_LOCKING_DELAY_SECONDS FLOAT64 Numero medio di secondi di attesa a causa del blocco.
AVG_CLIENT_WAIT_SECONDS FLOAT64 Numero medio di secondi di attesa a causa della limitazione.
AVG_LEADER_REFRESH_DELAY_SECONDS FLOAT64 Numero medio di secondi spesi per coordinare le letture tra le istanze nelle configurazioni multiregionali.
RUN_IN_RW_TRANSACTION_EXECUTION_COUNT INT64 Il numero di volte in cui le letture sono state eseguite nell'ambito di transazioni di lettura-scrittura. Questa colonna consente di determinare se è possibile evitare i conflitti di blocco spostando alcune letture nelle transazioni di sola lettura.

Esempi di query

Questa sezione include diverse istruzioni SQL di esempio che recuperano le statistiche di lettura aggregate. Puoi eseguire queste istruzioni SQL utilizzando le librerie client, gcloud spanner o la console Google Cloud.

trova l'utilizzo totale della CPU in tutte le forme di lettura

La seguente query restituisce il numero di ore CPU consumate dalle forme di lettura nell'ora più recente:

SELECT (avg_cpu_seconds * execution_count / 60 / 60)
  AS total_cpu_hours
FROM spanner_sys.read_stats_total_hour
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.read_stats_total_hour);
Output query
total_cpu_hours
0.00026186111111111115

Trovare il conteggio totale delle esecuzioni in un determinato periodo di tempo

La seguente query restituisce il numero totale di forme di lettura eseguite nell'intervallo completo di 1 minuto più recente:

SELECT interval_end,
       execution_count
FROM spanner_sys.read_stats_total_minute
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.read_stats_total_minute);
Output query
interval_end execution_count
2020-05-28 11:02:00-07:00 12861966

Conservazione dei dati

Spanner conserva i dati di ogni tabella come minimo per i seguenti periodi di tempo:

  • SPANNER_SYS.READ_STATS_TOP_MINUTE e SPANNER_SYS.READ_STATS_TOTAL_MINUTE: intervalli che coprono le 6 ore precedenti.

  • SPANNER_SYS.READ_STATS_TOP_10MINUTE e SPANNER_SYS.READ_STATS_TOTAL_10MINUTE: intervalli che coprono i 4 giorni precedenti.

  • SPANNER_SYS.READ_STATS_TOP_HOUR e SPANNER_SYS.READ_STATS_TOTAL_HOUR: intervalli che coprono i 30 giorni precedenti.

Risolvi i problemi di utilizzo elevato della CPU con le statistiche di lettura

Le statistiche di lettura di Spanner sono utili nei casi in cui devi analizzare l'utilizzo elevato della CPU nel tuo database Spanner o quando vuoi solo comprendere le forme di lettura che utilizzano molta CPU nel tuo database. L'ispezione delle forme di lettura che utilizzano quantità significative di risorse di database offre agli utenti di Spanner un modo potenziale per ridurre i costi operativi ed eventualmente migliorare le latenze generali del sistema. Segui i passaggi riportati di seguito per scoprire come utilizzare le statistiche di lettura per esaminare l'utilizzo elevato della CPU nel database.

Seleziona un periodo di tempo per l'indagine

Inizia la tua indagine cercando un momento in cui l'applicazione ha iniziato a registrare un utilizzo elevato della CPU. Ad esempio, nello scenario seguente, il problema ha iniziato a verificarsi intorno alle 17:20 del 28 maggio 2020.

Raccogli le statistiche di lettura per il periodo di tempo selezionato

Dopo aver selezionato un periodo di tempo per l'inizio dell'indagine, esamineremo le statistiche raccolte nella tabella READ_STATS_TOTAL_10MINUTE all'incirca in quel periodo. I risultati di questa query potrebbero fornire indizi su come sono cambiati la CPU e altre statistiche di lettura nel periodo di tempo in questione. La seguente query restituisce le statistiche aggregate di lettura da 4:30 pm a 7:30 pm (inclusi).

SELECT
  interval_end,
  ROUND(avg_cpu_seconds,4) as avg_cpu_seconds,
  execution_count,
  avg_locking_delay_seconds
FROM SPANNER_SYS.READ_STATS_TOTAL_10MINUTE
WHERE
  interval_end >= "2020-05-28T16:30:00"
  AND interval_end <= "2020-05-28T19:30:00"
ORDER BY interval_end;

I seguenti dati sono un esempio del risultato ottenuto dalla query.

interval_end avg_cpu_seconds execution_count avg_locking_delay_seconds
28-05-2020 16:40:00-07:00 0,0004 11111421 8.3232564943763752e-06
28-05-2020 16:50:00-07:00 0,0002 8815637 8,98734051776406e-05
28-05-2020 17:00:00-07:00 0,0001 8260215 6,039129247846453e-06
28-05-2020 17:10:00-07:00 0,0001 8514387 9,0535466616680686e-07
28-05-2020 17:20:00-07:00 0,0006 13715466 2,6801485272173765e-06
28-05-2020 17:30:00-07:00 0,0007 12861966 4,6859741349028595e-07
28-05-2020 17:40:00-07:00 0,0007 3755954 2,7131391918005383e-06
28-05-2020 17:50:00-07:00 0,0006 4248137 1,4328191393074178e-06
28-05-2020 18:00:00-07:00 0,0006 3986198 2,6973481999639748e-06
28-05-2020 18:10:00-07:00 0,0006 3510249 3,7577083563017905e-06
28-05-2020 18:20:00-07:00 0,0004 3341542 4,0940589703795433e-07
28-05-2020 18:30:00-07:00 0,0002 8695147 1,9914494947583975e-05
28-05-2020 18:40:00-07:00 0,0003 11679702 1,8331461539001595e-05
28-05-2020 18:50:00-07:00 0,0003 9306619 1,2527332321222135e-05
28-05-2020 19:00:00-07:00 0,0002 8520508 6,2268448078447915e-06
28-05-2020 19:10:00-07:00 0,0006 13715466 2,6801485272173765e-06
28-05-2020 19:20:00-07:00 0,0005 11947323 3,3029114639321295e-05
28-05-2020 19:30:00-07:00 0,0002 8514387 9,0535466616680686e-07

Qui vediamo che il tempo di CPU medio, avg_cpu_seconds, è più elevato negli intervalli evidenziati. Il valore interval_end con il valore 2020-05-28 19:20:00 ha un tempo di CPU più elevato, quindi sceglieremo questo intervallo per indagare ulteriormente nel passaggio successivo.

Individuare le forme di lettura che causano un elevato utilizzo della CPU

Approfondendo l'argomento, ora eseguiamo una query sulla tabella READ_STATS_TOP_10MINUTE per l'intervallo selezionato nel passaggio precedente. I risultati di questa query possono essere utili per indicare quali forme di lettura causano un utilizzo elevato della CPU.

SELECT
  read_columns,
  ROUND(avg_cpu_seconds,4) as avg_cpu_seconds,
  execution_count,
  avg_rows
FROM SPANNER_SYS.READ_STATS_TOP_10MINUTE
WHERE
  interval_end = "2020-05-28T19:20:00"
ORDER BY avg_cpu_seconds DESC LIMIT 3;

I seguenti dati sono un esempio del risultato che otteniamo dalla query, restituendo informazioni sulle tre forme di lettura principali classificate per avg_cpu_seconds. Nota l'utilizzo di ROUND nella nostra query per limitare l'output di avg_cpu_seconds a 4 cifre decimali.

read_columns avg_cpu_seconds execution_count avg_rows
[TestHigherLatency._exists,TestHigherLatency.lang_status,TestHigherLatency.score,globalTagAffinity.shares]1 0,4192 1182 11650,42216582
[TestHigherLatency._exists,TestHigherLatency.lang_status,TestHigherLatency.likes,globalTagAffinity.score] 0,0852 4 12784
[TestHigherLatency._exists,TestHigherLatency.lang_status,TestHigherLatency.score,globalTagAffinity.ugcCount] 0,0697 1140 310,7921052631

1 _exists è un campo interno utilizzato per verificare se una determinata riga esiste o meno.

Un motivo di un elevato utilizzo della CPU potrebbe essere che si inizia a eseguire più spesso alcune forme di lettura (execution_count). Forse il numero medio di righe restituite dalla lettura è aumentato (avg_rows). Se nessuna di queste proprietà della forma di lettura rivela qualcosa di interessante, puoi esaminare altre proprietà come avg_locking_delay_seconds, avg_client_wait_seconds o avg_bytes.

Applica le best practice per ridurre l'utilizzo elevato della CPU

Dopo aver completato i passaggi precedenti, valuta se l'utilizzo di queste best practice sarà utile per la tua situazione.

  • Il numero di volte in cui Spanner ha eseguito forme di lettura durante l'intervallo è un buon esempio di metrica che richiede una base di riferimento per indicare se una misurazione è ragionevole o segno di un problema. Una volta stabilita una base di riferimento per la metrica, sarai in grado di rilevare e analizzare la causa di eventuali deviazioni impreviste dal comportamento normale.

  • Se l'utilizzo della CPU è relativamente costante per la maggior parte delle volte, ma mostra improvvisamente un picco che può essere correlato a un simile picco improvviso delle richieste degli utenti o del comportamento delle applicazioni, potrebbe essere un indicatore che tutto funziona come previsto.

  • Prova questa query per trovare le forme di lettura principali classificate in base al numero di volte che Spanner ha eseguito per ogni forma di lettura:

    SELECT interval_end, read_columns, execution_count
FROM SPANNER_SYS.READ_STATS_TOP_MINUTE
ORDER BY execution_count DESC
LIMIT 10;

  • Se cerchi le latenze di lettura più basse possibili, soprattutto quando utilizzi configurazioni di istanze multiregionali, utilizza letture inattive anziché letture inattive per ridurre o rimuovere il componente AVG_LEADER_REFRESH_DELAY_SECONDS della latenza di lettura.

  • Se esegui solo letture e puoi esprimere la lettura utilizzando un metodo di lettura singola, devi utilizzare quel metodo di lettura singola. Le letture singole non sono bloccate, a differenza delle transazioni di lettura e scrittura, pertanto dovresti utilizzare le transazioni di sola lettura rispetto a transazioni di lettura e scrittura più costose quando non scrivi dati.

Passaggi successivi