Stima dei requisiti di capacità degli slot
Quando acquisti slot riservati in BigQuery, devi stimare il numero corretto di slot per il tuo carico di lavoro specifico. BigQuery Lo strumento di stima degli slot consente di gestire la capacità degli slot in base alle prestazioni storiche metriche di valutazione.
Puoi utilizzare lo strumento per la stima degli slot per le tue versioni, prenotazioni e i tuoi carichi di lavoro on demand per eseguire le seguenti attività:
Per i carichi di lavoro della versione selezionata:
- Visualizza i dati sulla capacità e sull'utilizzo degli slot negli ultimi 30 giorni e identifica i periodi di picco di utilizzo quando vengono utilizzati più slot.
- Visualizza suggerimenti ottimali per i costi per gli slot con impegno e scalabilità automatica con prestazioni simili.
- Visualizza le impostazioni di prenotazione attuali per una versione specifica.
Per carichi di lavoro di prenotazione specifici:
- Visualizza i dati sulla capacità e sull'utilizzo degli slot per gli ultimi 30 giorni e identifica periodi di picco di utilizzo in cui viene utilizzato il maggior numero di slot.
- Visualizza i percentile della latenza dei job (P90, P95 e così via) per comprendere il rendimento delle query.
- Modella l'impatto sull'aumento o sulla riduzione degli slot di prenotazione massima sul rendimento.
Per i carichi di lavoro con fatturazione on demand:
- Visualizzare i dati sull'utilizzo degli slot on demand dell'intera organizzazione o di una singola persona degli ultimi 30 giorni.
- Visualizza consigli ottimali per i costi per gli slot con impegno e di scalabilità automatica con prestazioni simili se passi alla versione Enterprise.
I clienti che utilizzano la versione Enterprise, la versione Enterprise Plus o la fatturazione on demand possono utilizzare il Recommender per gli slot BigQuery per visualizzare l'utilizzo degli slot, ottimizzare gli impegni e migliorare le prestazioni. Per ulteriori informazioni, vedi Visualizzare i consigli per gli slot di versione.
Limitazioni
- I dati sono limitati agli ultimi 30 giorni.
- I modelli non includono i compiti
ML_EXTERNAL. Se un'ampia percentuale dei tuoi slot viene utilizzata per le assegnazioni diML_EXTERNAL, i risultati modellati sono meno precisi.
Prima di iniziare
Concede ruoli IAM (Identity and Access Management) che concedono agli utenti le autorizzazioni necessarie per eseguire ciascuna attività in questo documento.
Autorizzazioni obbligatorie
Per utilizzare lo stimatore di slot per i dati sulle prenotazioni, devi disporre delle seguenti autorizzazioni IAM nel progetto di amministrazione:
bigquery.reservations.listbigquery.reservationAssignments.listbigquery.capacityCommitments.list
Ciascuno dei seguenti ruoli IAM predefiniti include autorizzazioni necessarie per utilizzare lo strumento di stima degli slot:
roles/bigquery.adminroles/bigquery.resourceAdminroles/bigquery.resourceEditorroles/bigquery.resourceViewerroles/bigquery.user
Per utilizzare lo strumento di stima degli slot per i dati di utilizzo on demand, devi abilitare il parametro Prenotazioni API su un progetto che intendi utilizzare come progetto di amministrazione per gestire le prenotazioni. Oltre alle autorizzazioni precedenti, è necessaria anche una delle seguenti autorizzazioni Autorizzazioni IAM sulla tua organizzazione per visualizzare a livello di organizzazione o il progetto per visualizzare i dati a livello di progetto:
bigquery.jobs.listExecutionMetadata(può essere applicato solo a livello di organizzazione)bigquery.jobs.listAll(può essere applicato sia a livello di organizzazione che di progetto)
Ciascuno dei seguenti ruoli IAM predefiniti include autorizzazioni necessarie per utilizzare lo strumento di stima degli slot:
roles/bigquery.adminroles/bigquery.resourceAdminroles/bigquery.resourceEditorroles/bigquery.resourceViewer
Per visualizzare i consigli per gli slot di impegno, devi disporre anche delle autorizzazioni descritte in Visualizzare i consigli per gli slot di pubblicazione.
Per ulteriori informazioni sui ruoli IAM in BigQuery, vedi Autorizzazioni e ruoli predefiniti.
Visualizza capacità e utilizzo degli slot
Per visualizzare la capacità e l'utilizzo degli slot nel tempo, vai allo stimatore degli slot:
Nella console Google Cloud, apri la pagina BigQuery.
Seleziona il tuo progetto di amministrazione.
- Fai clic sull'elenco a discesa Seleziona da nella parte superiore della pagina.
- Nella finestra Seleziona da visualizzata, seleziona il tuo progetto.
Nel riquadro di navigazione, vai alla sezione Gestione della capacità.
Fai clic sulla scheda Stimatore di slot.
Il grafico sull'utilizzo mostra la capacità e l'utilizzo degli slot negli ultimi 30 giorni. calcolati con granularità oraria.
La scheda Utilizzo e utilizzo in percentuale mostra l'utilizzo degli slot come percentuale di utilizzo degli slot in base al numero massimo di slot.
La scheda Utilizzo e utilizzo in base alla capacità mostra gli slot e l'utilizzo massimi come valori assoluti.
Puoi scegliere un'edizione o un'opzione on demand dal menu a discesa Origine per visualizzare le statistiche per diversi ambiti. La selezione di un'edizione compila l'elenco a discesa Prenotazione con le prenotazioni pertinenti.
Per le opzioni on demand, puoi scegliere un singolo progetto o l'intero dell'organizzazione Menu a discesa Suggerimenti per se disponi di autorizzazioni a livello di organizzazione. La pagina Strumento per la stima degli slot mostra solo le informazioni a livello di progetto se dispongono di autorizzazioni a livello di progetto.
Le statistiche per la scheda Utilizzo e utilizzo per capacità potrebbero variare leggermente in base a diversi ambiti:
- Per l'origine della versione, mostra il numero massimo di slot disponibili per l'intera versione, slot di impegno, somma degli slot di riferimento, utilizzo medio degli slot, utilizzo slot P99 e l'utilizzo degli slot P50.
- Per una prenotazione specifica, mostra il numero massimo di slot di prenotazione, gli slot di riferimento utilizzo medio degli slot, utilizzo slot P99 e utilizzo slot P50.
- Per l'origine on demand, mostra l'utilizzo medio degli slot, l'utilizzo degli slot P99 e P50 di utilizzo degli slot.
Prestazioni degli slot modello
Quando è selezionata una prenotazione, puoi utilizzare lo strumento di stima degli slot per visualizzare il job sulle prestazioni e modellare l'effetto della modifica del numero massimo di slot. Lo stimatore degli slot ti consente di modellare la possibile variazione del rendimento a diversi livelli di capacità, dall'80% del valore minimo della dimensione massima degli slot nel periodo di osservazione al 150% degli slot massimi attuali. In altre parole, la diminuzione delle opzioni non può superare il 20% della capacità minima in un periodo di 30 giorni, mentre l'aumento delle opzioni non può superare il 50% della capacità attuale.
I modelli ipotizzano una riproduzione dei 30 giorni precedenti di utilizzo, in cui tutto rimane invariato, tranne che con gli slot.
Il miglioramento del rendimento stimato si basa su diversi fattori. Il più i fattori importanti sono il numero di slot nel modello e la proporzione i job in ogni bucket percentile eseguiti durante i periodi di picco rispetto ai normali cicli. I periodi di picco sono le durate in cui la maggior parte degli slot è stata in uso. I job eseguiti durante questi periodi sono maggiormente interessati dalla concorrenza per gli slot e, pertanto, registrano il maggiore guadagno in termini di prestazioni dagli slot aggiuntivi. Di conseguenza, diversi bucket di job possono registrare effetti diversi dall'aumento della stessa capacità, a seconda di quando vengono eseguiti.
Per configurare le prestazioni degli slot del modello, segui questi passaggi:
Nella console Google Cloud, apri la pagina BigQuery.
Seleziona il tuo progetto di amministrazione.
- Fai clic sull'elenco a discesa Seleziona da nella parte superiore della pagina.
- Nella finestra Seleziona da visualizzata, seleziona il tuo progetto.
Nel riquadro di navigazione, vai alla sezione Gestione della capacità.
Fai clic sulla scheda Stimatore di slot.
Nel menu a discesa Prenotazione, seleziona una prenotazione specifica. Il modello include il numero di slot inattivi che la prenotazione è riuscita a prendere in prestito in un determinato momento.
Nel menu a discesa Modello con slot aggiuntivi oltre il numero massimo di slot, seleziona uno o più valori degli slot da modellare e fai clic su OK.
La tabella in Modifiche nelle prestazioni del job con slot aggiuntivi mostra il job i dati sul rendimento degli ultimi 30 giorni, insieme alla variazione stimata il rendimento derivante dall'aumento o dalla diminuzione del numero massimo di slot. I dati sono raggruppati in percentuale in base alla durata del job per tutti i job eseguiti nell'intervallo di tempo selezionato. La colonna indicata dall'icona a forma di lampadina corrisponde al consiglio per il miglioramento del rendimento per la prenotazione selezionata.
I dati sul rendimento sono suddivisi per percentile. La tabella suddivide i dati in massimo 12 bucket: da P10 a P90, più P95, P99 e P100. P100 il bucket rappresenta il primo 1% dei job che hanno richiesto più tempo di esecuzione; P99 include il 96%-99% dei migliori; P95 include il top 91% al 95%; P90 include l'81% al 90%; e così via. A seconda dei dati, la tabella potrebbe raggrupparli in meno bucket. In questo caso, la tabella contiene meno righe.
Per ogni bucket percentile, la tabella mostra le seguenti informazioni:
- Percentile durata job: il bucket percentile per questa riga.
- Durata media del job: il tempo medio durante il quale i job nel bucket percentile per l'esecuzione.
- Numero di job: il numero di job nel bucket percentile.
- Per ogni modello, la durata media stimata per i job in quel percentile.
La tabella riporta anche una stima della "variazione di 30 giorni" per ogni modello. Questo è la variazione stimata delle ore totali trascorse a elaborare i job Cronologia di 30 giorni con capacità slot diverse.
Comprendere i risultati della modellazione con l'utilizzo degli slot
Per le prenotazioni con capacità fissa, se la condivisione degli slot inattivi è abilitata, i job di quella prenotazione possono prendere in prestito slot inattivi da altre prenotazioni. Di conseguenza, l'utilizzo può superare il 100% degli slot allocati. Se una prenotazione fa regolarmente prende in prestito gli slot inattivi da altre prenotazioni, questo potrebbe essere un segnale di aumentare la dimensione della prenotazione. Al contrario, se una prenotazione utilizza raramente la sua piena capacità, potrebbe essere troppo grande.
Per le prenotazioni che usano la scalabilità automatica vengono usate e aggiungi slot con la priorità seguente:
- Slot di riferimento.
- Condivisione di slot inattivi (se abilitata).
- Slot a scalabilità automatica.
Se una prenotazione con scalabilità automatica raggiunge costantemente il massimo degli slot di scalabilità automatica, potrebbe essere un segnale di aumento del numero massimo di slot prenotati. Per informazioni su come visualizzare l'utilizzo degli slot, vedi Visualizzare i grafici delle risorse amministrative.
Prezzi
Puoi usare lo strumento di stima degli slot senza costi aggiuntivi.