Lavorare con query con più istruzioni
Questo documento descrive come utilizzare le query con più istruzioni in BigQuery, ad esempio come scrivere query con più istruzioni, utilizzare tabelle temporanee nelle query con più istruzioni, fare riferimento alle variabili nelle query con più istruzioni e eseguire il debug delle query con più istruzioni.
Una query con più istruzioni è una raccolta di istruzioni SQL che puoi eseguire in un'unica richiesta. Con le query con più istruzioni puoi eseguire più istruzioni in una sequenza con stato condiviso. Le query con più istruzioni possono avere effetti collaterali come l'aggiunta o la modifica dei dati della tabella.
Le query con più istruzioni vengono spesso utilizzate nelle stored procedure e supportano istruzioni del linguaggio procedurale, che ti consentono di eseguire operazioni come definire variabili e implementare il flusso di controllo.
Scrivere, eseguire e salvare query con più istruzioni
Una query con più istruzioni è composta da una o più istruzioni SQL separate da punti e virgola. Qualsiasi istruzione SQL valida può essere utilizzata in una query con più istruzioni. Le query con più istruzioni possono includere anche istruzioni del linguaggio procedurale, che ti consentono di utilizzare variabili o implementare il flusso di controllo con le istruzioni SQL.
Scrivere una query con più istruzioni
Puoi scrivere una query con più istruzioni in BigQuery. La seguente
query con più istruzioni dichiara una variabile e la utilizza all'interno di un'istruzione IF
:
DECLARE day INT64;
SET day = (SELECT EXTRACT(DAYOFWEEK from CURRENT_DATE));
if day = 1 or day = 7 THEN
SELECT 'Weekend';
ELSE
SELECT 'Weekday';
END IF
BigQuery interpreta qualsiasi richiesta con più istruzioni come una query con più istruzioni, a meno che le istruzioni non siano costituite interamente da istruzioni CREATE TEMP FUNCTION
seguite da una singola istruzione SELECT
.
Ad esempio, la seguente non è considerata una query con più istruzioni:
CREATE TEMP FUNCTION Add(x INT64, y INT64) AS (x + y);
SELECT Add(3, 4);
Eseguire una query con più istruzioni
Puoi eseguire una query con più istruzioni come qualsiasi altra query, ad esempio nella console Google Cloud o utilizzando lo strumento a riga di comando bq.
Eseguire una prova di una query con più istruzioni
Per stimare il numero di byte letti da una query con più istruzioni, valuta la possibilità di eseguire un
simulacro. Un'esecuzione di prova di una query con più istruzioni è più accurata per le query che contengono solo istruzioni SELECT
.
Le prove secche hanno una gestione speciale per i seguenti tipi di query e istruzioni:
CALL
: la prova dry run convalida l'esistenza della procedura chiamata e ha una firma corrispondente agli argomenti forniti. I contenuti della procedura chiamata e tutte le istruzioni dopo l'istruzioneCALL
non sono convalidati.- Istruzioni DDL:
la prova dry run convalida la prima istruzione DDL e poi
si arresta. Tutte le istruzioni successive vengono ignorate. Le prove di simulazione delle istruzioni
CREATE TEMP TABLE
non sono supportate. - Istruzioni DML: la prova dry run convalida l'istruzione DML e poi continua a convalidare le istruzioni successive. In questo caso, le stime in byte si basano sulle dimensioni della tabella originale e non tengono conto del risultato dell'istruzione DML.
EXECUTE IMMEDIATE
: la prova verifica l'espressione della query, ma non valuta la query dinamica stessa. Tutte le istruzioni successive all'istruzioneEXECUTE IMMEDIATE
vengono ignorate.- Query che utilizzano variabili in un filtro di partizione: la simulazione convalida la query iniziale e le istruzioni successive. Tuttavia, la prova non è in grado di calcolare il valore di runtime delle variabili in un filtro di partizione. Ciò influisce sulla stima dei byte letti.
- Query che utilizzano variabili nell'espressione del timestamp di una clausola
FOR SYSTEM TIME AS OF
: la simulazione utilizza i contenuti attuali della tabella e ignora la clausolaFOR SYSTEM TIME AS OF
. Questo influisce sulla stima dei byte letti se esistono differenze di dimensioni tra la tabella corrente e l'iterazione precedente della tabella. - Istruzioni di controllo
FOR
,IF
eWHILE
: il test di prova si interrompe immediatamente. Le espressioni di condizione, i corpi dell'istruzione di controllo e tutte le istruzioni successive non vengono convalidate.
Le prove generali vengono eseguite secondo il criterio del "best effort" e il processo sottostante è soggetto a modifiche. Le prove generali sono soggette alle seguenti condizioni:
- Una query che completa correttamente una prova potrebbe non essere eseguita correttamente. Ad esempio, le query potrebbero non riuscire in fase di esecuzione per motivi non rilevati dai dry run.
- Una query che viene eseguita correttamente potrebbe non completare correttamente una prova. Ad esempio, le query potrebbero non riuscire nelle prove a causa di motivi rilevati durante l'esecuzione.
- Non è garantito che le prove che vengono eseguite oggi senza problemi verranno eseguite sempre in futuro. Ad esempio, le modifiche all'implementazione della prova secca potrebbero rilevare errori in una query non rilevati in precedenza.
Salvare una query con più istruzioni
Per salvare una query con più istruzioni, consulta Utilizzare le query salvate.
Utilizzare le variabili in una query con più istruzioni
Una query con più istruzioni può contenere variabili create dall'utente e variabili di sistema.
Puoi dichiarare variabili create dall'utente, assegnare loro valori e farvi riferimento in tutta la query.
Puoi fare riferimento alle variabili di sistema in una query e assegnare valori ad alcune di esse, ma, a differenza delle variabili definite dall'utente, non devi dichiararle. Le variabili di sistema sono integrate in BigQuery.
Dichiarare una variabile creata dall'utente
Devi dichiarare le variabili create dall'utente all'inizio della query con più istruzioni o all'inizio di un blocco BEGIN
. Le variabili dichiarate all'inizio della query con più istruzioni sono nell'ambito
per l'intera query. Le variabili dichiarate all'interno di un blocco BEGIN
hanno ambito per il blocco. Esce dall'ambito dopo l'istruzione END
corrispondente. La dimensione massima di una variabile è 1 MB e la dimensione massima di tutte le variabili utilizzate in una query con più istruzioni è 10 MB.
Puoi dichiarare una variabile con l'istruzione procedurale
DECLARE
come questa:
DECLARE x INT64;
BEGIN
DECLARE y INT64;
-- Here you can reference x and y
END;
-- Here you can reference x, but not y
Impostare una variabile creata dall'utente
Dopo aver dichiarato una variabile creata dall'utente, puoi assegnarle un valore con l'istruzione procedurale
SET
come questa:
DECLARE x INT64 DEFAULT 0;
SET x = 10;
Impostare una variabile di sistema
Non crei variabili di sistema, ma puoi sostituire il valore predefinito per alcune di queste nel seguente modo:
SET @@dataset_project_id = 'MyProject';
Puoi anche impostare e utilizzare implicitamente una variabile di sistema in una query con più istruzioni. Ad esempio, nella seguente query devi includere il progetto ogni volta che vuoi creare una nuova tabella:
BEGIN
CREATE TABLE MyProject.MyDataset.MyTempTableA (id STRING);
CREATE TABLE MyProject.MyDataset.MyTempTableB (id STRING);
END;
Se non vuoi aggiungere il progetto ai percorsi delle tabelle più volte, puoi assegnare l'ID progetto del set di dati MyProject
alla variabile di sistema @@dataset_project_id
nella query con più istruzioni. Questa assegnazione rende MyProject
il progetto predefinito per il resto della query.
SET @@dataset_project_id = 'MyProject';
BEGIN
CREATE TABLE MyDataset.MyTempTableA (id STRING);
CREATE TABLE MyDataset.MyTempTableB (id STRING);
END;
Analogamente, puoi impostare la variabile di sistema @@dataset_id
per assegnare un set di dati predefinito per la query. Ad esempio:
SET @@dataset_project_id = 'MyProject';
SET @@dataset_id = 'MyDataset';
BEGIN
CREATE TABLE MyTempTableA (id STRING);
CREATE TABLE MyTempTableB (id STRING);
END;
Puoi anche fare riferimento esplicitamente a variabili di sistema come @@dataset_id
in molte parti di una query con più istruzioni. Per scoprire di più, consulta
Fare riferimento a una variabile di sistema.
Fare riferimento a una variabile creata dall'utente
Dopo aver dichiarato e impostato una variabile creata dall'utente, puoi farvi riferimento in una query con più istruzioni. Se una variabile e una colonna condividono lo stesso nome, la colonna ha la precedenza.
Il risultato è column x
+ column x
:
DECLARE x INT64 DEFAULT 0;
SET x = 10;
WITH Numbers AS (SELECT 50 AS x)
SELECT (x+x) AS result FROM Numbers;
+--------+
| result |
+--------+
| 100 |
+--------+
Il risultato è column y
+ variable x
:
DECLARE x INT64 DEFAULT 0;
SET x = 10;
WITH Numbers AS (SELECT 50 AS y)
SELECT (y+x) AS result FROM Numbers;
+--------+
| result |
+--------+
| 60 |
+--------+
Fare riferimento a una variabile di sistema
Puoi fare riferimento a una variabile di sistema in una query con più istruzioni.
La seguente query restituisce il fuso orario predefinito:
BEGIN
SELECT @@time_zone AS default_time_zone;
END;
+-------------------+
| default_time_zone |
+-------------------+
| UTC |
+-------------------+
Puoi utilizzare le variabili di sistema con le query DDL e DML.
Ad esempio, di seguito sono riportati alcuni modi per utilizzare la variabile di sistema @@time_zone
quando crei e aggiorni una tabella:
BEGIN
CREATE TEMP TABLE MyTempTable
AS SELECT @@time_zone AS default_time_zone;
END;
BEGIN
CREATE OR REPLACE TABLE MyDataset.MyTable(default_time_zone STRING)
OPTIONS (description = @@time_zone);
END;
BEGIN
UPDATE MyDataset.MyTable
SET default_time_zone = @@time_zone
WHERE TRUE;
END;
Esistono alcuni casi in cui le variabili di sistema non possono essere utilizzate nelle query DDL e DML. Ad esempio, non puoi utilizzare una variabile di sistema come nome del progetto, del set di dati o della tabella. Questo genera un errore quando provi
a includere la variabile di sistema @@dataset_id
in un percorso tabella:
BEGIN
CREATE TEMP TABLE @@dataset_id.MyTempTable (id STRING);
END;
Utilizzare tabelle temporanee in una query con più istruzioni
Le tabelle temporanee ti consentono di salvare i risultati intermedi in una tabella. Le tabelle temporanee sono gestite da BigQuery, quindi non devi salvarle o gestirle in un set di dati. Ti viene addebitato il costo dell'archiviazione delle tabelle temporanee.
Puoi creare e fare riferimento a una tabella temporanea in una query con più istruzioni. Al termine dell'utilizzo della tabella temporanea, puoi eliminarla manualmente per minimizzare i costi di archiviazione o attendere che BigQuery la elimini dopo 24 ore.
Crea una tabella temporanea
Puoi creare una tabella temporanea per una query con più istruzioni con l'istruzione
CREATE TABLE
.
Il seguente esempio crea una tabella temporanea per archiviare i risultati di una query e poi utilizza la tabella temporanea in una sottoquery:
-- Find the top 100 names from the year 2017.
CREATE TEMP TABLE top_names(name STRING)
AS
SELECT name
FROM `bigquery-public-data`.usa_names.usa_1910_current
WHERE year = 2017
ORDER BY number DESC LIMIT 100
;
-- Which names appear as words in Shakespeare's plays?
SELECT
name AS shakespeare_name
FROM top_names
WHERE name IN (
SELECT word
FROM `bigquery-public-data`.samples.shakespeare
);
A parte l'utilizzo di TEMP
o TEMPORARY
, la sintassi è identica a quella di CREATE TABLE
.
Quando crei una tabella temporanea, non utilizzare un qualificatore di progetto o set di dati nel nome della tabella. La tabella viene creata automaticamente in un set di dati speciale.
Fare riferimento a una tabella temporanea
Puoi fare riferimento a una tabella temporanea per nome per la durata della query con più istruzioni corrente. Sono incluse le tabelle temporanee create da una procedura
all'interno della query con più istruzioni. Non puoi condividere tabelle temporanee. Le tabelle temporary
risiedono in set di dati _script%
nascosti con nomi generati in modo casuale.
L'articolo Elenco dei set di dati descrive come elencare i set di dati nascosti.
Eliminare le tabelle temporanee
Puoi eliminare una tabella temporanea in modo esplicito prima del completamento della query con più istruzioni utilizzando l'istruzione DROP TABLE
:
CREATE TEMP TABLE table1(x INT64); SELECT * FROM table1; -- Succeeds DROP TABLE table1; SELECT * FROM table1; -- Results in an error
Al termine di una query con più istruzioni, la tabella temporanea esiste per un massimo di 24 ore.
Visualizzare i dati della tabella temporanea
Dopo aver creato una tabella temporanea, puoi visualizzare la struttura della tabella e tutti i dati in essa contenuti. Per visualizzare la struttura e i dati della tabella, segui questi passaggi:
Nella console Google Cloud, vai alla pagina Explorer di BigQuery.
Fai clic su Cronologia query.
Scegli la query che ha creato la tabella temporanea.
Nella riga Tabella di destinazione, fai clic su Tabella temporanea.
Qualificare le tabelle temporanee con _SESSION
Quando le tabelle temporanee vengono utilizzate insieme a un set di dati predefinito, i nomi delle tabelle non qualificati fanno riferimento a una tabella temporanea, se esistente, o a una tabella nel set di dati predefinito. L'eccezione riguarda le istruzioni CREATE TABLE
, in cui la tabella di destinazione è considerata una tabella temporanea se e solo se è presente la parola chiave TEMP
o TEMPORARY
.
Ad esempio, considera la seguente query con più istruzioni:
-- Create table t1 in the default dataset CREATE TABLE t1 (x INT64); -- Create temporary table t1. CREATE TEMP TABLE t1 (x INT64); -- This statement selects from the temporary table. SELECT * FROM t1; -- Drop the temporary table DROP TABLE t1; -- Now that the temporary table is dropped, this statement selects from the -- table in the default dataset. SELECT * FROM t1;
Puoi indicare esplicitamente che fai riferimento a una tabella temporanea qualificando il nome della tabella con _SESSION
:
-- Create a temp table CREATE TEMP TABLE t1 (x INT64); -- Create a temp table using the `_SESSION` qualifier CREATE TEMP TABLE _SESSION.t2 (x INT64); -- Select from a temporary table using the `_SESSION` qualifier SELECT * FROM _SESSION.t1;
Se utilizzi il qualificatore _SESSION
per una query di una tabella temporanea che non esiste, la query con più istruzioni genera un errore che indica che la tabella non esiste. Ad esempio, se non esiste una tabella temporanea denominata t3
, la query con più istruzioni genera un errore anche se nel set di dati predefinito esiste una tabella denominata t3
.
Non puoi utilizzare _SESSION
per creare una tabella non temporanea:
CREATE TABLE _SESSION.t4 (x INT64); -- Fails
Raccogliere informazioni su un job di query con più istruzioni
Un job di query con più istruzioni contiene informazioni su una query con più istruzioni che è stata eseguita. Alcune attività comuni che puoi eseguire con i dati del job includono il ritorno dell'ultima istruzione eseguita con la query con più istruzioni o il ritorno di tutte le istruzioni eseguite con la query con più istruzioni.
Restituisce l'ultima istruzione eseguita
Il metodo jobs.getQueryResults
restituisce i risultati della query per l'ultima istruzione da eseguire nella
query con più istruzioni. Se non è stata eseguita alcuna istruzione, non vengono
retituti risultati.
Restituisce tutte le istruzioni eseguite
Per ottenere i risultati di tutte le istruzioni in una
query con più istruzioni, enumerali i job secondari
e chiama jobs.getQueryResults
su ciascuno di essi.
Elenca i job secondari
Le query con più istruzioni vengono eseguite in BigQuery utilizzando
jobs.insert
,
come qualsiasi altra query, con le query con più istruzioni specificate come
testo della query. Quando viene eseguita una query con più istruzioni, vengono creati job aggiuntivi, noti come job secondari, per ogni istruzione nella query con più istruzioni. Puoi enumerare i job secondari di una query con più istruzioni chiamando jobs.list
e passando l'ID job della query con più istruzioni come parametro parentJobId
.
Eseguire il debug di una query con più istruzioni
Ecco alcuni suggerimenti per il debug delle query con più istruzioni:
Utilizza l'istruzione
ASSERT
per affermare che una condizione booleana è vera.Utilizza
BEGIN...EXCEPTION...END
per rilevare gli errori e visualizzare il messaggio di errore e analisi dello stack.Usa
SELECT FORMAT("....")
per visualizzare i risultati intermedi.Quando esegui una query con più istruzioni nella console Google Cloud, puoi visualizzare l'output di ogni istruzione nella query con più istruzioni. Il comando'bq query' dello strumento a riga di comando bq mostra anche i risultati di ogni passaggio quando esegui una query con più istruzioni.
Nella console Google Cloud, puoi selezionare una singola istruzione all'interno dell'editor di query ed eseguirla.
Autorizzazioni
L'autorizzazione per accedere a una tabella, a un modello o a un'altra risorsa viene verificata al momento dell'esecuzione. Se un'istruzione non viene eseguita o un'espressione non viene valutata, BigQuery non controlla se l'utente che esegue la query con più istruzioni ha accesso alle risorse a cui fa riferimento.
All'interno di una query con più istruzioni, le autorizzazioni per ogni espressione oistruzione vengono convalidate separatamente. Ad esempio:
SELECT * FROM dataset_with_access.table1; SELECT * FROM dataset_without_access.table2;
Se l'utente che esegue la query ha accesso a table1
ma non ha accesso a table2
, la prima query va a buon fine e la
seconda query non va a buon fine. Anche il job di query con più istruzioni viene eseguito
incorrectamente.
Vincoli di sicurezza
Nelle query con più istruzioni, puoi utilizzare il SQL dinamico per creare istruzioni SQL in fase di esecuzione. Questa opzione è comoda, ma può offrire nuove opportunità di uso improprio. Ad esempio, l'esecuzione della seguente query rappresenta una potenziale minaccia alla sicurezza per SQL injection, poiché il parametro tabella potrebbe essere filtrato in modo improprio, consentire l'accesso e essere eseguito su tabelle non previste.
-- Risky query vulnerable to SQL injection attack.
EXECUTE IMMEDIATE CONCAT('SELECT * FROM SensitiveTable WHERE id = ', @id);
Per evitare di esporre o divulgare dati sensibili in una tabella o di eseguire comandi come DROP TABLE
per eliminare i dati in una tabella, le istruzioni procedurali dinamiche di BigQuery supportano più misure di sicurezza per ridurre l'esposizione agli attacchi di SQL injection, tra cui:
- Un'istruzione
EXECUTE IMMEDIATE
non consente alla relativa query, espansa con parametri e variabili di query, di incorporare più istruzioni SQL. - L'esecuzione dinamica dei seguenti comandi è limitata:
BEGIN
/END
,CALL
,CASE
,IF
,LOOP
,WHILE
eEXECUTE IMMEDIATE
.
Limitazioni dei campi di configurazione
I seguenti campi di query di configurazione del job non possono essere impostati per una query con più istruzioni:
clustering
create_disposition
destination_table
destination_encryption_configuration
range_partitioning
schema_update_options
time_partitioning
user_defined_function_resources
write_disposition
Prezzi
I prezzi per le query con più istruzioni includono gli addebiti per le query (se utilizzi il modello di fatturazione on demand) e lo spazio di archiviazione per le tabelle temporanee. Quando utilizzi le prenotazioni, l'utilizzo delle query è coperto dagli addebiti delle prenotazioni.
Calcolo delle dimensioni delle query on demand
Se utilizzi la fatturazione on demand, BigQuery addebita le query con più istruzioni in base al numero di byte elaborati durante l'esecuzione delle query con più istruzioni.
Per avere una stima del numero di byte che potrebbe elaborare una query con più istruzioni, puoi eseguire un simulacro.
Per queste query con più istruzioni si applicano i seguenti prezzi:
DECLARE
: la somma dei byte analizzati per le tabelle cui viene fatto riferimento nell'espressioneDEFAULT
. Le istruzioniDECLARE
senza riferimenti a tabelle non sono addebitate.SET
: la somma dei byte analizzati per le tabelle cui viene fatto riferimento nell'espressione. Le istruzioniSET
senza riferimenti a tabelle non sono addebitate.IF
: la somma dei byte analizzati per le tabelle cui viene fatto riferimento nell'espressione della condizione. Le espressioni della condizioneIF
senza riferimenti a tabelle non sono addebitate. Eventuali istruzioni non eseguite all'interno del bloccoIF
non sono addebitate.WHILE
: la somma dei byte analizzati per le tabelle cui viene fatto riferimento nell'espressione della condizione. Le istruzioniWHILE
senza riferimenti a tabelle nell'espressione della condizione non sono addebitate. Eventuali istruzioni non eseguite all'interno del bloccoWHILE
non sono addebitate.CONTINUE
oITERATE
: nessun costo associato.BREAK
oLEAVE
: nessun costo associato.BEGIN
oEND
: nessun costo associato.
Se una query con più istruzioni non riesce, il costo di eventuali istruzioni fino al momento dell'errore sarà comunque applicato. L'istruzione con esito negativo non sarà addebitata.
Ad esempio, il seguente codice campione contiene commenti che precedono ogni istruzione per spiegare gli eventuali costi applicati da ogni istruzione:
-- No cost, since no tables are referenced. DECLARE x DATE DEFAULT CURRENT_DATE(); -- Incurs the cost of scanning string_col from dataset.table. DECLARE y STRING DEFAULT (SELECT MAX(string_col) FROM dataset.table); -- Incurs the cost of copying the data from dataset.big_table. Once the -- table is created, you are not charged for storage while the rest of the -- multi-statement query runs. CREATE TEMP TABLE t AS SELECT * FROM dataset.big_table; -- Incurs the cost of scanning column1 from temporary table t. SELECT column1 FROM t; -- No cost, since y = 'foo' doesn't reference a table. IF y = 'foo' THEN -- Incurs the cost of scanning all columns from dataset.other_table, if -- y was equal to 'foo', or otherwise no cost since it is not executed. SELECT * FROM dataset.other_table; ELSE -- Incurs the cost of scanning all columns from dataset.different_table, if -- y was not equal to 'foo', or otherwise no cost since it is not executed. UPDATE dataset.different_table SET col = 10 WHERE true; END IF; -- Incurs the cost of scanning date_col from dataset.table for each -- iteration of the loop. WHILE x < (SELECT MIN(date_col) FROM dataset.table) DO -- No cost, since the expression does not reference any tables. SET x = DATE_ADD(x, INTERVAL 1 DAY); -- No cost, since the expression does not reference any tables. IF true THEN -- LEAVE has no associated cost. LEAVE; END IF; -- Never executed, since the IF branch is always taken, so does not incur -- a cost. SELECT * FROM dataset.big_table; END WHILE;
Per ulteriori informazioni, consulta Calcolo delle dimensioni delle query.
Prezzi di archiviazione
Ti viene addebitato il costo delle tabelle temporanee create da query con più istruzioni. Puoi utilizzare le visualizzazioni
TABLE_STORAGE
o
TABLE_STORAGE_USAGE_TIMELINE
per visualizzare lo spazio di archiviazione utilizzato da queste tabelle temporanee. Le tabelle temporary
risiedono in set di dati _script%
nascosti con nomi generati in modo casuale.
Quote
Per informazioni sulle quote per le query con più istruzioni, consulta Quote e limiti.
Visualizzare il numero di query con più istruzioni
Puoi visualizzare il numero di query con più istruzioni attive utilizzando la visualizzazione INFORMATION_SCHEMA.JOBS_BY_PROJECT
.
L'esempio seguente utilizza la vista INFORMATION_SCHEMA.JOBS_BY_PROJECT
per mostrare il numero di query con più istruzioni del giorno precedente:
SELECT
COUNT(*)
FROM
`region-us`.INFORMATION_SCHEMA.JOBS_BY_PROJECT
WHERE
creation_time BETWEEN TIMESTAMP_SUB(CURRENT_TIMESTAMP(), INTERVAL 1 DAY) AND CURRENT_TIMESTAMP()
AND job_type = "QUERY"
AND state = 'RUNNING'
AND statement_type = 'SCRIPT'
Per ulteriori informazioni su come eseguire query su INFORMATION_SCHEMA.JOBS
per query con più istruzioni, consulta Job di query con più istruzioni.