Specifica di uno schema
BigQuery ti consente di specificare lo schema di una tabella quando carichi dati in una tabella e quando crei una tabella vuota. In alternativa, puoi utilizzare il rilevamento automatico dello schema per i formati di dati supportati.
Quando carichi i file di esportazione Avro, Parquet, ORC, Firestore o Datastore, lo schema viene recuperato automaticamente dai dati di origine autodescrittivi.
Puoi specificare lo schema di una tabella nei seguenti modi:
- Specifica manualmente lo schema:
- Tramite la console Google Cloud.
- In linea utilizzando lo strumento a riga di comando
bq
. - Utilizzare l'istruzione SQL
CREATE TABLE
.
- Creare un file di schema in formato JSON.
- Chiama il metodo
jobs.insert
e configura la proprietàschema
nella configurazione del jobload
. - Chiama il metodo
tables.insert
e configura lo schema nella risorsa della tabella utilizzando la proprietàschema
.
Dopo aver caricato i dati o creato una tabella vuota, puoi modificare la definizione dello schema della tabella.
Componenti dello schema
Quando specifichi uno schema di tabella, devi fornire il nome e il tipo di dati di ogni colonna. Puoi anche specificare la descrizione, la modalità e il valore predefinito di una colonna.
Nomi colonne
Il nome della colonna deve contenere solo lettere (a-z, A-Z), numeri (0-9) o trattini bassi (_) e deve iniziare con una lettera o un trattino basso. La lunghezza massima del nome della colonna è di 300 caratteri. Il nome di una colonna non può utilizzare i seguenti prefissi:
_TABLE_
_FILE_
_PARTITION
_ROW_TIMESTAMP
__ROOT__
_COLIDENTIFIER
Non sono consentiti nomi di colonna duplicati anche se differiscono da maiuscole e minuscole. Ad esempio, una colonna denominata Column1
è considerata identica a una colonna denominata column1
.
Descrizioni delle colonne
Ogni colonna può includere una descrizione facoltativa. La descrizione è una stringa con una lunghezza massima di 1024 caratteri.
Tipi di dati SQL standard di Google
Google Standard SQL ti consente di specificare i seguenti tipi di dati nel tuo schema. Il tipo di dati è obbligatorio.
Nome | Tipo di dati | Descrizione |
---|---|---|
Intero | INT64 |
Valori numerici senza componenti frazionari |
Valore in virgola mobile | FLOAT64 |
Valori numerici approssimativi con componenti frazionari |
Numerico | NUMERIC |
Valori numerici esatti con componenti frazionari |
Numeriche grandi | BIGNUMERIC |
Valori numerici esatti con componenti frazionari |
Booleano | BOOL |
TRUE o FALSE (senza distinzione tra maiuscole e minuscole) |
Stringa | STRING |
Dati relativi ai caratteri a lunghezza variabile (Unicode) |
Byte | BYTES |
Dati binari a lunghezza variabile |
Date | DATE |
Una data logica del calendario. |
Data/ora | DATETIME |
Un anno, un mese, un giorno, un'ora, un minuto, un secondo e un secondo |
Ora | TIME |
Una data, indipendentemente da una data specifica |
Timestamp | TIMESTAMP |
Un momento assoluto, con una precisione di microsecondi |
Struct (Registra) | STRUCT |
Contenitore dei campi ordinati, ciascuno con un tipo (obbligatorio) e un nome di campo (facoltativo) |
Area geografica | GEOGRAPHY |
Un punto sulla superficie terrestre (un insieme di punti, linee e poligoni sullo sferoide di riferimento WGS84, con bordi geodetici) |
JSON | JSON |
Rappresenta JSON, un formato leggero di interscambio dati |
Per ulteriori informazioni sui tipi di dati in Google Standard SQL, vedi Tipi di dati di Google Standard SQL.
Puoi anche dichiarare un tipo di array quando esegui query sui dati. Per ulteriori informazioni, consulta la pagina relativa all'utilizzo degli array.
Modalità
BigQuery supporta le seguenti modalità per le colonne. La modalità è
facoltativa. Se la modalità non è specificata, il valore predefinito della colonna è NULLABLE
.
Modalità | Descrizione |
---|---|
Ammette valori Null | La colonna consente valori NULL (valore predefinito) |
Obbligatoria | I valori NULL non sono consentiti |
Repeated | La colonna contiene una matrice di valori del tipo specificato |
Per saperne di più sulle modalità, vedi mode
in TableFieldSchema
.
Modalità di arrotondamento
Se una colonna è di tipo NUMERIC
o BIGNUMERIC
con parametri, puoi impostare l'opzione di colonna rounding_mode
, che determina il modo in cui i valori in quella colonna vengono arrotondati quando vengono scritti nella tabella. Puoi impostare l'opzione rounding_mode
in una colonna di primo livello o in un campo STRUCT
. Sono supportate le seguenti modalità di arrotondamento:
"ROUND_HALF_AWAY_FROM_ZERO"
: questa modalità (impostazione predefinita) arrotonda a metà i casi da zero."ROUND_HALF_EVEN"
: questa modalità arrotonda la metà per le maiuscole verso la cifra pari più vicina.
Impossibile impostare l'opzione rounding_mode
per una colonna di tipo NUMERIC
o BIGNUMERIC
. Per informazioni sul comportamento dell'arrotondamento per questi tipi, consulta
Tipi di decimali con parametri.
L'esempio seguente crea una tabella e inserisce valori arrotondati in base alla modalità di arrotondamento della colonna:
CREATE TABLE mydataset.mytable ( x NUMERIC(5,2) OPTIONS (rounding_mode='ROUND_HALF_EVEN'), y NUMERIC(5,2) OPTIONS (rounding_mode='ROUND_HALF_AWAY_FROM_ZERO') ); INSERT mydataset.mytable (x, y) VALUES (NUMERIC "1.025", NUMERIC "1.025"), (NUMERIC "1.0251", NUMERIC "1.0251"), (NUMERIC "1.035", NUMERIC "1.035"), (NUMERIC "-1.025", NUMERIC "-1.025");
La tabella mytable
ha il seguente aspetto:
+-------+-------+ | x | y | +-------+-------+ | 1.02 | 1.03 | | 1.03 | 1.03 | | 1.04 | 1.04 | | -1.02 | -1.03 | +-------+-------+
Per maggiori informazioni, consulta roundingMode
in
TableFieldSchema
.
Specificare manualmente gli schemi
Quando carichi i dati o crei una tabella vuota, puoi specificare manualmente lo schema della tabella utilizzando la console Google Cloud o lo strumento a riga di comando bq
. La specifica manuale di uno schema è supportata quando carichi i file CSV e JSON (delimitato da nuova riga). Quando carichi i dati di esportazione Avro, Parquet, ORC, Firestore o Datastore, lo schema viene recuperato automaticamente dai dati di origine autodescrittivi.
Per specificare manualmente uno schema di tabella:
Console
Nella console Google Cloud, puoi specificare uno schema utilizzando l'opzione Aggiungi campo o l'opzione Modifica come testo.
Nella console Google Cloud, apri la pagina BigQuery.
Nel riquadro Explorer, espandi il progetto e seleziona un set di dati.
Espandi l'opzione
Azioni e fai clic su Apri.Nel riquadro dei dettagli, fai clic su Crea tabella
.Nella pagina Crea tabella, nella sezione Origine, seleziona Tabella vuota.
Nella pagina Crea tabella, nella sezione Destinazione:
In Nome set di dati, scegli il set di dati appropriato
Nel campo Nome tabella, inserisci il nome della tabella che stai creando.
Verifica che Tipo di tabella sia impostato su Tabella nativa.
Nella sezione Schema, inserisci la definizione di schema.
- Opzione 1: utilizza il campo Aggiungi campo e specifica il nome, il tipo e la modalità di ogni campo.
- Opzione 2: fai clic su Modifica come testo e incolla lo schema sotto forma di array array JSON. Quando usi un array JSON, generi lo schema utilizzando la stessa procedura della creazione di un file di schema JSON.
Fai clic su Crea tabella.
SQL
Utilizza l'istruzione CREATE TABLE
.
Specifica lo schema utilizzando l'opzione colonna.
L'esempio seguente crea una nuova tabella denominata newtable
con le colonne x, y, z dei tipi interi, stringhe e booleani:
Nella console Google Cloud, vai alla pagina BigQuery.
Nell'editor query, inserisci la seguente istruzione:
CREATE TABLE IF NOT EXISTS mydataset.newtable (x INT64, y STRING, z BOOL) OPTIONS( description = 'My example table');
Fai clic su
Esegui.
Per ulteriori informazioni su come eseguire query, vedi Esecuzione di query interattive.
bq
Fornisci manualmente lo schema in linea nel formato field:data_type,field:data_type
utilizzando uno dei seguenti comandi:
- Se stai caricando i dati, utilizza il comando
bq load
. - Se stai creando una tabella vuota, utilizza il comando
bq mk
.
Quando specifichi lo schema dalla riga di comando, non puoi includere il tipo RECORD
(STRUCT
), non la descrizione della colonna e la modalità della colonna. Tutte le modalità sono impostate in modo predefinito su NULLABLE
. Per includere descrizioni, modalità e tipi RECORD
, fornisci invece un file schema JSON.
Per caricare i dati in una tabella utilizzando una definizione di schema in linea, inserisci il comando load
e specifica il formato dei dati utilizzando il flag --source_format
.
Se stai caricando dati in una tabella di un progetto diverso da quello predefinito, includi l'ID progetto nel seguente formato: project_id:dataset.table_name
.
(Facoltativo) Fornisci il flag --location
e imposta il valore sulla tua
località.
bq --location=location load \ --source_format=format \ project_id:dataset.table_name \ path_to_source \ schema
Sostituisci quanto segue:
location
: il nome della località. Il flag--location
è facoltativo. Ad esempio, se utilizzi BigQuery nella regione di Tokyo, puoi impostare il valore del flag suasia-northeast1
. Puoi impostare un valore predefinito per la località utilizzando il file.bigqueryrc.format
:NEWLINE_DELIMITED_JSON
oCSV
.project_id
: l'ID del tuo progetto.dataset
: il set di dati che contiene la tabella in cui stai caricando i dati.table_name
: il nome della tabella in cui stai caricando i dati.path_to_source
: la posizione del file di dati CSV o JSON sulla macchina locale o in Cloud Storage.schema
: definizione dello schema incorporato.
Esempio:
Inserisci questo comando per caricare i dati da un file CSV locale denominato myfile.csv
in mydataset.mytable
nel progetto predefinito. Lo schema viene specificato manualmente in linea.
bq load \
--source_format=CSV \
mydataset.mytable \
./myfile.csv \
qtr:STRING,sales:FLOAT,year:STRING
Per ulteriori informazioni sul caricamento dei dati in BigQuery, consulta Introduzione al caricamento dei dati.
Per specificare una definizione di schema in linea quando crei una tabella vuota, inserisci
il comando bq mk
con il flag --table
o -t
. Se stai creando una tabella in un progetto diverso da quello predefinito, aggiungi l'ID progetto al comando nel seguente formato: project_id:dataset.table
.
bq mk --table project_id:dataset.table schema
Sostituisci quanto segue:
project_id
: l'ID del tuo progetto.dataset
: un set di dati nel tuo progetto.table
: il nome della tabella che stai creando.schema
: una definizione di schema incorporata.
Ad esempio, il comando seguente crea una tabella vuota denominata mytable
nel progetto predefinito. Lo schema viene specificato manualmente in linea.
bq mk --table mydataset.mytable qtr:STRING,sales:FLOAT,year:STRING
Per ulteriori informazioni sulla creazione di una tabella vuota, consulta Creazione di una tabella vuota con una definizione di schema.
C#
Per specificare lo schema di una tabella quando carichi i dati in una tabella:
Per specificare uno schema quando crei una tabella vuota:
Go
Per specificare lo schema di una tabella quando carichi i dati in una tabella:
Per specificare uno schema quando crei una tabella vuota:
Java
Per specificare lo schema di una tabella quando carichi i dati in una tabella:
Per specificare uno schema quando crei una tabella vuota:
Python
Per specificare lo schema di una tabella quando carichi i dati in una tabella, configura la proprietà LoadJobConfig.schema.
Per specificare uno schema quando crei una tabella vuota, configura la proprietà Table.schema.
Specificare un file di schema JSON
Se preferisci, puoi specificare lo schema utilizzando un file di schema JSON anziché una definizione di schema incorporata. Un file di schema JSON è costituito da un array JSON che contiene quanto segue:
- Il nome della colonna
- Il tipo di dati della colonna.
- Facoltativo: la modalità della colonna (se non specificata, la modalità è predefinita su
NULLABLE
) - Facoltativo: i campi della colonna se è di tipo
STRUCT
- Facoltativo: la descrizione della colonna
- Facoltativo: i tag di criteri della colonna, utilizzati per il controllo dell'accesso a livello di campo
- Facoltativo: la lunghezza massima dei valori della colonna per i tipi
STRING
oBYTES
- Facoltativo: la precisione della colonna per i tipi
NUMERIC
oBIGNUMERIC
- (Facoltativo) La scala della colonna per i tipi
NUMERIC
oBIGNUMERIC
- Facoltativo: le regole di confronto
della colonna per i tipi di
STRING
- (Facoltativo) Il valore predefinito della colonna
- (Facoltativo) La modalità di arrotondamento della colonna, se è di tipo
NUMERIC
oBIGNUMERIC
parametrizzato.
Creazione di un file di schema JSON
Per creare un file di schema JSON, inserisci TableFieldSchema
per ogni colonna. I campi name
e type
sono obbligatori. Tutti gli altri campi sono facoltativi.
[ { "name": string, "type": string, "mode": string, "fields": [ { object (TableFieldSchema) } ], "description": string, "policyTags": { "names": [ string ] }, "maxLength": string, "precision": string, "scale": string, "collation": string, "defaultValueExpression": string, "roundingMode": string }, { "name": string, "type": string, ... } ]L'array JSON è indicato dalle parentesi di inizio e fine `[]`. Ogni voce di colonna deve essere separata da una virgola: `},`. Puoi scrivere uno schema di tabella esistente in un file locale inserendo il seguente comando:
bq show \ --schema \ --format=prettyjson \ project_id:dataset.table > path_to_file
Puoi utilizzare il file di output come punto di partenza per il tuo file di schema JSON. Se utilizzi questo approccio, assicurati che il file contenga solo l'array JSON che rappresenta lo schema della tabella.
Ad esempio, il seguente array JSON rappresenta uno schema di tabella di base. Questo schema ha tre colonne: qtr
(REQUIRED
STRING
), rep
(NULLABLE
STRING
) e sales
(NULLABLE
FLOAT
).
[ { "name": "qtr", "type": "STRING", "mode": "REQUIRED", "description": "quarter" }, { "name": "rep", "type": "STRING", "mode": "NULLABLE", "description": "sales representative" }, { "name": "sales", "type": "FLOAT", "mode": "NULLABLE", "defaultValueExpression": "2.55" } ]
usando un file schema JSON.
Dopo aver creato il file di schema JSON, puoi specificarlo utilizzando lo strumento a riga di comando bq
.
Non puoi utilizzare un file di schema con la console Google Cloud o l'API.
Fornisci manualmente il file di schema:
- Se stai caricando i dati, utilizza il comando
bq load
. - Se stai creando una tabella vuota, utilizza il comando
bq mk
.
Quando fornisci un file di schema JSON, devi archiviarlo in una posizione leggibile localmente. Non puoi specificare un file di schema JSON archiviato in Cloud Storage o Google Drive.
Specificare un file di schema quando si caricano i dati
Per caricare i dati in una tabella utilizzando una definizione di schema JSON, procedi come segue:
bq
bq --location=location load \ --source_format=format \ project_id:dataset.table \ path_to_data_file \ path_to_schema_file
Sostituisci quanto segue:
location
: il nome della località. Il flag--location
è facoltativo. Ad esempio, se utilizzi BigQuery nella regione di Tokyo, puoi impostare il valore del flag suasia-northeast1
. Puoi impostare un valore predefinito per la località utilizzando il file .bigqueryrc.format
:NEWLINE_DELIMITED_JSON
oCSV
.project_id
: l'ID del tuo progetto.dataset
: il set di dati che contiene la tabella in cui stai caricando i dati.table
: il nome della tabella in cui stai caricando i dati.path_to_data_file
: la posizione del file di dati CSV o JSON sulla macchina locale o in Cloud Storage.path_to_schema_file
: il percorso del file di schema sulla macchina locale.
Esempio:
Inserisci questo comando per caricare i dati da un file CSV locale denominato myfile.csv
in mydataset.mytable
nel progetto predefinito. Lo schema è specificato in myschema.json
nella directory attuale.
bq load --source_format=CSV mydataset.mytable ./myfile.csv ./myschema.json
Python
Prima di provare questo esempio, segui le istruzioni per la configurazione di Python nella guida rapida di BigQuery all'utilizzo delle librerie client. Per saperne di più, consulta la documentazione di riferimento dell'API Python BigQuery.
Per caricare uno schema di tabella da un file JSON utilizzando la libreria client Python, chiama il metodo schema_from_json.Specificare un file di schema durante la creazione di una tabella
Per creare una tabella vuota in un set di dati esistente utilizzando un file di schema JSON, segui questi passaggi:
bq
bq mk --table project_id:dataset.table path_to_schema_file
Sostituisci quanto segue:
project_id
: l'ID del tuo progetto.dataset
: un set di dati nel tuo progetto.table
: il nome della tabella che stai creando.path_to_schema_file
: il percorso del file di schema sulla macchina locale.
Ad esempio, il comando seguente crea una tabella denominata mytable
in mydataset
nel progetto predefinito. Lo schema è specificato in myschema.json
nella directory attuale:
bq mk --table mydataset.mytable ./myschema.json
Python
Prima di provare questo esempio, segui le istruzioni per la configurazione di Python nella guida rapida di BigQuery all'utilizzo delle librerie client. Per saperne di più, consulta la documentazione di riferimento dell'API Python BigQuery.
Per caricare uno schema di tabella da un file JSON utilizzando la libreria client Python, chiama il metodo schema_from_json.Specifica di uno schema nell'API
Specifica uno schema di tabella tramite l'API:
Per specificare uno schema quando carichi i dati, chiama il metodo
jobs.insert
e configura la proprietàschema
nella risorsaJobConfigurationLoad
.Per specificare uno schema quando crei una tabella, chiama il metodo
tables.insert
e configura la proprietàschema
nella risorsaTable
.
La specifica di uno schema mediante l'API è simile alla procedura per la creazione di un file di schema JSON.
Sicurezza delle tabelle
Per controllare l'accesso alle tabelle in BigQuery, consulta Introduzione ai controlli di accesso alle tabelle.
Passaggi successivi
- Scopri come specificare colonne nidificate e ripetute in una definizione di schema.
- Scopri di più sul rilevamento automatico degli schemi.
- Ulteriori informazioni sul caricamento dei dati in BigQuery.
- Scopri di più su come creare e utilizzare le tabelle.