Caricamento dei dati JSON da Cloud Storage
Puoi caricare dati JSON (ndJSON) delimitati da riga da Cloud Storage in una nuova tabella o partizione oppure aggiungere o sovrascrivere una tabella o partizione esistente. Quando i dati vengono caricati in BigQuery, vengono convertiti in formato a colonne per Capacitor (il formato di archiviazione di BigQuery).
Quando carichi i dati da Cloud Storage in una tabella BigQuery, il set di dati che contiene la tabella deve trovarsi nella stessa posizione regionale o multiregionale del bucket Cloud Storage.
Il formato ndJSON è lo stesso del formato JSON Lines.
Limitazioni
Quando carichi i dati in BigQuery da un bucket Cloud Storage, devi rispettare le seguenti limitazioni:
- Se la posizione del set di dati è impostata su un valore diverso dall'area geografica multipla
US
, il bucket Cloud Storage deve trovarsi nella stessa regione o essere contenuto nella stessa area geografica multipla del set di dati. - BigQuery non garantisce la coerenza dei dati per le origini dati esterne. Le modifiche ai dati sottostanti durante l'esecuzione di una query possono comportare un comportamento imprevisto.
- BigQuery non supporta il controllo delle versioni degli oggetti Cloud Storage. Se includi un numero di generazione nell'URI Cloud Storage, il job di caricamento non va a buon fine.
Quando carichi file JSON in BigQuery, tieni presente quanto segue:
- I dati JSON devono essere delimitati da una nuova riga o ndJSON. Ogni oggetto JSON deve trovarsi su una riga distinta nel file.
- Se utilizzi la compressione gzip, BigQuery non può leggere i dati in parallelo. Il caricamento di dati JSON compressi in BigQuery è più lento rispetto al caricamento di dati non compressi.
- Non puoi includere file compressi e non compressi nello stesso job di caricamento.
- La dimensione massima di un file gzip è 4 GB.
BigQuery supporta il tipo
JSON
anche se le informazioni sullo schema non sono note al momento dell'importazione. Un campo dichiarato come di tipoJSON
viene caricato con i valori JSON non elaborati.Se utilizzi l'API BigQuery per caricare un numero intero al di fuori dell'intervallo [-253+1, 253-1] (di solito significa più grande di 9.007.199.254.740.991), in una colonna di numeri interi (INT64), trasmettendolo come stringa per evitare la corruzione dei dati. Questo problema è causato da una limitazione delle dimensioni degli interi in JSON o ECMAScript. Per ulteriori informazioni, consulta la sezione Numeri della RFC 7159.
- Quando carichi dati CSV o JSON, i valori nelle colonne
DATE
devono utilizzare il separatore trattino (-
) e la data deve avere il seguente formato:YYYY-MM-DD
(anno-mese-giorno). - Quando carichi dati JSON o CSV, i valori nelle colonne
TIMESTAMP
devono utilizzare un separatore trattino (-
) o barra (/
) per la parte della data del timestamp e la data deve essere in uno dei seguenti formati:YYYY-MM-DD
(anno-mese-giorno) oYYYY/MM/DD
(anno/mese/giorno). La partehh:mm:ss
(ora-minuto-secondo) del timestamp deve utilizzare un separatore di due punti (:
). I file devono soddisfare i limiti di dimensione dei file JSON descritti nei limiti dei job di caricamento.
Prima di iniziare
Concedi i ruoli IAM (Identity and Access Management) che forniscono agli utenti le autorizzazioni necessarie per eseguire ogni attività in questo documento e crea un set di dati per archiviare i dati.
Autorizzazioni obbligatorie
Per caricare i dati in BigQuery, devi disporre delle autorizzazioni IAM per eseguire un job di caricamento e caricare i dati nelle tabelle e nelle partizioni BigQuery. Se carichi i dati da Cloud Storage, devi disporre anche delle autorizzazioni IAM per accedere al bucket contenente i dati.
Autorizzazioni per caricare dati in BigQuery
Per caricare dati in una nuova tabella o partizione BigQuery o per accodare o sovrascrivere una tabella o partizione esistente, sono necessarie le seguenti autorizzazioni IAM:
bigquery.tables.create
bigquery.tables.updateData
bigquery.tables.update
bigquery.jobs.create
Ciascuno dei seguenti ruoli IAM predefiniti include le autorizzazioni necessarie per caricare dati in una tabella o una partizione BigQuery:
roles/bigquery.dataEditor
roles/bigquery.dataOwner
roles/bigquery.admin
(include l'autorizzazionebigquery.jobs.create
)bigquery.user
(include l'autorizzazionebigquery.jobs.create
)bigquery.jobUser
(include l'autorizzazionebigquery.jobs.create
)
Inoltre, se disponi dell'autorizzazione bigquery.datasets.create
, puoi creare e
aggiornare le tabelle utilizzando un job di caricamento nei set di dati che crei.
Per ulteriori informazioni sui ruoli e sulle autorizzazioni IAM in BigQuery, consulta Ruoli e autorizzazioni predefiniti.
Autorizzazioni per caricare i dati da Cloud Storage
Per ottenere le autorizzazioni necessarie per caricare i dati da un bucket Cloud Storage,
chiedi all'amministratore di concederti il ruolo IAM Amministratore archiviazione (roles/storage.admin
) nel bucket.
Per saperne di più sulla concessione dei ruoli, consulta Gestire l'accesso a progetti, cartelle e organizzazioni.
Questo ruolo predefinito contiene le autorizzazioni necessarie per caricare i dati da un bucket Cloud Storage. Per visualizzare le autorizzazioni esatte richieste, espandi la sezione Autorizzazioni richieste:
Autorizzazioni obbligatorie
Per caricare i dati da un bucket Cloud Storage sono necessarie le seguenti autorizzazioni:
-
storage.buckets.get
-
storage.objects.get
-
storage.objects.list (required if you are using a URI wildcard)
Potresti anche ottenere queste autorizzazioni con ruoli personalizzati o altri ruoli predefiniti.
Crea un set di dati
Crea un set di dati BigQuery per archiviare i tuoi dati.
Compressione JSON
Puoi utilizzare l'utilità gzip
per comprimere i file JSON. Tieni presente che gzip
esegue la compressione completa del file, a differenza della compressione dei contenuti del file eseguita dai codec di compressione per altri formati di file, come Avro. L'utilizzo di gzip
per comprimere i file JSON potrebbe influire sul rendimento. Per ulteriori informazioni sui compromessi, consulta Caricare dati compressi e non compressi.
Caricamento di dati JSON in una nuova tabella
Per caricare i dati JSON da Cloud Storage in una nuova tabella BigQuery:
Console
Nella console Google Cloud, vai alla pagina BigQuery.
- Nel riquadro Explorer, espandi il progetto e seleziona un set di dati.
- Nella sezione Informazioni set di dati, fai clic su Crea tabella.
- Nel riquadro Crea tabella, specifica i seguenti dettagli:
- Nella sezione Origine, seleziona Google Cloud Storage nell'elenco Crea tabella da.
Poi:
- Seleziona un file dal bucket Cloud Storage o inserisci l'URI Cloud Storage. Non puoi includere più URI nella console Google Cloud, ma sono supportati i caratteri jolly. Il bucket Cloud Storage deve trovarsi nella stessa posizione del set di dati contenente la tabella che vuoi creare, aggiungere o sovrascrivere.
- In Formato file, seleziona JSONL (JSON delimitato da nuova riga).
- Nella sezione Destinazione, specifica i seguenti dettagli:
- In Set di dati, seleziona il set di dati in cui vuoi creare la tabella.
- Nel campo Table (Tabella), inserisci il nome della tabella che vuoi creare.
- Verifica che il campo Tipo di tabella sia impostato su Tabella nativa.
- Nella sezione Schema, inserisci la definizione dello schema.
Per attivare il rilevamento automatico di uno schema,
seleziona Rilevamento automatico.
Puoi inserire manualmente le informazioni dello schema utilizzando uno dei seguenti metodi:
- Opzione 1: fai clic su Modifica come testo e incolla lo schema sotto forma di array JSON. Quando utilizzi un array JSON, generi lo schema utilizzando la stessa procedura utilizzata per creare un file di schema JSON.
Puoi visualizzare lo schema di una tabella esistente in formato JSON inserendo il seguente
comando:
bq show --format=prettyjson dataset.table
- Opzione 2: fai clic su Tipo e Modalità di ogni campo. Aggiungi campo e inserisci lo schema della tabella. Specifica Nome,
- Opzione 1: fai clic su Modifica come testo e incolla lo schema sotto forma di array JSON. Quando utilizzi un array JSON, generi lo schema utilizzando la stessa procedura utilizzata per creare un file di schema JSON.
Puoi visualizzare lo schema di una tabella esistente in formato JSON inserendo il seguente
comando:
- (Facoltativo) Specifica le impostazioni di partizionamento e clustering. Per ulteriori informazioni, consulta Creare tabelle partizionate e Creare e utilizzare tabelle in cluster.
- Fai clic su Opzioni avanzate e segui questi passaggi:
- In Preferenza di scrittura, lascia selezionata l'opzione Scrivere se vuota. Questa opzione crea una nuova tabella e vi carica i dati.
- Per Numero di errori consentiti, accetta il valore predefinito
0
o inserisci il numero massimo di righe contenenti errori che possono essere ignorate. Se il numero di righe con errori supera questo valore, il job restituirà un messaggioinvalid
e avrà esito negativo. Questa opzione si applica solo ai file CSV e JSON. - Se vuoi ignorare i valori di una riga che non sono presenti nello schema della tabella, seleziona Valori sconosciuti.
- Per Crittografia, fai clic su Chiave gestita dal cliente per utilizzare una chiave Cloud Key Management Service. Se lasci l'impostazione Chiave gestita da Google, BigQuery cripta i dati at-rest.
- Fai clic su Crea tabella.
SQL
Utilizza
l'istruzione DDL LOAD DATA
.
L'esempio seguente carica un file JSON nella nuova tabella mytable
:
Nella console Google Cloud, vai alla pagina BigQuery.
Nell'editor di query, inserisci la seguente istruzione:
LOAD DATA OVERWRITE mydataset.mytable (x INT64,y STRING) FROM FILES ( format = 'JSON', uris = ['gs://bucket/path/file.json']);
Fai clic su
Esegui.
Per ulteriori informazioni su come eseguire query, consulta Eseguire una query interattiva.
bq
Utilizza il comando bq load
, specifica NEWLINE_DELIMITED_JSON
utilizzando il
--source_format
flag e includi un URI Cloud Storage.
Puoi includere un singolo URI, un elenco di URI separati da virgole o un URI contenente un carattere jolly.
Fornisci lo schema in linea, in un file di definizione dello schema o utilizza il rilevamento automatico dello schema.
(Facoltativo) Fornisci il flag --location
e imposta il valore sulla tua
posizione.
Altri flag facoltativi sono:
--max_bad_records
: un numero intero che specifica il numero massimo di record non validi consentiti prima che l'intero job non vada a buon fine. Il valore predefinito è0
. Al massimo vengono restituiti cinque errori di qualsiasi tipo, indipendentemente dal valore di--max_bad_records
.--ignore_unknown_values
: se specificato, consente e ignora valori aggiuntivi non riconosciuti nei dati CSV o JSON.--autodetect
: se specificato, attiva il rilevamento automatico dello schema per i dati CSV e JSON.--time_partitioning_type
: attiva il partizionamento in base al tempo in una tabella e imposta il tipo di partizione. I valori possibili sonoHOUR
,DAY
,MONTH
eYEAR
. Questo flag è facoltativo quando crei una tabella partizionata in base a una colonnaDATE
,DATETIME
oTIMESTAMP
. Il tipo di partizione predefinito per il partizionamento in base al tempo èDAY
. Non puoi modificare la specifica di partizione di una tabella esistente.--time_partitioning_expiration
: un numero intero che specifica (in secondi) quando deve essere eliminata una partizione basata sul tempo. L'ora di scadenza viene valutata in base alla data UTC della partizione più il valore intero.--time_partitioning_field
: la colonnaDATE
oTIMESTAMP
utilizzata per creare una tabella partizionata. Se il partizionamento in base al tempo è abilitato senza questo valore, viene creata una tabella partizionata per data di importazione.--require_partition_filter
: se abilitata, questa opzione richiede agli utenti di includere una clausolaWHERE
che specifichi le partizioni su cui eseguire query. Se il filtro di partizionamento è obbligatorio, i costi possono essere ridotti e le prestazioni migliorate. Per ulteriori informazioni, consulta la pagina Esecuzione di query sulle tabelle partizionate.--clustering_fields
: un elenco separato da virgole di massimo quattro nomi di colonna utilizzati per creare una tabella raggruppata.--destination_kms_key
: la chiave Cloud KMS per la crittografia dei dati della tabella.Per ulteriori informazioni sulle tabelle partizionate, consulta:
Per ulteriori informazioni sulle tabelle cluster, consulta:
Per ulteriori informazioni sulla crittografia delle tabelle, consulta:
Per caricare i dati JSON in BigQuery, inserisci il seguente comando:
bq --location=LOCATION load \ --source_format=FORMAT \ DATASET.TABLE \ PATH_TO_SOURCE \ SCHEMA
Sostituisci quanto segue:
LOCATION
: la tua posizione. Il flag--location
è facoltativo. Ad esempio, se utilizzi BigQuery nella regione di Tokyo, puoi impostare il valore del flag suasia-northeast1
. Puoi impostare un valore predefinito per la posizione utilizzando il file.bigqueryrc.FORMAT
:NEWLINE_DELIMITED_JSON
.DATASET
: un set di dati esistente.TABLE
: il nome della tabella in cui stai caricando i dati.PATH_TO_SOURCE
: un URI Cloud Storage completo o un elenco di URI separati da virgole. Sono supportati anche i caratteri jolly.SCHEMA
: uno schema valido. Lo schema può essere un file JSON locale o può essere digitato in linea all'interno del comando. Se utilizzi un file schema, non specificarne un'estensione. Puoi anche utilizzare il flag--autodetect
anziché fornire una definizione dello schema.
Esempi:
Il seguente comando carica i dati da gs://mybucket/mydata.json
in una tabella denominata mytable
in mydataset
. Lo schema è definito in un
file schema locale denominato myschema
.
bq load \
--source_format=NEWLINE_DELIMITED_JSON \
mydataset.mytable \
gs://mybucket/mydata.json \
./myschema
Il seguente comando carica i dati da gs://mybucket/mydata.json
in una nuova tabella partizionata per data di importazione#39;importazione denominata mytable
in mydataset
. Lo schema è definito in un file schema locale denominato myschema
.
bq load \
--source_format=NEWLINE_DELIMITED_JSON \
--time_partitioning_type=DAY \
mydataset.mytable \
gs://mybucket/mydata.json \
./myschema
Il seguente comando carica i dati da gs://mybucket/mydata.json
in una tabella partizionata denominata mytable
in mydataset
. La tabella è partizionata in base alla colonna mytimestamp
. Lo schema è definito in un file schema locale chiamato myschema
.
bq load \
--source_format=NEWLINE_DELIMITED_JSON \
--time_partitioning_field mytimestamp \
mydataset.mytable \
gs://mybucket/mydata.json \
./myschema
Il seguente comando carica i dati da gs://mybucket/mydata.json
in una tabella denominata mytable
in mydataset
. Lo schema viene rilevato automaticamente.
bq load \
--autodetect \
--source_format=NEWLINE_DELIMITED_JSON \
mydataset.mytable \
gs://mybucket/mydata.json
Il seguente comando carica i dati da gs://mybucket/mydata.json
in una tabella denominata mytable
in mydataset
. Lo schema è definito in linea nel formato FIELD:DATA_TYPE, FIELD:DATA_TYPE
.
bq load \
--source_format=NEWLINE_DELIMITED_JSON \
mydataset.mytable \
gs://mybucket/mydata.json \
qtr:STRING,sales:FLOAT,year:STRING
Il seguente comando carica i dati da più file in gs://mybucket/
in una tabella denominata mytable
in mydataset
. L'URI Cloud Storage utilizza un'espressione generica. Lo schema viene rilevato automaticamente.
bq load \
--autodetect \
--source_format=NEWLINE_DELIMITED_JSON \
mydataset.mytable \
gs://mybucket/mydata*.json
Il seguente comando carica i dati da più file in gs://mybucket/
in una tabella denominata mytable
in mydataset
. Il comando include un elenco di URI di Cloud Storage con caratteri jolly separati da virgole. Lo schema è definito in un file di schema locale denominato myschema
.
bq load \
--source_format=NEWLINE_DELIMITED_JSON \
mydataset.mytable \
"gs://mybucket/00/*.json","gs://mybucket/01/*.json" \
./myschema
API
Crea un job
load
che indichi i dati di origine in Cloud Storage.(Facoltativo) Specifica la tua posizione nella proprietà
location
della sezionejobReference
della risorsa job.La proprietà
source URIs
deve essere completamente qualificata, nel formatogs://BUCKET/OBJECT
. Ogni URI può contenere un carattere jolly "*".Specifica il formato dei dati
JSON
impostando la proprietàsourceFormat
suNEWLINE_DELIMITED_JSON
.Per controllare lo stato del job, chiama
jobs.get(JOB_ID*)
, sostituendoJOB_ID
con l'ID del job restituito dalla richiesta iniziale.- Se
status.state = DONE
, il job è stato completato correttamente. - Se la proprietà
status.errorResult
è presente, la richiesta non è riuscita e l'oggetto include informazioni che descrivono il problema. Quando una richiesta non va a buon fine, non viene creata alcuna tabella e non vengono caricati dati. - Se
status.errorResult
non è presente, il job è stato completato correttamente; tuttavia, potrebbero essere stati rilevati alcuni errori non fatali, ad esempio problemi di importazione di alcune righe. Gli errori non irreversibili sono elencati nella proprietàstatus.errors
dell'oggetto job restituito.
- Se
Note sull'API:
I job di caricamento sono atomici e coerenti; se un job di caricamento non va a buon fine, nessuno dei dati è disponibile e, se un job di caricamento va a buon fine, tutti i dati sono disponibili.
Come best practice, genera un ID univoco e passalo come
jobReference.jobId
quando chiamijobs.insert
per creare un job di caricamento. Questo approccio è più robusto in caso di errori di rete perché il client può eseguire poll o ritentare con l'ID job noto.La chiamata a
jobs.insert
su un determinato ID job è idempotente. Puoi riprovare tutte le volte che vuoi con lo stesso ID job e al massimo una di queste operazioni andrà a buon fine.
C#
Prima di provare questo esempio, segui le istruzioni di configurazione C# riportate nella guida rapida all'utilizzo di BigQuery con le librerie client. Per ulteriori informazioni, consulta la documentazione di riferimento dell'API BigQuery C#.
Per autenticarti in BigQuery, configura le Credenziali predefinite dell'applicazione. Per saperne di più, consulta Configurare l'autenticazione per le librerie client.
Utilizza il metodoBigQueryClient.CreateLoadJob()
per avviare un job di caricamento
da Cloud Storage. Per utilizzare JSONL, crea un oggetto
CreateLoadJobOptions
e imposta la sua proprietà
SourceFormat
su
FileFormat.NewlineDelimitedJson
.
Vai
Prima di provare questo esempio, segui le istruzioni di configurazione Go riportate nella guida rapida all'utilizzo di BigQuery con le librerie client. Per ulteriori informazioni, consulta la documentazione di riferimento dell'API BigQuery Go.
Per autenticarti in BigQuery, configura le Credenziali predefinite dell'applicazione. Per saperne di più, consulta Configurare l'autenticazione per le librerie client.
Java
Prima di provare questo esempio, segui le istruzioni di configurazione Java riportate nella guida rapida all'utilizzo di BigQuery con le librerie client. Per ulteriori informazioni, consulta la documentazione di riferimento dell'API BigQuery Java.
Per autenticarti in BigQuery, configura le Credenziali predefinite dell'applicazione. Per saperne di più, consulta Configurare l'autenticazione per le librerie client.
Utilizza il metodo LoadJobConfiguration.builder(tableId, sourceUri) per avviare un job di caricamento da Cloud Storage. Per utilizzare il JSON delimitato da una nuova riga, utilizza LoadJobConfiguration.setFormatOptions(FormatOptions.json()).
Node.js
Prima di provare questo esempio, segui le istruzioni di configurazione Node.js riportate nella guida rapida all'utilizzo di BigQuery con le librerie client. Per ulteriori informazioni, consulta la documentazione di riferimento dell'API BigQuery Node.js.
Per autenticarti in BigQuery, configura le Credenziali predefinite dell'applicazione. Per saperne di più, consulta Configurare l'autenticazione per le librerie client.
PHP
Prima di provare questo esempio, segui le istruzioni di configurazione PHP riportate nella guida rapida all'utilizzo di BigQuery con le librerie client. Per ulteriori informazioni, consulta la documentazione di riferimento dell'API BigQuery PHP.
Per autenticarti in BigQuery, configura le Credenziali predefinite dell'applicazione. Per saperne di più, consulta Configurare l'autenticazione per le librerie client.
Python
Prima di provare questo esempio, segui le istruzioni di configurazione Python riportate nella guida rapida all'utilizzo di BigQuery con le librerie client. Per ulteriori informazioni, consulta la documentazione di riferimento dell'API BigQuery Python.
Per autenticarti in BigQuery, configura le Credenziali predefinite dell'applicazione. Per saperne di più, consulta Configurare l'autenticazione per le librerie client.
Utilizza il metodo Client.load_table_from_uri() per avviare un job di caricamento da Cloud Storage. Per utilizzare JSONL, imposta la proprietà LoadJobConfig.source_format sulla stringaNEWLINE_DELIMITED_JSON
e passa la configurazione del job come argomento job_config
al metodo load_table_from_uri()
.
Ruby
Prima di provare questo esempio, segui le istruzioni di configurazione Ruby riportate nella guida rapida all'utilizzo di BigQuery con le librerie client. Per ulteriori informazioni, consulta la documentazione di riferimento dell'API BigQuery Ruby.
Per autenticarti in BigQuery, configura le Credenziali predefinite dell'applicazione. Per saperne di più, consulta Configurare l'autenticazione per le librerie client.
Utilizza il metodo Dataset.load_job() per avviare un job di caricamento da Cloud Storage. Per utilizzare JSONL, imposta il parametroformat
su "json"
.
Caricamento di dati JSON nidificati e ripetuti
BigQuery supporta il caricamento di dati nidificati e ripetuti da formati di origine che supportano schemi basati sugli oggetti, come JSON, Avro, ORC, Parquet, Firestore e Datastore.
In ogni riga deve essere presente un oggetto JSON, inclusi eventuali campi nidificati o ripetuti.
L'esempio seguente mostra dati nidificati o ripetuti di esempio. Questa tabella contiene informazioni sulle persone. È costituito dai seguenti campi:
id
first_name
last_name
dob
(data di nascita)addresses
(un campo nidificato e ripetuto)addresses.status
(attuale o precedente)addresses.address
addresses.city
addresses.state
addresses.zip
addresses.numberOfYears
(anni all'indirizzo)
Il file di dati JSON avrà il seguente aspetto. Nota che il campo indirizzo contiene un array di valori (indicato da [ ]
).
{"id":"1","first_name":"John","last_name":"Doe","dob":"1968-01-22","addresses":[{"status":"current","address":"123 First Avenue","city":"Seattle","state":"WA","zip":"11111","numberOfYears":"1"},{"status":"previous","address":"456 Main Street","city":"Portland","state":"OR","zip":"22222","numberOfYears":"5"}]} {"id":"2","first_name":"Jane","last_name":"Doe","dob":"1980-10-16","addresses":[{"status":"current","address":"789 Any Avenue","city":"New York","state":"NY","zip":"33333","numberOfYears":"2"},{"status":"previous","address":"321 Main Street","city":"Hoboken","state":"NJ","zip":"44444","numberOfYears":"3"}]}
Lo schema di questa tabella sarà il seguente:
[ { "name": "id", "type": "STRING", "mode": "NULLABLE" }, { "name": "first_name", "type": "STRING", "mode": "NULLABLE" }, { "name": "last_name", "type": "STRING", "mode": "NULLABLE" }, { "name": "dob", "type": "DATE", "mode": "NULLABLE" }, { "name": "addresses", "type": "RECORD", "mode": "REPEATED", "fields": [ { "name": "status", "type": "STRING", "mode": "NULLABLE" }, { "name": "address", "type": "STRING", "mode": "NULLABLE" }, { "name": "city", "type": "STRING", "mode": "NULLABLE" }, { "name": "state", "type": "STRING", "mode": "NULLABLE" }, { "name": "zip", "type": "STRING", "mode": "NULLABLE" }, { "name": "numberOfYears", "type": "STRING", "mode": "NULLABLE" } ] } ]
Per informazioni su come specificare uno schema nidificato e ripetuto, consulta Specifica di campi nidificati e ripetuti.
Caricamento di dati JSON semistrutturati
BigQuery supporta il caricamento di dati semistrutturati, in cui un campo può assumere valori di tipi diversi. L'esempio seguente mostra dati simili a quelli dell'esempio precedente di dati JSON nidificati e ripetuti, tranne per il fatto che il campo address
può essere STRING
, STRUCT
o ARRAY
:
{"id":"1","first_name":"John","last_name":"Doe","dob":"1968-01-22","address":"123 First Avenue, Seattle WA 11111"} {"id":"2","first_name":"Jane","last_name":"Doe","dob":"1980-10-16","address":{"status":"current","address":"789 Any Avenue","city":"New York","state":"NY","zip":"33333","numberOfYears":"2"}} {"id":"3","first_name":"Bob","last_name":"Doe","dob":"1982-01-10","address":[{"status":"current","address":"789 Any Avenue","city":"New York","state":"NY","zip":"33333","numberOfYears":"2"}, "321 Main Street Hoboken NJ 44444"]}
Puoi caricare questi dati in BigQuery utilizzando il seguente schema:
[ { "name": "id", "type": "STRING", "mode": "NULLABLE" }, { "name": "first_name", "type": "STRING", "mode": "NULLABLE" }, { "name": "last_name", "type": "STRING", "mode": "NULLABLE" }, { "name": "dob", "type": "DATE", "mode": "NULLABLE" }, { "name": "address", "type": "JSON", "mode": "NULLABLE" } ]
Il campo address
viene caricato in una colonna di tipo
JSON
che consente di memorizzare
i tipi misti nell'esempio. Puoi importare i dati come JSON
indipendentemente dal fatto che contengano tipi misti o meno. Ad esempio, puoi specificare JSON
anziché
STRING
come tipo per il campo first_name
. Per ulteriori informazioni, consulta
Utilizzo dei dati JSON in GoogleSQL.
Aggiunta o sovrascrittura di una tabella con dati JSON
Puoi caricare dati aggiuntivi in una tabella dai file di origine o aggiungendo i risultati delle query.
Nella console Google Cloud, utilizza l'opzione Preferenza di scrittura per specificare quale azione eseguire quando carichi i dati da un file di origine o da un risultato di query.
Quando carichi dati aggiuntivi in una tabella, hai le seguenti opzioni:
Opzione della console | Flag dello strumento bq | Proprietà dell'API BigQuery | Descrizione |
---|---|---|---|
Scrivi se vuota | Non supportata | WRITE_EMPTY |
Scrive i dati solo se la tabella è vuota. |
Aggiungi a tabella | --noreplace o --replace=false ; se
--[no]replace non è specificato, il valore predefinito è append |
WRITE_APPEND |
(Valore predefinito) Collega i dati alla fine della tabella. |
Sovrascrivi tabella | --replace o --replace=true |
WRITE_TRUNCATE |
Cancella tutti i dati esistenti in una tabella prima di scrivere i nuovi dati. Questa azione elimina anche lo schema della tabella, la sicurezza a livello di riga e rimuove qualsiasi chiave Cloud KMS. |
Se carichi i dati in una tabella esistente, il job di caricamento può aggiungerli o sovrascrivere la tabella.
Puoi accodare o sovrascrivere una tabella utilizzando uno dei seguenti elementi:
- Nella console Google Cloud
- Il comando
bq load
dello strumento a riga di comando bq - Il metodo dell'API
jobs.insert
e la configurazione di un jobload
- Le librerie client
Console
Nella console Google Cloud, vai alla pagina BigQuery.
- Nel riquadro Explorer, espandi il progetto e seleziona un set di dati.
- Nella sezione Informazioni set di dati, fai clic su Crea tabella.
- Nel riquadro Crea tabella, specifica i seguenti dettagli:
- Nella sezione Origine, seleziona Google Cloud Storage nell'elenco Crea tabella da.
Poi:
- Seleziona un file dal bucket Cloud Storage o inserisci l'URI Cloud Storage. Non puoi includere più URI nella console Google Cloud, ma sono supportati i caratteri jolly. Il bucket Cloud Storage deve trovarsi nella stessa posizione del set di dati contenente la tabella che vuoi creare, aggiungere o sovrascrivere.
- In Formato file, seleziona JSONL (JSON delimitato da nuova riga).
- Nella sezione Destinazione, specifica i seguenti dettagli:
- In Set di dati, seleziona il set di dati in cui vuoi creare la tabella.
- Nel campo Table (Tabella), inserisci il nome della tabella che vuoi creare.
- Verifica che il campo Tipo di tabella sia impostato su Tabella nativa.
- Nella sezione Schema, inserisci la definizione dello schema.
Per attivare il rilevamento automatico di uno schema,
seleziona Rilevamento automatico.
Puoi inserire manualmente le informazioni dello schema utilizzando uno dei seguenti metodi:
- Opzione 1: fai clic su Modifica come testo e incolla lo schema sotto forma di array JSON. Quando utilizzi un array JSON, generi lo schema utilizzando la stessa procedura utilizzata per creare un file di schema JSON.
Puoi visualizzare lo schema di una tabella esistente in formato JSON inserendo il seguente
comando:
bq show --format=prettyjson dataset.table
- Opzione 2: fai clic su Tipo e Modalità di ogni campo. Aggiungi campo e inserisci lo schema della tabella. Specifica Nome,
- Opzione 1: fai clic su Modifica come testo e incolla lo schema sotto forma di array JSON. Quando utilizzi un array JSON, generi lo schema utilizzando la stessa procedura utilizzata per creare un file di schema JSON.
Puoi visualizzare lo schema di una tabella esistente in formato JSON inserendo il seguente
comando:
- (Facoltativo) Specifica le impostazioni di partizionamento e clustering. Per ulteriori informazioni, consulta Creare tabelle partizionate e Creare e utilizzare tabelle in cluster. Non puoi convertire una tabella in una tabella partizionata o raggruppata aggiungendovi elementi o sovrascrivendola. La console Google Cloud non supporta l'aggiunta o l'overwriting di tabelle partizionate o raggruppate in un job di caricamento.
- Fai clic su Opzioni avanzate e segui questi passaggi:
- Per Preferenza di scrittura, scegli Aggiungi alla tabella o Sostituisci tabella.
- Per Numero di errori consentiti, accetta il valore predefinito
0
o inserisci il numero massimo di righe contenenti errori che possono essere ignorate. Se il numero di righe con errori supera questo valore, il job restituirà un messaggioinvalid
e avrà esito negativo. Questa opzione si applica solo ai file CSV e JSON. - Se vuoi ignorare i valori di una riga che non sono presenti nello schema della tabella, seleziona Valori sconosciuti.
- Per Crittografia, fai clic su Chiave gestita dal cliente per utilizzare una chiave Cloud Key Management Service. Se lasci l'impostazione Chiave gestita da Google, BigQuery cripta i dati at-rest.
- Fai clic su Crea tabella.
SQL
Utilizza
l'istruzione DDL LOAD DATA
.
L'esempio seguente aggiunge un file JSON alla tabella mytable
:
Nella console Google Cloud, vai alla pagina BigQuery.
Nell'editor di query, inserisci la seguente istruzione:
LOAD DATA INTO mydataset.mytable FROM FILES ( format = 'JSON', uris = ['gs://bucket/path/file.json']);
Fai clic su
Esegui.
Per ulteriori informazioni su come eseguire query, consulta Eseguire una query interattiva.
bq
Utilizza il comando bq load
, specifica NEWLINE_DELIMITED_JSON
utilizzando il
--source_format
flag e includi un URI Cloud Storage.
Puoi includere un singolo URI, un elenco di URI separati da virgole o un URI contenente un carattere jolly.
Fornisci lo schema in linea, in un file di definizione dello schema o utilizza il rilevamento automatico dello schema.
Specifica il flag --replace
per sovrascrivere la tabella. Utilizza il flag --noreplace
per accodare i dati alla tabella. Se non viene specificato alcun flag, per impostazione predefinita i dati vengono aggiunti alla fine.
È possibile modificare lo schema della tabella quando la aggiungi o la sovrascrivi. Per ulteriori informazioni sulle modifiche allo schema supportate durante un'operazione di caricamento, consulta Modificare gli schemi delle tabelle.
(Facoltativo) Fornisci il flag --location
e imposta il valore sulla tua
posizione.
Altri flag facoltativi sono:
--max_bad_records
: un numero intero che specifica il numero massimo di record non validi consentiti prima che l'intero job non vada a buon fine. Il valore predefinito è0
. Al massimo vengono restituiti cinque errori di qualsiasi tipo, indipendentemente dal valore di--max_bad_records
.--ignore_unknown_values
: se specificato, consente e ignora valori aggiuntivi non riconosciuti nei dati CSV o JSON.--autodetect
: se specificato, attiva il rilevamento automatico dello schema per i dati CSV e JSON.--destination_kms_key
: la chiave Cloud KMS per la crittografia dei dati della tabella.
bq --location=LOCATION load \ --[no]replace \ --source_format=FORMAT \ DATASET.TABLE \ PATH_TO_SOURCE \ SCHEMA
Sostituisci quanto segue:
LOCATION
: la tua posizione. Il flag--location
è facoltativo. Puoi impostare un valore predefinito per la posizione utilizzando il file.bigqueryrc.FORMAT
:NEWLINE_DELIMITED_JSON
.DATASET
: un set di dati esistente.TABLE
: il nome della tabella in cui stai caricando i dati.PATH_TO_SOURCE
: un URI Cloud Storage completo o un elenco di URI separati da virgole. Sono supportati anche i caratteri jolly.SCHEMA
: uno schema valido. Lo schema può essere un file JSON locale o può essere digitato in linea all'interno del comando. Puoi anche utilizzare il flag--autodetect
anziché fornire una definizione dello schema.
Esempi:
Il seguente comando carica i dati da gs://mybucket/mydata.json
e sovrascrive una tabella denominata mytable
in mydataset
. Lo schema viene definito utilizzando il rilevamento automatico dello schema.
bq load \
--autodetect \
--replace \
--source_format=NEWLINE_DELIMITED_JSON \
mydataset.mytable \
gs://mybucket/mydata.json
Il seguente comando carica i dati da gs://mybucket/mydata.json
e li aggiunge a una tabella denominata mytable
in mydataset
. Lo schema viene definito utilizzando un file schema JSON: myschema
.
bq load \
--noreplace \
--source_format=NEWLINE_DELIMITED_JSON \
mydataset.mytable \
gs://mybucket/mydata.json \
./myschema
API
Crea un job
load
che indichi i dati di origine in Cloud Storage.(Facoltativo) Specifica la tua posizione nella proprietà
location
della sezionejobReference
della risorsa job.La proprietà
source URIs
deve essere completa, nel formatogs://BUCKET/OBJECT
. Puoi includere più URI come elenco separato da virgole. Sono supportati anche i caratteri jolly.Specifica il formato dei dati impostando la proprietà
configuration.load.sourceFormat
suNEWLINE_DELIMITED_JSON
.Specifica la preferenza di scrittura impostando la proprietà
configuration.load.writeDisposition
suWRITE_TRUNCATE
oWRITE_APPEND
.
Vai
Prima di provare questo esempio, segui le istruzioni di configurazione Go riportate nella guida rapida all'utilizzo di BigQuery con le librerie client. Per ulteriori informazioni, consulta la documentazione di riferimento dell'API BigQuery Go.
Per autenticarti in BigQuery, configura le Credenziali predefinite dell'applicazione. Per saperne di più, consulta Configurare l'autenticazione per le librerie client.
Java
Node.js
Prima di provare questo esempio, segui le istruzioni di configurazione Node.js riportate nella guida rapida all'utilizzo di BigQuery con le librerie client. Per ulteriori informazioni, consulta la documentazione di riferimento dell'API BigQuery Node.js.
Per autenticarti in BigQuery, configura le Credenziali predefinite dell'applicazione. Per saperne di più, consulta Configurare l'autenticazione per le librerie client.
PHP
Prima di provare questo esempio, segui le istruzioni di configurazione PHP riportate nella guida rapida all'utilizzo di BigQuery con le librerie client. Per ulteriori informazioni, consulta la documentazione di riferimento dell'API BigQuery PHP.
Per autenticarti in BigQuery, configura le Credenziali predefinite dell'applicazione. Per saperne di più, consulta Configurare l'autenticazione per le librerie client.
Python
Per sostituire le righe di una tabella esistente, imposta la proprietà LoadJobConfig.write_disposition sulla stringa WRITE_TRUNCATE
.
Prima di provare questo esempio, segui le istruzioni di configurazione Python riportate nella guida rapida all'utilizzo di BigQuery con le librerie client. Per ulteriori informazioni, consulta la documentazione di riferimento dell'API BigQuery Python.
Per autenticarti in BigQuery, configura le Credenziali predefinite dell'applicazione. Per saperne di più, consulta Configurare l'autenticazione per le librerie client.
Ruby
Per sostituire le righe di una tabella esistente, imposta il parametro write
di
Table.load_job()
su "WRITE_TRUNCATE"
.
Prima di provare questo esempio, segui le istruzioni di configurazione Ruby riportate nella guida rapida all'utilizzo di BigQuery con le librerie client. Per ulteriori informazioni, consulta la documentazione di riferimento dell'API BigQuery Ruby.
Per autenticarti in BigQuery, configura le Credenziali predefinite dell'applicazione. Per saperne di più, consulta Configurare l'autenticazione per le librerie client.
Caricamento di dati JSON partizionati Hive
BigQuery supporta il caricamento di dati JSON partizionati in Hive archiviati su Cloud Storage e compila le colonne di partizione Hive come colonne nella tabella gestita BigQuery di destinazione. Per ulteriori informazioni, consulta Caricamento di dati partizionati esternamente.
Dettagli sul caricamento dei dati JSON
Questa sezione descrive in che modo BigQuery analizza vari tipi di dati durante il caricamento dei dati JSON.
Tipi di dati
Valore booleano. BigQuery può analizzare qualsiasi delle seguenti coppie per i dati booleani: 1 o 0, true o false, t o f, yes o no oppure y o n (tutte le lettere sono indifferenti alle maiuscole). Il rilevamento automatico dello schema consente di rilevare automaticamente qualsiasi valore, ad eccezione di 0 e 1.Byte. Le colonne con tipi BYTES devono essere codificate in Base64.
Data. Le colonne con tipi DATE devono essere nel formato YYYY-MM-DD
.
Data/ora. Le colonne con tipi DATETIME devono essere nel formato YYYY-MM-DD
HH:MM:SS[.SSSSSS]
.
Geografia. Le colonne con tipi GEOGRAPHY devono contenere stringhe in uno dei seguenti formati:
- Well-Known Text (WKT)
- Formato binario noto (WKB)
- GeoJSON
Se utilizzi WKB, il valore deve essere codificato in esadecimale.
L'elenco seguente mostra esempi di dati validi:
- WKT:
POINT(1 2)
- GeoJSON:
{ "type": "Point", "coordinates": [1, 2] }
- WKB con codifica esadecimale:
0101000000feffffffffffef3f0000000000000040
Prima di caricare i dati GEOGRAPHY, leggi anche Caricare i dati geospaziali.
Intervallo. Le colonne con tipi INTERVAL devono essere in formato
ISO 8601
PYMDTHMS
, dove:
- P = designatore che indica che il valore rappresenta una durata. Devi sempre includerlo.
- Y = Anno
- M = mese
- D = giorno
- T = designatore che indica la parte temporale della durata. Devi sempre includerlo.
- H = ora
- M = minuto
- S = secondo. I secondi possono essere indicati come un valore intero o come un valore frazionario di massimo sei cifre, con una precisione di microsecondi.
Puoi indicare un valore negativo anteponendo un trattino (-).
L'elenco seguente mostra esempi di dati validi:
P-10000Y0M-3660000DT-87840000H0M0S
P0Y0M0DT0H0M0.000001S
P10000Y0M3660000DT87840000H0M0S
Per caricare i dati INTERVAL, devi utilizzare il comando bq load
e il flag --schema
per specificare uno schema. Non puoi caricare i dati INTERVAL utilizzando la console.
Ora. Le colonne con tipi TIME devono essere nel formato HH:MM:SS[.SSSSSS]
.
Timestamp. BigQuery accetta vari formati di timestamp. Il timestamp deve includere una parte relativa alla data e una parte relativa all'ora.
La parte della data può essere formattata come
YYYY-MM-DD
oYYYY/MM/DD
.La parte del timestamp deve essere formattata come
HH:MM[:SS[.SSSSSS]]
(i secondi e le frazioni di secondo sono facoltativi).La data e l'ora devono essere separate da uno spazio o da "T".
Facoltativamente, la data e l'ora possono essere seguite da un offset UTC o dal designatore di zona UTC (
Z
). Per ulteriori informazioni, consulta Fusi orari.
Ad esempio, sono validi i seguenti valori di timestamp:
- 2018-08-19 12:11
- 19/08/2018 12:11:35
- 19-08-2018 12:11:35.22
- 19/08/2018 12:11
- 05-07-2018 12:54:00 UTC
- 2018-08-19 07:11:35.220 -05:00
- 2018-08-19T12:11:35.220Z
Se fornisci uno schema, BigQuery accetta anche l'ora dell'epoca di Unix per i valori dei timestamp. Tuttavia, il rilevamento automatico dello schema non rileva questo caso e considera il valore come un tipo numerico o di stringa.
Esempi di valori di timestamp dell'epoca di Unix:
- 1534680695
- 1.534680695e11
Array (campo ripetuto). Il valore deve essere un array JSON o null
. JSON
null
viene convertito in SQL NULL
. L'array stesso non può contenere valori null
.
Rilevamento automatico dello schema
Questa sezione descrive il comportamento del rilevamento automatico dello schema durante il caricamento dei file JSON.
Campi JSON nidificati e ripetuti
BigQuery deducono i campi nidificati e ripetuti nei file JSON. Se un valore di campo è un oggetto JSON, BigQuery carica la colonna come tipo RECORD
. Se il valore di un campo è un array, BigQuery carica la colonna come ripetuta. Per un esempio di dati JSON con dati nidificati e ripetuti, consulta
Caricare dati JSON nidificati e ripetuti.
Conversione di stringhe
Se attivi il rilevamento automatico dello schema, BigQuery converte
le stringhe in tipi booleani, numerici o data/ora, se possibile. Ad esempio,
utilizzando i seguenti dati JSON, il rilevamento automatico dello schema converte il campo id
in una colonna INTEGER
:
{ "name":"Alice","id":"12"}
{ "name":"Bob","id":"34"}
{ "name":"Charles","id":"45"}
Tipi di codifica
BigQuery si aspetta che i dati JSON siano codificati in UTF-8. Se hai file JSON con altri tipi di codifica supportati, devi specificare esplicitamente la codifica utilizzando il flag --encoding
in modo che BigQuery converta i dati in UTF-8.
BigQuery supporta i seguenti tipi di codifica per i file JSON:
- UTF-8
- ISO-8859-1
- UTF-16BE (UTF-16 Big Endian)
- UTF-16LE (UTF-16 Little Endian)
- UTF-32BE (UTF-32 Big Endian)
- UTF-32LE (UTF-32 little endian)
Opzioni JSON
Per modificare il modo in cui BigQuery analizza i dati JSON, specifica opzioni aggiuntive nella console Google Cloud, nello strumento a riga di comando bq, nell'API o nelle librerie client.
Opzione JSON | Opzione della console | Flag dello strumento bq | Proprietà dell'API BigQuery | Descrizione |
---|---|---|---|---|
Numero di record errati consentiti | Numero di errori consentiti | --max_bad_records |
maxBadRecords
(Java,
Python)
|
(Facoltativo) Il numero massimo di record errati che BigQuery può ignorare durante l'esecuzione del job. Se il numero di record non validi supera questo valore, nel risultato del job viene restituito un errore non valido. Il valore predefinito è "0", il che richiede che tutti i record siano validi. |
Valori sconosciuti | Ignora valori sconosciuti | --ignore_unknown_values |
ignoreUnknownValues
(Java,
Python)
|
(Facoltativo) Indica se BigQuery deve consentire valori aggiuntivi che non sono rappresentati nello schema della tabella. Se il valore è true, i valori aggiuntivi vengono ignorati. Se false, i record con colonne aggiuntive vengono trattati come record non validi e, se sono presenti troppi record non validi, viene restituito un errore non valido nel risultato del job. Il valore predefinito è false. La proprietà "sourceFormat" determina cosa BigQuery tratta come valore aggiuntivo: CSV: colonne finali, JSON: valori denominati che non corrispondono a nomi di colonna. |
Codifica | Nessuno | -E o --encoding |
encoding
(Python) |
(Facoltativo) La codifica dei caratteri dei dati. I valori supportati sono UTF-8, ISO-8859-1, UTF-16BE, UTF-16LE, UTF-32BE o UTF-32LE. Il valore predefinito è UTF-8. |
Passaggi successivi
- Per informazioni sul caricamento dei dati JSON da un file locale, consulta Caricare i dati da file locali.
- Per ulteriori informazioni su come creare, importare e eseguire query sui dati JSON, consulta Utilizzo dei dati JSON in GoogleSQL.