Panoramica di BigQuery
BigQuery è una piattaforma dati completamente gestita e pronta per AI che ti aiuta gestisci e analizzi i tuoi dati con funzionalità integrate come il machine learning, ricerca, analisi geospaziale e business intelligence. di BigQuery consente di usare linguaggi come SQL e Python per rispondere delle domande più importanti per un'organizzazione senza gestione dell'infrastruttura.
BigQuery offre un modo uniforme per lavorare con i dati strutturati e non strutturati e supporta formati di tabelle aperte come Apache Iceberg, Delta e Hudi. BigQuery streaming supporta l'importazione e l'analisi continua dei dati, mentre il motore di analisi distribuito e scalabile di BigQuery ti consente di eseguire query su terabyte in pochi secondi e su petabyte in pochi minuti.
L'architettura di BigQuery è composta da due parti: un livello di archiviazione che importa, archivia e ottimizza i dati e un livello di calcolo che fornisce funzionalità di analisi. Questi livelli di computing e archiviazione operano in modo efficiente indipendentemente l'una dall'altra grazie alla rete su scala ridotta di Google, consente la comunicazione necessaria.
In genere, i database legacy devono condividere le risorse tra lettura e scrittura operazioni e operazioni analitiche. Ciò può causare conflitti tra risorse possono rallentare le query durante la scrittura o la lettura dei dati nello spazio di archiviazione. I pool di risorse condivisi possono subire ulteriori tensioni quando le risorse necessari per le attività di gestione dei database, come l'assegnazione o la revoca autorizzazioni aggiuntive. Separazione dei livelli di calcolo e archiviazione di BigQuery consente a ogni livello di allocare dinamicamente le risorse senza influire sulle prestazioni o la disponibilità dell'altro.
Questo principio di separazione consente a BigQuery di innovare più rapidamente il deployment dei miglioramenti dell'archiviazione e del calcolo può essere eseguito in modo indipendente, senza tempi di inattività o un impatto negativo sulle prestazioni del sistema. Inoltre, è essenziale offrire una un data warehouse serverless completamente gestito in cui che gestisce gli aggiornamenti e la manutenzione. Di conseguenza, non devi eseguire il provisioning o scalare manualmente le risorse, ma puoi concentrarti sul fornire valore anziché sulle attività di gestione del database tradizionali.
Le interfacce BigQuery includono la console Google Cloud e lo strumento a riga di comando di BigQuery. Gli sviluppatori e i data scientist possono utilizzare librerie client con linguaggi di programmazione comuni, tra cui Python, Java, JavaScript e Go, nonché l'API REST e l'API RPC di BigQuery per trasformare e gestire i dati. ODBC e i driver JDBC forniscono l'interazione con applicazioni esistenti, tra cui strumenti e utilità di terze parti.
Come analista di dati, data engineer, amministratore di data warehouse o scienziato, BigQuery ti aiuta a caricare, elaborare e analizzare i dati per decisioni aziendali critiche.
Inizia a utilizzare BigQuery
Puoi iniziare a esplorare BigQuery in pochi minuti. Sfrutta le Livello di utilizzo gratuito o sandbox senza costi di BigQuery per avviare il caricamento ed eseguire query sui dati.
- Sandbox di BigQuery: Inizia nella sandbox di BigQuery, senza rischi e senza costi.
- Guida rapida della console Google Cloud: Acquisisci familiarità con la potenza della console BigQuery.
- Set di dati pubblici: scopri i set di dati di BigQuery le prestazioni esplorando grandi dati reali provenienti da set di dati pubblici Google.
Esplora BigQuery
L'infrastruttura serverless di BigQuery ti consente di concentrarti sui dati anziché sulla gestione delle risorse. BigQuery combina un ambiente un data warehouse e potenti strumenti di analisi.
Spazio di archiviazione BigQuery
BigQuery archivia i dati utilizzando un formato di archiviazione a colonne ottimizzato per le query analitiche. BigQuery presenta i dati in tabelle, righe e colonne e offre il supporto completo per le transazioni del database semantica (ACID). BigQuery lo spazio di archiviazione viene replicato automaticamente in più località la disponibilità del servizio.
- Scopri di più sui pattern comuni per organizzare BigQuery nel data warehouse e nei data mart.
- Ulteriori informazioni su set di dati, BigQuery di primo livello un container di tabelle e viste.
- Carica i dati in BigQuery utilizzando:
- Trasmetti il flusso di dati con API Storage Scrivi.
- Caricare i dati in batch da file locali o Cloud Storage utilizzando formati che includono: Avro Parquet ORC, CSV, JSON, Datastore, e Firestore formati.
- BigQuery Data Transfer Service automatizza importazione dati.
Per ulteriori informazioni, vedi Panoramica dello spazio di archiviazione di BigQuery.
Analisi di BigQuery
Gli utilizzi dell'analisi descrittiva e prescrittiva includono business intelligence, ad hoc analisi geospaziali, machine learning e machine learning. Puoi eseguire query sui dati archiviati in BigQuery o eseguire query sui dati in cui si trovano utilizzando tabelle o query federate tra cui Cloud Storage, Archiviazione di Bigtable, Spanner o Fogli Google Google Drive.
- Query SQL standard ANSI (supporto per SQL:2011) tra cui il supporto per join, campi nidificati e ripetuti, analisi e funzioni di aggregazione, query con più istruzioni e una serie funzioni spaziali con analisi geospaziali: sistemi di informazione geografica.
- Crea visualizzazioni per condividere la tua analisi.
- Assistenza per gli strumenti di business intelligence, tra cui BI Engine con Looker Studio Looker, Google Fogli e strumenti di terze parti come Tableau e Power BI.
- BigQuery ML fornisce machine learning e analisi predittiva.
- BigQuery Studio offre funzionalità come Blocchi note Python e controllo della versione per entrambi i blocchi note e query salvate. Queste funzioni ti consentono di completare per l'analisi dei dati e i flussi di lavoro di machine learning (ML) in BigQuery.
- Eseguire query sui dati al di fuori di BigQuery con tabelle esterne e federate query.
Per ulteriori informazioni, vedi Panoramica dell'analisi di BigQuery.
Amministrazione di BigQuery
BigQuery fornisce la gestione centralizzata delle risorse di dati e calcolo, mentre Identity and Access Management (IAM) ti aiuta a proteggere queste risorse con il modello di accesso utilizzato in tutto Google Cloud. Best practice per la sicurezza di Google Cloud offrono un approccio solido ma flessibile che può includere più complessi e granulari approccio alla difesa in profondità.
- Introduzione alla sicurezza e alla governance dei dati ti aiuta a comprendere la governance dei dati e i controlli di cui potresti aver bisogno la sicurezza delle risorse BigQuery.
- I job sono azioni BigQuery viene eseguito per tuo conto per caricare, esportare, eseguire query o copiare e i dati di Google Cloud.
- Le prenotazioni ti consentono di passare dai prezzi on demand a quelli basati sulla capacità.
Per ulteriori informazioni, vedi Introduzione all'amministrazione di BigQuery.
Risorse di BigQuery
Esplora le risorse BigQuery:
- Le note di rilascio forniscono i log delle modifiche funzionalità, modifiche e ritiri.
Prezzi per l'analisi archiviazione. Vedi anche: BigQuery ML, BI Engine e Data Transfer Service i prezzi.
Le località definiscono dove crei e archivi (località a singola regione e a più regioni).
Impilare Host di overflow una community coinvolta di sviluppatori e analisti che lavorano in BigQuery.
L'assistenza di BigQuery fornisce aiuto per: in BigQuery.
Google BigQuery: la guida definitiva: data warehousing, analisi e Machine learning su larga scala di Valliappa Lakshmanan e Jordan Tigani, spiega come BigQuery funziona e fornisce una procedura dettagliata end-to-end su come per utilizzare il servizio.
API, strumenti e riferimenti
Materiali di riferimento per sviluppatori e analisti di BigQuery:
- Sintassi delle query SQL per e i dettagli sull'uso di GoogleSQL.
- API BigQuery e le librerie client presentano panoramiche le funzionalità di BigQuery e il loro utilizzo.
- Gli esempi di codice BigQuery forniscono centinaia di snippet per le librerie client in C#, Go, Java, Node.js, Python, Ruby. Oppure visualizza il browser di esempio.
- DML DDL, e funzioni definite dall'utente consente di gestire e trasformare i dati di BigQuery.
- Riferimento per lo strumento a riga di comando bq
documenta la sintassi, i comandi, i flag e gli argomenti per l'interfaccia dell'interfaccia a riga di comando di
bq. - Integrazione ODBC / JDBC connettere BigQuery agli strumenti e all'infrastruttura esistenti.
Ruoli e risorse di BigQuery
BigQuery risponde alle esigenze dei professionisti dei dati in i seguenti ruoli e responsabilità.
Analista di dati
Indicazioni per le attività utili se devi:
- Eseguire query sui dati BigQuery utilizzando query interattive o batch con la sintassi delle query SQL
- Espressioni, funzioni e operatori SQL di riferimento eseguire query sui dati
Utilizzare gli strumenti per analizzare e visualizzare i dati di BigQuery tra cui: Looker, Looker Studio e Fogli Google.
Utilizzare l'analisi geospaziale per analizzare e di visualizzare i dati geospaziali con Sistemi di informazione geografica
Ottimizzare le prestazioni delle query con:
- Tabelle partizionate: Elimina e tabelle di grandi dimensioni basate su intervalli temporali o interi.
- Viste materializzate: Definisci le visualizzazioni memorizzate nella cache per ottimizzare le query o fornire dati che consentono di analizzare i dati e visualizzare i risultati.
- BI Engine: Il rapido servizio di analisi in memoria di BigQuery.
Per fare un tour diretto delle funzionalità di analisi dei dati di BigQuery Nella console Google Cloud, fai clic su Inizia il tour.
Amministratore dati
Indicazioni per le attività utili se devi:
- Gestisci costi con prenotazioni per bilanciare le richieste on demand e prezzi basati sulla capacità.
- Comprendere la sicurezza e la governance dei dati per proteggere i dati dataset, tabella, colonna, riga, o visualizza
- Eseguire il backup dei dati con snapshot delle tabelle per conservare i contenuti di una tabella in un determinato momento.
- Visualizza INFORMATION_SCHEMA di BigQuery per comprendere i metadati dei set di dati, jobs, controllo dell'accesso, prenotazioni, tabelle e altro.
- Utilizza i job per avere BigQuery caricare, esportare, eseguire query o copiare dati sono azioni eseguite per tuo conto.
- Monitora i log e le risorse per comprendere BigQuery e i carichi di lavoro.
Per ulteriori informazioni, consulta Introduzione a BigQuery Google Cloud.
Per fare un tour delle funzionalità di amministrazione dei dati di BigQuery direttamente nella console Google Cloud, fai clic su Inizia il tour.
Data scientist
Linee guida per le attività utili se hai bisogno di usare la macchina di BigQuery ML imparare a svolgere seguenti:
- Comprendere il percorso dell'utente end-to-end per i modelli di machine learning
- Gestisci il controllo dell'accesso per BigQuery ML
- Creare e addestrare un modello BigQuery ML
tra cui:
- Regressione lineare previsione
- Logistica binaria e logistica multiclasse classificazioni di regressione
- Clustering K-means per la segmentazione dei dati
- Serie temporali previsione con i modelli Arima+
Sviluppatore dati
Indicazioni per le attività utili se devi:
- Carica i dati in BigQuery con:
Utilizza la libreria di esempi di codice, che include:
Browser di esempio Google Cloud (ambito per BigQuery)
Tutorial video su BigQuery
La seguente serie di tutorial video ti consente di iniziare BigQuery:
Titolo |
Descrizione |
|---|---|
| Come ottenere inizia con BigQuery (17:18) | Una panoramica che riassume cos'è BigQuery e come per utilizzarlo. I segmenti includono: pipeline ETL, prezzi e ottimizzazione, BigQuery ML e BI Engine per poi concludere demo di BigQuery nella console Google Cloud. |
| Che cos'è BigQuery? (04:39) | Una panoramica di BigQuery su come funziona progettato per importare e archiviare grandi quantità di dati per aiutare gli analisti e sviluppatori |
| Utilizzare la sandbox di BigQuery (3:05) | Come configurare una sandbox di BigQuery, che ti permette di eseguire query senza bisogno di una carta di credito |
| Porre domande query in esecuzione (5:11) | Scrivere ed eseguire query SQL nella UI di BigQuery, oltre scegliere un numero di maglia vincente |
| Caricamento di dati in BigQuery (5:31) | Come importare e analizzare i dati in tempo reale o eseguire un'analisi in batch una tantum dei dati, oltre a gatti e cani |
| Visualizzazione della query risultati (5:38) | In che modo la visualizzazione dei dati è utile per comprendere e interiorizzare più facilmente i set di dati complessi |
| Gestire l'accesso con IAM (5:23) | Come consentire ad altri utenti di eseguire query sui tuoi set di dati in BigQuery con autorizzazioni IAM e controllo dell'accesso |
| Risparmio e condivisione di query (6:17) | Come salvare e condividere facilmente le query in BigQuery |
| Protezione dei dati sensibili dati con viste autorizzate (7:12) | Come condividere facilmente i set di dati con diversi utenti mediante l'impostazione di controlli dell'accesso |
| Esecuzione di query esterne dati con BigQuery (5:49) | Configurare un'origine dati esterna in BigQuery ed eseguire query dati da Cloud Storage, Cloud SQL, Google Drive e altri |
| Cosa sono definiti dall'utente ? (4:59) | Come creare funzioni definite dall'utente per l'analisi di set di dati in BigQuery |
Passaggi successivi
- Per una panoramica dello spazio di archiviazione BigQuery, consulta Panoramica dello spazio di archiviazione BigQuery.
- Per una panoramica delle query BigQuery, consulta Panoramica dell'analisi di BigQuery.
- Per una panoramica dell'amministrazione di BigQuery, consulta Introduzione all'amministrazione di BigQuery.
- Per una panoramica della sicurezza di BigQuery, consulta Panoramica della sicurezza e della governance dei dati.