Utilizzare trasferimenti di terze parti
I trasferimenti di terze parti per BigQuery Data Transfer Service ti consentono di pianificare e gestire automaticamente i job di caricamento ricorrenti per origini dati esterne come Salesforce CRM, Adobe Analytics e Facebook Ads.
Prima di iniziare
Prima di creare un trasferimento di dati di terze parti:
- Verifica di aver completato tutte le azioni necessarie per abilitare BigQuery Data Transfer Service.
- Crea un set di dati BigQuery per archiviare i dati.
Assicurati che la persona che crea il trasferimento disponga delle seguenti autorizzazioni obbligatorie in BigQuery:
- Autorizzazioni
bigquery.transfers.update
per creare il trasferimento - Entrambe le autorizzazioni
bigquery.datasets.get
ebigquery.datasets.update
sul set di dati di destinazione
Il ruolo IAM predefinito
bigquery.admin
include le autorizzazionibigquery.transfers.update
,bigquery.datasets.update
ebigquery.datasets.get
. Per saperne di più sui ruoli IAM in BigQuery Data Transfer Service, consulta Controllo dell'accesso.- Autorizzazioni
Consulta la documentazione dell'origine dati di terze parti per assicurarti di aver configurato tutte le autorizzazioni necessarie per abilitare il trasferimento.
Se intendi configurare le notifiche di esecuzione dei trasferimenti per Pub/Sub, devi disporre delle autorizzazioni
pubsub.topics.setIamPolicy
. Le autorizzazioni Pub/Sub non sono necessarie se configuri solo le notifiche via email. Per ulteriori informazioni, consulta Notifiche di esecuzione di BigQuery Data Transfer Service.
Limitazioni
I trasferimenti a terze parti sono soggetti alle seguenti limitazioni:
- Devi creare o aggiornare un trasferimento di terze parti utilizzando la console Google Cloud.
- Al momento, non puoi configurare o aggiornare i trasferimenti di terze parti utilizzando lo strumento a riga di comando bq.
Configurare un trasferimento di dati di terze parti
Per creare un trasferimento di dati di terze parti utilizzando la console Google Cloud:
Vai a Google Cloud Marketplace.
Fai clic sul fornitore di terze parti appropriato.
Nella pagina della documentazione del fornitore di terze parti, fai clic su Registrati. La procedura di registrazione potrebbe richiedere qualche istante.
Al termine della registrazione, fai clic su Configura trasferimento.
Nella pagina Crea trasferimento:
Per Origine, scegli l'origine dati di terze parti appropriata. Puoi fare clic su Esplora origini dati per visualizzare l'elenco dei fornitori di terze parti in Google Cloud Marketplace.
In Nome visualizzato, inserisci un nome per il trasferimento, ad esempio
My Transfer
. Il nome del trasferimento può essere qualsiasi valore che ti consenta di identificare facilmente il trasferimento se devi modificarlo in un secondo momento.In Pianifica, lascia il valore predefinito (Inizia ora) o fai clic su Inizia a un'ora specifica.
Per Ripeti, scegli un'opzione per la frequenza di esecuzione del trasferimento. Le opzioni includono:
- Ogni giorno (impostazione predefinita)
- Ogni settimana
- Ogni mese
- Personalizzato
- On demand
Se scegli un'opzione diversa da Giornaliera, sono disponibili opzioni aggiuntive. Ad esempio, se scegli Settimanale, viene visualizzata un'opzione per selezionare il giorno della settimana.
In Data di inizio e ora di esecuzione, inserisci la data e l'ora di inizio del trasferimento. Se scegli Inizia ora, questa opzione è disattivata.
Per Set di dati di destinazione, scegli il set di dati che hai creato per archiviare i tuoi dati.
(Facoltativo) Nella sezione Opzioni di notifica:
- Fai clic sul pulsante di attivazione/disattivazione per attivare le notifiche via email. Se attivi questa opzione, l'amministratore dei trasferimenti riceve una notifica via email quando un trasferimento non va a buon fine.
- In Seleziona un argomento Pub/Sub, scegli il nome dell'argomento o fai clic su Crea un argomento per crearne uno. Questa opzione configura le notifiche di esecuzione di Pub/Sub per il trasferimento.
Fai clic su Connetti origine.
Quando richiesto, fai clic su Accetta per concedere a BigQuery Data Transfer Service l'autorizzazione a connettersi all'origine dati e a gestire i tuoi dati in BigQuery.
Segui le istruzioni nelle pagine successive per configurare la connessione alla tua origine dati esterna.
Dopo aver completato i passaggi di configurazione, fai clic su Salva.
Risolvere i problemi di configurazione del trasferimento di terze parti
Se hai problemi a configurare il trasferimento, rivolgiti al fornitore di terze parti appropriato. I dati di contatto sono disponibili nella pagina della documentazione del trasferimento in Google Cloud Marketplace.
Esegui query sui dati
Quando vengono trasferiti a BigQuery, i tuoi dati vengono scritti in tabelle partizionate per data di importazione. Per ulteriori informazioni, consulta Introduzione alle tabelle partizionate.
Se esegui query direttamente sulle tabelle anziché utilizzare le viste generate automaticamente, devi utilizzare la pseudocolonna _PARTITIONTIME
nella query. Per ulteriori informazioni, consulta Esecuzione di query sulle tabelle partizionate.
Passaggi successivi
- Per una panoramica di BigQuery Data Transfer Service, consulta Introduzione a BigQuery Data Transfer Service.
- Per informazioni sull'utilizzo dei trasferimenti, tra cui come ottenere informazioni su una configurazione di trasferimento, elencare le configurazioni di trasferimento e visualizzare la cronologia di esecuzione di un trasferimento, consulta Utilizzare i trasferimenti.