Configurare l'esportazione dei dati di fatturazione Cloud in BigQuery

Questa guida fornisce tutti i passaggi necessari per abilitare l'esportazione dei dati di fatturazione Cloud in BigQuery.

Per esportare i dati di fatturazione Cloud in BigQuery, segui questi passaggi:

  • Creare un progetto in cui archiviare i dati di fatturazione Cloud e abilitare la fatturazione (se non lo hai già fatto).
  • Configura le autorizzazioni per il progetto e nell'account di fatturazione Cloud.
  • Abilita l'API BigQuery Data Transfer Service (obbligatoria per esportare i dati relativi ai prezzi).
  • Crea un set di dati BigQuery in cui archiviare i dati.
  • Abilita l'esportazione dei dati di costo e i prezzi in Cloud Billing per scrivere nel set di dati.

In questo documento vengono illustrati in dettaglio i singoli passaggi.

Informazioni su Google Cloud Console

Google Cloud Console (visita la documentazione, open console) è una UI web utilizzata per eseguire il provisioning, configurare, gestire e monitorare i sistemi che utilizzano i prodotti Google Cloud. Puoi utilizzare Google Cloud Console per configurare e gestire le risorse di fatturazione di Google Cloud e Cloud.

Autorizzazioni richieste per questa attività

Per attivare e configurare l'esportazione dei dati di costo di utilizzo della fatturazione Google Cloud in un set di dati BigQuery, devi disporre delle seguenti autorizzazioni:

  • Per la fatturazione Cloud, devi avere il ruolo Gestore costi account di fatturazione o il ruolo Amministratore account di fatturazione per l'account di fatturazione Cloud di destinazione.
  • Per BigQuery, devi avere il ruolo Utente BigQuery per il progetto Cloud che contiene il set di dati BigQuery da utilizzare per archiviare i dati di fatturazione Cloud.

Per attivare e configurare l'esportazione dei dati dei prezzi di fatturazione Cloud, devi disporre delle seguenti autorizzazioni:

  • Per fatturazione Cloud, devi avere il ruolo Amministratore account di fatturazione per l'account di fatturazione Cloud di destinazione.
  • Per BigQuery, devi avere il ruolo Amministratore BigQuery per il progetto Cloud che contiene il set di dati BigQuery da utilizzare per archiviare i dati dei prezzi di Cloud.
  • Per il progetto Cloud contenente il set di dati di destinazione, devi disporre dell'autorizzazione resourcemanager.projects.update. Questa autorizzazione è inclusa nel ruolo roles/editor.

Potresti anche aver bisogno di altre autorizzazioni per il progetto. Se sei un membro di un'organizzazione Google Cloud, per creare un nuovo progetto devi avere il ruolo Creatore progetto nell'organizzazione o nella cartella. In particolare, per creare un nuovo progetto, devi disporre delle seguenti autorizzazioni:

  • resourcemanager.organizations.get
  • resourcemanager.projects.create

Per ulteriori informazioni sulle autorizzazioni di Google Cloud, consulta:

Abilita l'esportazione dei dati di fatturazione Cloud in BigQuery

Completa i passaggi descritti in questa sezione per abilitare l'esportazione dei dati di fatturazione Cloud in BigQuery.

Se sei un rivenditore, puoi configurare un'esportazione dei tuoi dati specifica per il rivenditore utilizzando la Console Partner Sales. Per farlo, segui i passaggi 1-4 in questa pagina, quindi consulta Esportazione dei dati di fatturazione Cloud in BigQuery per abilitare l'esportazione.

1. Seleziona o crea un progetto

I dati di fatturazione Cloud esportati in BigQuery sono contenuti in un set di dati BigQuery. Un set di dati è contenuto in un progetto Cloud specificato da te.

Consiglio sui progetti: ti consigliamo di creare un progetto cloud che comprenda tutte le tue esigenze di amministrazione della fatturazione, inclusi i dati di fatturazione Cloud esportati. Puoi anche utilizzare il progetto cloud di amministrazione della fatturazione per altre attività quali l'accesso alle API Cloud Billing, i canali Pub/Sub per le notifiche del budget programmatiche e altre attività di amministrazione di fatturazione Cloud.

Importante: il progetto cloud selezionato per contenere il set di dati deve essere collegato allo stesso account di fatturazione Cloud che contiene i dati che intendi esportare nel set di dati BigQuery. Un progetto Cloud viene collegato a un solo account di fatturazione Cloud alla volta. Un account di fatturazione Cloud è collegato a uno o più progetti.

Nella console di Google Cloud Console, nella pagina del selettore dei progetti, seleziona o crea un progetto Google Cloud.

Vai al selettore progetti

Scopri di più su come creare e gestire i progetti.

2. Verificare che la fatturazione sia attivata

Devi assicurarti che la fatturazione sia attivata sul progetto Cloud che selezioni per contenere il tuo set di dati e che il progetto Cloud sia collegato allo stesso account di fatturazione Cloud che contiene i dati che intendi esportare nel set di dati BigQuery.

3. Abilita l'API BigQuery Data Transfer Service

Se intendi esportare i dati sui prezzi di fatturazione Cloud in BigQuery, devi abilitare l'API BigQuery Data Transfer Service. Se non hai intenzione di esportare i tuoi dati sui prezzi per la fatturazione Cloud, puoi andare al passaggio 4. crea un set di dati BigQuery.

L'API Data Transfer Service BigQuery deve essere abilitata nello stesso progetto Cloud che utilizzi per contenere i set di dati BigQuery. Se hai seguito il consiglio nella sezione del progetto, questo è il tuo progetto Google Cloud di amministrazione della fatturazione.

Per abilitare l'API BigQuery Data Transfer Service:

  1. Accedi a Google Cloud Console e vai alla pagina dell'API.

    Vai alla pagina dell'API BigQuery Data Transfer Service

  2. Seleziona un progetto in alto a sinistra nella pagina. Devi abilitare l'API BigQuery Data Transfer Service nello stesso progetto che utilizzi per contenere il set di dati BigQuery. Se hai seguito il consiglio nella sezione del progetto, questo è il tuo progetto Google Cloud di amministrazione della fatturazione.

  3. Nella pagina dell'API BigQuery Data Transfer Service, fai clic su Abilita per abilitare l'API nel progetto selezionato.

Per ulteriori informazioni sull'abilitazione delle API, consulta la documentazione sull'utilizzo dei servizi.

4. Crea un set di dati BigQuery

Prima di abilitare i dati di fatturazione Cloud per l'esportazione in BigQuery, devi creare almeno un set di dati BigQuery per gestire i dati esportati. Puoi usare lo stesso set di dati per contenere i dati di costo di utilizzo standard, i dati di costo di utilizzo dettagliato e i dati dei prezzi.

Un set di dati è contenuto in un progetto Cloud specificato da te. I set di dati sono contenitori di primo livello utilizzati per organizzare e controllare l'accesso alle tabelle e alle viste. Una tabella o una vista deve appartenere a un set di dati, quindi è necessario creare almeno un set di dati prima di caricare i dati in BigQuery.

Se crei un nuovo set di dati, ti consigliamo di selezionare un'opzione per più aree geografiche come località, ad esempio Stati Uniti (US) o Unione Europea (UE). Ad esempio, i dati di costo dettagliati relativi all'utilizzo sono supportati solo nei set di dati relativi alle aree geografiche negli Stati Uniti e nell'UE in più aree geografiche.

Se utilizzi un set di dati esistente, esamina le limitazioni che potrebbero influire sull'esportazione dei dati di fatturazione in BigQuery, ad esempio l'impossibilità di usare set di dati con chiavi di crittografia gestite dal cliente abilitate o che i dati di costo di utilizzo dettagliati richiedono set di dati relativi a più aree geografiche.

Per creare un set di dati BigQuery, segui questi passaggi:

  1. Accedi a Google Cloud Console e vai alla pagina BigQuery.

    Vai alla pagina BigQuery

  2. Nell'elenco a discesa progetto (Il mio progetto ) nella parte superiore della pagina di Google Cloud Console, seleziona il progetto configurato per contenere il tuo set di dati. Prendi nota dell'ID progetto, poiché lo utilizzerai nei passaggi successivi.

  3. Nel riquadro Explorer, nella sezione Progetti fissati, fai clic su ID-progetto per espandere il progetto e visualizzare eventuali set di dati e query salvate.

  4. Accanto all'ID progetto, fai clic sul menu Visualizza azioni (), quindi fai clic su Crea set di dati. Viene visualizzato il riquadro Crea set di dati.

    1. Specifica un ID set di dati. Ti consigliamo un ID che comprende progetti, ad esempio all_billing_data, anziché un ID specifico per progetto.
    2. Seleziona una Località dei dati. La località dei dati specifica l'area geografica in cui sono archiviati i tuoi dati. Tutte le tabelle all'interno di questo set di dati condividono questa località.

      Quando crei un set di dati, ti consigliamo di selezionare un'opzione per più aree geografiche come località, ad esempio Stati Uniti (US) o Unione Europea (UE). Questa operazione è necessaria per esportare i dati di costo dettagliati dell'utilizzo.

      Dopo aver creato il set di dati, la località non può essere modificata. Scopri di più sulle sedi.

    3. Assicurati che l'opzione Attiva scadenza della tabella sia cancellata.

      Se attivi la scadenza della tabella e inserisci un numero di giorni, le nuove tabelle create in questo set di dati vengono eliminate automaticamente dopo il numero di giorni specificato dopo la creazione. Importante: se elimini tutte le tabelle contenenti record di dati di fatturazione Cloud esportati, i record vengono eliminati definitivamente e non possiamo eseguire il backfill dei record eliminati.

    4. Nella sezione Opzioni avanzate, assicurati che l'opzione Utilizza una chiave di crittografia gestita dal cliente (CMEK) sia cancellata.

      La crittografia della chiave gestita dal cliente non è supportata per l'esportazione dei record di dati di fatturazione Cloud in BigQuery.

    5. Per salvare, fai clic su Crea set di dati.

Consulta le limitazioni che potrebbero influire sull'esportazione dei dati di fatturazione in BigQuery.

Se sei un rivenditore, puoi anche attivare l'esportazione dei dati di fatturazione Cloud specifica per il rivenditore.

5. Abilita l'esportazione della fatturazione Cloud nel set di dati BigQuery

L'esportazione dei dati di fatturazione Cloud viene attivata nella sezione Fatturazione Cloud di Google Cloud Console. Di seguito sono riportati i tipi di dati che puoi esportare:

  • Dati di costo di utilizzo standard: contengono informazioni standard sull'utilizzo dei costi dell'account di fatturazione Cloud, come ID account, data di fatturazione, servizi, SKU, progetti, etichette, località, costo, utilizzo, crediti, aggiustamenti e valuta.

    Utilizza l'esportazione di utilizzo standard per analizzare le tendenze generali nei tuoi dati di costo.

  • Dati di costo dettagliati relativi all'utilizzo: contiene informazioni dettagliate sul costo di utilizzo dell'account di fatturazione Cloud. Include tutti i dati dei costi di utilizzo standard più i dati di costo a livello di risorsa, come una macchina virtuale o un'unità SSD che genera l'utilizzo del servizio.

    Utilizza l'esportazione dettagliata per analizzare i costi a livello di risorsa e identificare risorse specifiche che potrebbero causare un aumento dei costi.

  • Dati sui prezzi: contiene i dati sui prezzi dell'account di fatturazione Cloud, come ID account, servizi, SKU, prodotti, metadati geografici, unità di prezzo, valuta, aggregazione e livelli.

Per abilitare l'esportazione dei dati di costo dell'utilizzo o prezzi della fatturazione Cloud in BigQuery, segui questi passaggi:

  1. Accedi alla Google Cloud Console.

    Accedi a Google Cloud Console

  2. Apri il menu di navigazione () della console e seleziona Fatturazione.

    Se hai più di un account di fatturazione Cloud, esegui una delle seguenti operazioni:

    • Per gestire la fatturazione Cloud per il progetto cloud corrente, seleziona Vai all'account di fatturazione collegato.
    • Per trovare un altro account di fatturazione Cloud, seleziona Gestisci account di fatturazione e scegli l'account per il quale attivare l'esportazione dei dati di fatturazione Cloud in BigQuery.
  3. Nel menu di navigazione Fatturazione, seleziona Esportazione della fatturazione.

  4. Seleziona la scheda BigQuery Export (questa opzione è selezionata per impostazione predefinita).

  5. Fai clic su Modifica impostazioni per il tipo di dati che vuoi esportare. Ogni tipo di dati viene configurato separatamente.

  6. Nell'elenco Progetti, seleziona il progetto configurato per contenere il tuo set di dati BigQuery.

    Il progetto selezionato viene utilizzato per archiviare i dati di fatturazione Cloud esportati nel set di dati BigQuery.

    Per le esportazioni di dati standard e dei costi di utilizzo dettagliati, i dati di fatturazione Cloud includono i dati di utilizzo/costo per tutti i progetti cloud pagati dallo stesso account di fatturazione Cloud.

    Per l'esportazione dei dati dei prezzi, i dati di fatturazione Cloud includono solo i dati sui prezzi specifici dell'account di fatturazione Cloud collegato al progetto di set di dati selezionato.

  7. Nel campo ID set di dati, seleziona il set di dati che hai configurato per contenere i dati di fatturazione Cloud esportati.

    Per tutti i tipi di dati di fatturazione Cloud esportati in BigQuery, si applica quanto segue:

    • L'API BigQuery è necessaria per esportare i dati in BigQuery. Se per il progetto selezionato non è abilitata l'API BigQuery, ti verrà chiesto di abilitarla. Fai clic su Abilita API BigQuery per abilitare l'API.
    • Se il progetto selezionato non contiene set di dati BigQuery, ti verrà chiesto di crearne uno. Se necessario, segui questi passaggi per creare un nuovo set di dati.
    • Se utilizzi un set di dati esistente, esamina le limitazioni che potrebbero influire sull'esportazione dei dati di fatturazione in BigQuery, ad esempio l'impossibilità di esportare i dati in set di dati configurati per l'utilizzo della crittografia chiave gestita dal cliente.

    Per l'esportazione dei dati dei prezzi, è necessaria l'API BigQuery Data Transfer Service per esportarli in BigQuery. Se per il progetto selezionato non è abilitata l'API BigQuery Data Transfer Service, ti verrà chiesto di abilitarla. Se necessario, segui questi passaggi per abilitare l'API.

  8. Fai clic su Salva.

Aggiorna i dati di fatturazione Cloud da esportare

Dopo aver attivato l'esportazione dei dati di fatturazione Cloud in BigQuery, puoi modificare i dati esportati disattivando o attivando i diversi tipi.

Prima di disattivare eventuali esportazioni dei dati, consulta le limitazioni e le linee guida sulla disponibilità dei dati per conoscere l'impatto che potrebbero avere sui dati di fatturazione esportati in BigQuery.

Per disattivare un tipo di fatturazione Cloud esportato in BigQuery, procedi come segue:

  1. Seleziona Disattiva esportazione standard, Disattiva esportazione dettagliata o Disattiva esportazione dei prezzi di conseguenza.
  2. Seleziona Conferma per salvare la selezione.

Per attivare un tipo di fatturazione Cloud attualmente disattivato in BigQuery, consulta Abilita l'esportazione dei dati di fatturazione Cloud in BigQuery.

Informazioni sulle autorizzazioni del set di dati

L'esportazione della fatturazione Cloud in BigQuery utilizza un account di servizio per gestire le autorizzazioni del set di dati.

Dopo aver abilitato l'esportazione della fatturazione Cloud in BigQuery, Google aggiunge automaticamente un account di servizio come proprietario al set di dati da te specificato. Gli account di servizio hanno il seguente aspetto:

  • Per i set di dati di costo di utilizzo standard e dettagliati: billing-export-bigquery@system.gserviceaccount.com
  • Per il set di dati dei prezzi: cloud-account-pricing@cloud-account-pricing.iam.gserviceaccount.com

Google possiede e gestisce gli account di servizio che forniscono le autorizzazioni necessarie al nostro processo offline per creare una tabella e scrivervi i record di fatturazione Cloud.

Consulta le limitazioni che potrebbero influire sull'esportazione dei dati di fatturazione in BigQuery.

Tabelle di dati di fatturazione

Poco dopo aver abilitato Cloud Export in BigQuery, le tabelle di dati di fatturazione vengono create automaticamente nel set di dati BigQuery. Per ulteriori informazioni su queste tabelle BigQuery e sugli schemi delle tabelle, consulta Informazioni sulle tabelle di dati create automaticamente in BigQuery.

Frequenza di caricamento dei dati

  • Quando attivi per la prima volta l'esportazione dei costi di utilizzo o standard in BigQuery, potrebbero essere necessarie alcune ore per iniziare a visualizzare i dati di costo di Google Cloud.
  • Quando attivi per la prima volta l'esportazione dei prezzi in BigQuery, potrebbero essere necessarie fino a 48 ore per iniziare a visualizzare i dati dei prezzi di Google Cloud.

Per ulteriori informazioni sulla frequenza dei caricamenti di dati nelle tabelle di BigQuery, consulta Frequenza di caricamento dei dati.

Limitazioni

L'esportazione dei dati di fatturazione Cloud in BigQuery è soggetta alle seguenti limitazioni.

  • I tuoi set di dati BigQuery contenenti il costo di utilizzo standard e i dati sui prezzi riflettono solo i dati di fatturazione di Google Cloud sostenuti a partire dalla data di configurazione dell'esportazione della fatturazione Cloud e dopo. In altre parole, i dati di fatturazione di Google Cloud non vengono aggiunti in modo retroattivo, quindi non potrai visualizzare i dati di fatturazione Cloud prima di abilitare l'esportazione. Per maggiori dettagli, consulta la sezione Disponibilità dei dati.
  • I tuoi set di dati BigQuery contenenti dati di costo dettagliati dell'utilizzo riflettono i dati di fatturazione di Google Cloud sostenuti dall'inizio del mese precedente dalla data in cui hai abilitato l'esportazione per la prima volta, a meno che non la riattivi. In altre parole, i dati di fatturazione di Google Cloud vengono aggiunti in modo retroattivo solo per il mese corrente e quello precedente. Per maggiori dettagli, consulta la sezione Disponibilità dei dati.
  • Quando esporti dati di costo dettagliati dell'utilizzo, devi esportare in un set di dati configurato con una località con più aree geografiche, ad esempio Stati Uniti (US) o Unione europea (UE). Se selezioni un set di dati che non è una località a più aree geografiche, questo impedisce alla fatturazione Cloud di scrivere dati di fatturazione dettagliati nelle tabelle appropriate all'interno di quel set di dati.
  • Le chiavi di crittografia gestite dal cliente (CMEK) non sono supportate durante l'esportazione dei dati di fatturazione in BigQuery. Se abiliti CMEK per il tuo set di dati di dati di fatturazione, impedisci alla fatturazione Cloud di scrivere dati di fatturazione nelle tabelle appropriate all'interno del set di dati. Devi configurare il set di dati in modo da utilizzare la crittografia chiave gestita da Google.

Rapporti su costi e prezzi disponibili in Google Cloud Console