Gestione dei dati delle tabelle

Questo documento descrive come gestire i dati delle tabelle in BigQuery. Puoi lavorare con i dati delle tabelle BigQuery nei seguenti modi:

• Caricare i dati in una tabella.
• Aggiungere o sovrascrivere i dati della tabella
• Sfogliare (o visualizzare l'anteprima) dei dati delle tabelle
• Esegui query sui dati della tabella
• Modificare i dati delle tabelle utilizzando il Data Manipulation Language (DML)
• Copia i dati della tabella
• Esporta dati tabella

Per informazioni sulla gestione degli schemi delle tabelle, consulta Modifica degli schemi delle tabelle.

Prima di iniziare

Concedi ruoli che concedono le autorizzazioni necessarie agli utenti che devono eseguire ogni attività in questo documento. Le eventuali autorizzazioni necessarie per eseguire un'attività sono elencate nella sezione "Autorizzazioni richieste" dell'attività.

Caricamento di dati in una tabella

Puoi caricare i dati quando crei una tabella oppure creare una tabella vuota e caricare i dati in un secondo momento. Quando carichi i dati, puoi utilizzare il rilevamento automatico dello schema per i formati di dati supportati oppure puoi specificare lo schema.

Per ulteriori informazioni sul caricamento dei dati, consulta la documentazione relativa al formato e alla posizione dei dati di origine:

• Per ulteriori informazioni sul caricamento dei dati da Cloud Storage, vedi:

  • Caricamento dati Avro
  • Caricamento dei dati CSV
  • Caricamento di dati JSON
  • Caricamento dei dati Parquet
  • Caricamento dati ORC
  • Caricamento dei dati dalle esportazioni di Datastore
  • Caricamento di dati dalle esportazioni di Firestore

• Per saperne di più sul caricamento dei dati da un'origine locale, consulta Caricamento di dati da file locali.

Aggiunta e sovrascrittura dei dati della tabella

Puoi sovrascrivere i dati della tabella utilizzando un'operazione di caricamento o di query. Puoi aggiungere ulteriori dati a una tabella esistente eseguendo un'operazione di caricamento di accodamento o aggiungendo i risultati della query alla tabella.

Per saperne di più su come aggiungere o sovrascrivere una tabella durante il caricamento dei dati, consulta la documentazione relativa al formato dei dati di origine:

• Aggiungere o sovrascrivere una tabella con dati Avro
• Aggiungere o sovrascrivere una tabella con dati CSV
• Aggiungere o sovrascrivere una tabella con dati JSON
• Aggiungere o sovrascrivere una tabella con dati Parquet
• Aggiungere o sovrascrivere una tabella con dati ORC
• Aggiunta o sovrascrittura di una tabella con dati Datastore

Per aggiungere o sovrascrivere una tabella utilizzando i risultati della query, specifica una tabella di destinazione e imposta la disposizione di scrittura su:

• Aggiungi alla tabella: aggiunge i risultati della query a una tabella esistente.
• Sovrascrivi tabella: sovrascrive una tabella esistente con lo stesso nome utilizzando i risultati della query.

Puoi utilizzare la seguente query per aggiungere record da una tabella a un'altra:

  INSERT INTO .. (
    ,
    ) (SELECT * FROM ..)

Per ulteriori informazioni sull'utilizzo dei risultati delle query per aggiungere o sovrascrivere i dati, consulta Scrittura dei risultati delle query.

Dati delle tabelle di navigazione

Puoi sfogliare i dati della tabella per:

• Utilizzo della console Google Cloud
• Utilizzo del comando bq head dello strumento a riga di comando bq
• Chiamare il metodo API tabledata.list
• Utilizzo delle librerie client

Autorizzazioni obbligatorie

Per sfogliare i dati di una tabella e di partizionare, devi disporre dell'autorizzazione Identity and Access Management (IAM) di bigquery.tables.getData.

Ciascuno dei seguenti ruoli IAM predefiniti include le autorizzazioni necessarie per sfogliare i dati della tabella e eseguire la partizione:

• roles/bigquery.dataViewer
• roles/bigquery.dataEditor
• roles/bigquery.dataOwner
• roles/bigquery.admin

Se disponi dell'autorizzazione bigquery.datasets.create, puoi sfogliare i dati nelle tabelle e nelle partizioni dei set di dati che crei.

Per ulteriori informazioni su ruoli e autorizzazioni IAM in BigQuery, consulta Autorizzazioni e ruoli predefiniti.

Dati delle tabelle di navigazione

Per sfogliare i dati della tabella:

Console

1. Nella console Google Cloud, apri la pagina BigQuery.

   Vai a BigQuery

2. Nel riquadro Spazio di esplorazione, espandi il progetto e seleziona un set di dati.

3. Fai clic su una tabella nell'elenco.

4. Fai clic su Dettagli e prendi nota del valore in Numero di righe. Questo valore potrebbe essere necessario per controllare il punto di partenza per i risultati utilizzando l'API o lo strumento a riga di comando bq.

5. Fai clic su Anteprima. Viene visualizzato un set di dati di esempio.

   

Riga di comando

Esegui il comando bq head con il flag --max_rows per visualizzare l'elenco di tutte le colonne in un determinato numero di righe della tabella. Se --max_rows non è specificato, il valore predefinito è 100.

Per sfogliare un sottoinsieme di colonne nella tabella (incluse le colonne nidificate e ripetute), utilizza il flag --selected_fields e inserisci le colonne come elenco separato da virgole.

Per specificare il numero di righe da saltare prima di visualizzare i dati della tabella, utilizza il flag --start_row=integer (o la scorciatoia -s). Il valore predefinito è 0. Puoi recuperare il numero di righe in una tabella utilizzando il comando bq show per recuperare le informazioni sulla tabella.

Se la tabella che stai sfogliando si trova in un progetto diverso da quello predefinito, aggiungi l'ID progetto al comando nel seguente formato: project_id:dataset.table.

bq head \
--max_rows integer1 \
--start_row integer2 \
--selected_fields "columns" \
project_id:dataset.table

Dove:

• integer1 è il numero di righe da visualizzare.
• integer2 è il numero di righe da saltare prima di visualizzare i dati.
• columns è un elenco di colonne separate da virgole.
• project_id è l'ID progetto.
• dataset è il nome del set di dati contenente la tabella.
• table è il nome della tabella da sfogliare.

Esempi:

Inserisci il seguente comando per elencare tutte le colonne nelle prime 10 righe in mydataset.mytable. mydataset è nel tuo progetto predefinito.

bq head --max_rows=10 mydataset.mytable

Inserisci il seguente comando per elencare tutte le colonne nelle prime 100 righe in mydataset.mytable. mydataset si trova in myotherproject, non è il tuo progetto predefinito.

bq head myotherproject:mydataset.mytable

Inserisci il seguente comando per visualizzare solo field1 e field2 in mydataset.mytable. Il comando utilizza il flag --start_row per passare alla riga 100. mydataset.mytable è nel tuo progetto predefinito.

bq head --start_row 100 --selected_fields "field1,field2" mydataset.mytable

Poiché il comando bq head non crea un job di query, i comandi bq head non vengono visualizzati nella cronologia delle query e non ti vengono addebitati.

API

Sfoglia i dati di una tabella chiamando tabledata.list. Specifica il nome della tabella nel parametro tableId.

Configura questi parametri facoltativi per controllare l'output:

• maxResults: numero massimo di risultati da restituire
• selectedFields: elenco separato da virgole di colonne da restituire; se non specificato, vengono restituite tutte le colonne
• startIndex: indice in base zero della riga iniziale da leggere

Nota: se richiedi un startIndex oltre l'ultima riga, il metodo verrà restituito correttamente, ma senza una proprietà rows. Per sapere quante righe sono presenti nella tabella, chiama il metodo tables.get ed esamina la proprietà numRows.

I valori vengono restituiti aggregati in un oggetto JSON che devi analizzare, come descritto nella documentazione di riferimento di tabledata.list.

C#

Prima di provare questo esempio, segui le istruzioni di configurazione di C# disponibili nella guida rapida di BigQuery sull'utilizzo delle librerie client. Per saperne di più, consulta la documentazione di riferimento dell'API BigQuery C#.

Per eseguire l'autenticazione in BigQuery, configura Credenziali predefinite dell'applicazione. Per maggiori informazioni, consulta Configurare l'autenticazione per le librerie client.

using Google.Api.Gax;
using Google.Apis.Bigquery.v2.Data;
using Google.Cloud.BigQuery.V2;
using System;
using System.Linq;

public class BigQueryBrowseTable
{
    public void BrowseTable(
        string projectId = "your-project-id"
    )
    {
        BigQueryClient client = BigQueryClient.Create(projectId);
        TableReference tableReference = new TableReference()
        {
            TableId = "shakespeare",
            DatasetId = "samples",
            ProjectId = "bigquery-public-data"
        };
        // Load all rows from a table
        PagedEnumerable<TableDataList, BigQueryRow> result = client.ListRows(
            tableReference: tableReference,
            schema: null
        );
        // Print the first 10 rows
        foreach (BigQueryRow row in result.Take(10))
        {
            Console.WriteLine($"{row["corpus"]}: {row["word_count"]}");
        }
    }
}

Go

Prima di provare questo esempio, segui le istruzioni di configurazione di Go disponibili nella guida rapida di BigQuery sull'utilizzo delle librerie client. Per saperne di più, consulta la documentazione di riferimento dell'API BigQuery Go.

Per eseguire l'autenticazione in BigQuery, configura Credenziali predefinite dell'applicazione. Per maggiori informazioni, consulta Configurare l'autenticazione per le librerie client.

Le librerie client di Cloud per Go impaginano automaticamente l'impaginazione per impostazione predefinita, quindi non devi implementare personalmente l'impaginazione, ad esempio:

import (
	"context"
	"fmt"
	"io"

	"cloud.google.com/go/bigquery"
	"google.golang.org/api/iterator"
)

// browseTable demonstrates reading data from a BigQuery table directly without the use of a query.
// For large tables, we also recommend the BigQuery Storage API.
func browseTable(w io.Writer, projectID, datasetID, tableID string) error {
	// projectID := "my-project-id"
	// datasetID := "mydataset"
	// tableID := "mytable"
	ctx := context.Background()
	client, err := bigquery.NewClient(ctx, projectID)
	if err != nil {
		return fmt.Errorf("bigquery.NewClient: %v", err)
	}
	defer client.Close()

	table := client.Dataset(datasetID).Table(tableID)
	it := table.Read(ctx)
	for {
		var row []bigquery.Value
		err := it.Next(&row)
		if err == iterator.Done {
			break
		}
		if err != nil {
			return err
		}
		fmt.Fprintln(w, row)
	}
	return nil
}

Java

Prima di provare questo esempio, segui le istruzioni di configurazione di Java disponibili nella guida rapida di BigQuery sull'utilizzo delle librerie client. Per saperne di più, consulta la documentazione di riferimento dell'API BigQuery Java.

Per eseguire l'autenticazione in BigQuery, configura Credenziali predefinite dell'applicazione. Per maggiori informazioni, consulta Configurare l'autenticazione per le librerie client.

import com.google.cloud.bigquery.BigQuery;
import com.google.cloud.bigquery.BigQuery.TableDataListOption;
import com.google.cloud.bigquery.BigQueryException;
import com.google.cloud.bigquery.BigQueryOptions;
import com.google.cloud.bigquery.TableId;
import com.google.cloud.bigquery.TableResult;

// Sample to directly browse a table with optional paging
public class BrowseTable {

  public static void runBrowseTable() {
    // TODO(developer): Replace these variables before running the sample.
    String table = "MY_TABLE_NAME";
    String dataset = "MY_DATASET_NAME";
    browseTable(dataset, table);
  }

  public static void browseTable(String dataset, String table) {
    try {
      // Initialize client that will be used to send requests. This client only needs to be created
      // once, and can be reused for multiple requests.
      BigQuery bigquery = BigQueryOptions.getDefaultInstance().getService();

      // Identify the table itself
      TableId tableId = TableId.of(dataset, table);

      // Page over 100 records. If you don't need pagination, remove the pageSize parameter.
      TableResult result = bigquery.listTableData(tableId, TableDataListOption.pageSize(100));

      // Print the records
      result
          .iterateAll()
          .forEach(
              row -> {
                row.forEach(fieldValue -> System.out.print(fieldValue.toString() + ", "));
                System.out.println();
              });

      System.out.println("Query ran successfully");
    } catch (BigQueryException e) {
      System.out.println("Query failed to run \n" + e.toString());
    }
  }
}

Node.js

Prima di provare questo esempio, segui le istruzioni di configurazione di Node.js disponibili nella guida rapida di BigQuery sull'utilizzo delle librerie client. Per saperne di più, consulta la documentazione di riferimento dell'API BigQuery Node.js.

Per eseguire l'autenticazione in BigQuery, configura Credenziali predefinite dell'applicazione. Per maggiori informazioni, consulta Configurare l'autenticazione per le librerie client.

Le librerie client Cloud per Node.js impaginano automaticamente l'impaginazione per impostazione predefinita, quindi non devi implementare personalmente l'impaginazione, ad esempio:

// Import the Google Cloud client library and create a client
const {BigQuery} = require('@google-cloud/bigquery');
const bigquery = new BigQuery();

async function browseRows() {
  // Displays rows from "my_table" in "my_dataset".

  /**
   * TODO(developer): Uncomment the following lines before running the sample.
   */
  // const datasetId = "my_dataset";
  // const tableId = "my_table";

  // List rows in the table
  const [rows] = await bigquery
    .dataset(datasetId)
    .table(tableId)
    .getRows();

  console.log('Rows:');
  rows.forEach(row => console.log(row));
}

PHP

Prima di provare questo esempio, segui le istruzioni di configurazione di PHP disponibili nella guida rapida di BigQuery sull'utilizzo delle librerie client. Per saperne di più, consulta la documentazione di riferimento dell'API BigQuery PHP.

Per eseguire l'autenticazione in BigQuery, configura Credenziali predefinite dell'applicazione. Per maggiori informazioni, consulta Configurare l'autenticazione per le librerie client.

L'impaginazione avviene automaticamente nelle librerie client di Cloud per PHP mediante la funzione generatore rows, che recupera la pagina dei risultati successiva durante l'iterazione.

use Google\Cloud\BigQuery\BigQueryClient;

/** Uncomment and populate these variables in your code */
// $projectId = 'The Google project ID';
// $datasetId = 'The BigQuery dataset ID';
// $tableId   = 'The BigQuery table ID';
// $maxResults = 10;

$maxResults = 10;
$startIndex = 0;

$options = [
    'maxResults' => $maxResults,
    'startIndex' => $startIndex
];
$bigQuery = new BigQueryClient([
    'projectId' => $projectId,
]);
$dataset = $bigQuery->dataset($datasetId);
$table = $dataset->table($tableId);
$numRows = 0;
foreach ($table->rows($options) as $row) {
    print('---');
    foreach ($row as $column => $value) {
        printf('%s: %s' . PHP_EOL, $column, $value);
    }
    $numRows++;
}

Python

Prima di provare questo esempio, segui le istruzioni di configurazione di Python disponibili nella guida rapida di BigQuery sull'utilizzo delle librerie client. Per saperne di più, consulta la documentazione di riferimento dell'API BigQuery Python.

Per eseguire l'autenticazione in BigQuery, configura Credenziali predefinite dell'applicazione. Per maggiori informazioni, consulta Configurare l'autenticazione per le librerie client.

from google.cloud import bigquery

# Construct a BigQuery client object.
client = bigquery.Client()

# TODO(developer): Set table_id to the ID of the table to browse data rows.
# table_id = "your-project.your_dataset.your_table_name"

# Download all rows from a table.
rows_iter = client.list_rows(table_id)  # Make an API request.

# Iterate over rows to make the API requests to fetch row data.
rows = list(rows_iter)
print("Downloaded {} rows from table {}".format(len(rows), table_id))

# Download at most 10 rows.
rows_iter = client.list_rows(table_id, max_results=10)
rows = list(rows_iter)
print("Downloaded {} rows from table {}".format(len(rows), table_id))

# Specify selected fields to limit the results to certain columns.
table = client.get_table(table_id)  # Make an API request.
fields = table.schema[:2]  # First two columns.
rows_iter = client.list_rows(table_id, selected_fields=fields, max_results=10)
rows = list(rows_iter)
print("Selected {} columns from table {}.".format(len(rows_iter.schema), table_id))
print("Downloaded {} rows from table {}".format(len(rows), table_id))

# Print row data in tabular format.
rows = client.list_rows(table, max_results=10)
format_string = "{!s:<16} " * len(rows.schema)
field_names = [field.name for field in rows.schema]
print(format_string.format(*field_names))  # Prints column headers.
for row in rows:
    print(format_string.format(*row))  # Prints row data.

Ruby

Prima di provare questo esempio, segui le istruzioni di configurazione di Ruby disponibili nella guida rapida di BigQuery sull'utilizzo delle librerie client. Per saperne di più, consulta la documentazione di riferimento dell'API BigQuery Ruby.

Per eseguire l'autenticazione in BigQuery, configura Credenziali predefinite dell'applicazione. Per maggiori informazioni, consulta Configurare l'autenticazione per le librerie client.

L'impaginazione viene eseguita automaticamente nelle librerie client di Cloud per Ruby utilizzando Table#data e Data#next.

require "google/cloud/bigquery"

def browse_table
  bigquery = Google::Cloud::Bigquery.new project_id: "bigquery-public-data"
  dataset  = bigquery.dataset "samples"
  table    = dataset.table "shakespeare"

  # Load all rows from a table
  rows = table.data

  # Load the first 10 rows
  rows = table.data max: 10

  # Print row data
  rows.each { |row| puts row }
end

Esecuzione di query sui dati delle tabelle

Dopo aver caricato i dati in BigQuery, puoi eseguire query sui dati utilizzando uno dei seguenti tipi di job:

• Job di query interattivi: Per impostazione predefinita, BigQuery esegue job di query interattivi (on demand) il prima possibile.
• Job di query batch: Con questi job, BigQuery mette in coda ogni query batch per tuo conto e quindi avvia la query quando sono disponibili risorse inattive, solitamente entro pochi minuti.

Puoi eseguire job di query interattivi o batch utilizzando i seguenti metodi:

• Scrivi ed esegui una query nella console Google Cloud.
• Esegui il comando bq query nello strumento a riga di comando bq.
• Chiama in modo programmatico il metodo jobs.query o jobs.insert nell'API REST BigQuery.
• Utilizzare le librerie client di BigQuery.

Per ulteriori informazioni sull'esecuzione di query sulle tabelle BigQuery, consulta Introduzione all'esecuzione delle query sui dati di BigQuery.

Oltre a eseguire query sui dati archiviati nelle tabelle BigQuery, puoi eseguire query sui dati archiviati esternamente. Per ulteriori informazioni, consulta Introduzione alle origini dati esterne.

Modifica dei dati della tabella

Puoi modificare i dati in una tabella utilizzando le istruzioni DML (Data Manipulation Language) in SQL. Le istruzioni DML consentono di aggiornare, unire, inserire ed eliminare righe nelle tabelle. Per riferimenti alla sintassi ed esempi di ogni tipo di istruzione DML, consulta Istruzioni relative al linguaggio di manipolazione dei dati in GoogleSQL.

Il dialetto SQL precedente non supporta le istruzioni DML. Per aggiornare o eliminare i dati utilizzando SQL precedente, devi eliminare la tabella e ricrearla con nuovi dati. In alternativa, puoi scrivere una query che modifichi i dati e scrivere i risultati in una nuova tabella di destinazione.

Copia dei dati della tabella in corso...

Per copiare una tabella:

• Utilizzo della console Google Cloud
• Utilizzo del comando bq cp dello strumento a riga di comando bq
• Chiamata al metodo API jobs.insert e configurazione di un job di copia
• Utilizzo delle librerie client

Per saperne di più sulla copia delle tabelle, vedi Copiare una tabella.

Esportazione dei dati delle tabelle

Puoi esportare i dati delle tabelle in un bucket Cloud Storage in formato CSV, JSON, Avro o Parquet (anteprima). L'esportazione sulla tua macchina locale non è supportata, ma puoi scaricare e salvare i risultati delle query utilizzando la console Google Cloud.

Per ulteriori informazioni, vedi Esportazione dei dati delle tabelle.

Sicurezza della tabella

Per controllare l'accesso alle tabelle in BigQuery, consulta Introduzione ai controlli di accesso alle tabelle.

Passaggi successivi

• Per ulteriori informazioni sul caricamento dei dati, consulta Introduzione al caricamento dei dati.
• Per ulteriori informazioni sull'esecuzione di query sui dati, consulta Introduzione all'esecuzione di query sui dati di BigQuery.
• Per ulteriori informazioni sulla modifica degli schemi delle tabelle, consulta Modifica degli schemi delle tabelle.
• Per saperne di più sulla creazione e sull'utilizzo delle tabelle, consulta Creazione e utilizzo delle tabelle.
• Per saperne di più sulla gestione delle tabelle, vedi Gestione delle tabelle.