Gestione dei dati delle tabelle

Questo documento descrive come gestire i dati delle tabelle in BigQuery. Puoi lavorare con i dati delle tabelle BigQuery nei seguenti modi:

• Caricare i dati in una tabella.
• Aggiungi o sovrascrivi dati della tabella
• Sfogliare (o visualizzare l'anteprima) dei dati della tabella
• Esegui query sui dati della tabella
• Modificare i dati delle tabelle utilizzando DML (Data Manipulation Language)
• Copia i dati della tabella
• Esporta i dati della tabella

Per informazioni sulla gestione degli schemi delle tabelle, consulta Modifica degli schemi delle tabelle.

Prima di iniziare

Concedi i ruoli che concedono le autorizzazioni necessarie agli utenti che devono eseguire ciascuna attività in questo documento. Le autorizzazioni necessarie (se presenti) per eseguire un'attività sono elencate nella sezione "Autorizzazioni richieste" dell'attività.

Caricamento di dati in una tabella

Puoi caricare i dati quando crei una tabella oppure puoi creare una tabella vuota e caricare i dati in un secondo momento. Quando carichi i dati, puoi utilizzare il rilevamento automatico dello schema per i formati di dati supportati oppure puoi specificare lo schema.

Per ulteriori informazioni sul caricamento dei dati, consulta la documentazione relativa al formato e alla località dei dati di origine:

• Per saperne di più sul caricamento dei dati da Cloud Storage, consulta:

  • Caricamento di dati Avro
  • Caricamento di dati CSV
  • Caricamento di dati JSON
  • Caricamento di dati Parquet
  • Caricare dati ORC
  • Caricamento di dati dalle esportazioni di Datastore
  • Caricamento di dati dalle esportazioni di Firestore

• Per ulteriori informazioni sul caricamento di dati da un'origine locale, consulta Caricamento di dati da file locali.

Aggiunta e sovrascrittura dei dati delle tabelle

Puoi sovrascrivere i dati della tabella utilizzando un'operazione di caricamento o di query. Puoi aggiungere altri dati a una tabella esistente eseguendo un'operazione di aggiunta del carico o aggiungendo i risultati della query alla tabella.

Per ulteriori informazioni sull'aggiunta o sulla sovrascrittura di una tabella durante il caricamento dei dati, consulta la documentazione per il formato dei dati di origine:

• Aggiunta o sovrascrittura di una tabella con dati Avro
• Aggiungere o sovrascrivere una tabella con dati CSV
• Aggiunta o sovrascrittura di una tabella con dati JSON
• Aggiungere o sovrascrivere una tabella con dati Parquet
• Aggiunta o sovrascrittura di una tabella con dati ORC
• Aggiunta o sovrascrittura di una tabella con dati di Datastore

Per aggiungere o sovrascrivere una tabella utilizzando i risultati della query, specifica una tabella di destinazione e imposta l'istruzione di scrittura su:

• Aggiungi alla tabella: aggiunge i risultati della query a una tabella esistente.
• Sovrascrivi tabella: sovrascrive una tabella esistente con lo stesso nome utilizzando i risultati della query.

Puoi utilizzare la seguente query per aggiungere record da una tabella all'altra:

  INSERT INTO .. (
    ,
    ) (SELECT * FROM ..)

Per ulteriori informazioni sull'utilizzo dei risultati delle query per aggiungere o sovrascrivere dati, consulta Scrittura dei risultati delle query.

Esplorare i dati della tabella

Puoi sfogliare i dati delle tabelle per:

• Utilizzo della console Google Cloud
• Utilizzo del comando bq head dello strumento a riga di comando bq
• Chiamata al metodo API tabledata.list
• Utilizzo delle librerie client

Autorizzazioni obbligatorie

Per sfogliare i dati delle tabelle e delle partizioni, devi disporre dell'autorizzazione Identity and Access Management (IAM) di bigquery.tables.getData.

Ciascuno dei seguenti ruoli IAM predefiniti include le autorizzazioni necessarie per sfogliare i dati delle tabelle e delle partizioni:

• roles/bigquery.dataViewer
• roles/bigquery.dataEditor
• roles/bigquery.dataOwner
• roles/bigquery.admin

Se disponi dell'autorizzazione bigquery.datasets.create, puoi sfogliare i dati nelle tabelle e nelle partizioni dei set di dati che crei.

Per ulteriori informazioni su ruoli e autorizzazioni IAM in BigQuery, vedi Ruoli e autorizzazioni predefiniti.

Esplorare i dati della tabella

Per sfogliare i dati della tabella:

Console

1. Nella console Google Cloud, apri la pagina BigQuery.

   Vai a BigQuery

2. Nel riquadro Spazio di esplorazione, espandi il progetto e seleziona un set di dati.

3. Fai clic su una tabella nell'elenco.

4. Fai clic su Dettagli e prendi nota del valore in Numero di righe. Questo valore potrebbe essere necessario per controllare il punto di partenza per i risultati utilizzando l'API o lo strumento a riga di comando bq.

5. Fai clic su Anteprima. Viene visualizzato un set di dati di esempio.

   

Riga di comando

Esegui il comando bq head con il flag --max_rows per elencare tutte le colonne in un determinato numero di righe della tabella. Se --max_rows non è specificato, il valore predefinito è 100.

Per sfogliare un sottoinsieme di colonne della tabella (incluse colonne nidificate e ripetute), utilizza il flag --selected_fields e inserisci le colonne come elenco separato da virgole.

Per specificare il numero di righe da saltare prima di visualizzare i dati della tabella, utilizza il flag --start_row=integer (o la scorciatoia -s). Il valore predefinito è 0. Puoi recuperare il numero di righe in una tabella utilizzando il comando bq show per recuperare le informazioni della tabella.

Se la tabella che stai sfogliando si trova in un progetto diverso da quello predefinito, aggiungi l'ID progetto al comando nel seguente formato: project_id:dataset.table.

bq head \
--max_rows integer1 \
--start_row integer2 \
--selected_fields "columns" \
project_id:dataset.table

Dove:

• integer1 è il numero di righe da visualizzare.
• integer2 è il numero di righe da saltare prima di visualizzare i dati.
• columns è un elenco di colonne separate da virgole.
• project_id è l'ID progetto.
• dataset è il nome del set di dati contenente la tabella.
• table è il nome della tabella da sfogliare.

Esempi:

Inserisci il seguente comando per elencare tutte le colonne nelle prime 10 righe in mydataset.mytable. mydataset è nel tuo progetto predefinito.

bq head --max_rows=10 mydataset.mytable

Inserisci il seguente comando per elencare tutte le colonne nelle prime 100 righe in mydataset.mytable. mydataset si trova in myotherproject, non è il progetto predefinito.

bq head myotherproject:mydataset.mytable

Inserisci il seguente comando per visualizzare solo field1 e field2 in mydataset.mytable. Il comando utilizza il flag --start_row per passare alla riga 100. mydataset.mytable è nel tuo progetto predefinito.

bq head --start_row 100 --selected_fields "field1,field2" mydataset.mytable

Poiché il comando bq head non crea un job di query, i comandi bq head non vengono visualizzati nella cronologia delle query e non ti vengono addebitati costi.

API

Sfoglia i dati di una tabella chiamando tabledata.list. Specifica il nome della tabella nel parametro tableId.

Configura questi parametri facoltativi per controllare l'output:

• maxResults: numero massimo di risultati da restituire
• selectedFields: elenco di colonne da restituire separate da virgole; se non specificato, vengono restituite tutte le colonne
• startIndex: indice in base zero della riga iniziale da leggere

Nota: se richiedi startIndex oltre l'ultima riga, il metodo verrà restituito correttamente, ma senza una proprietà rows. Per scoprire quante righe sono presenti nella tabella, chiama il metodo tables.get ed esamina la proprietà numRows.

I valori vengono restituiti aggregati in un oggetto JSON che devi analizzare, come descritto nella documentazione di riferimento di tabledata.list.

C#

Prima di provare questo esempio, segui le istruzioni per la configurazione di C# nella guida rapida di BigQuery sull'utilizzo delle librerie client. Per maggiori informazioni, consulta la documentazione di riferimento dell'API C# di BigQuery.

Per eseguire l'autenticazione su BigQuery, configura Credenziali predefinite dell'applicazione. Per maggiori informazioni, consulta Configurare l'autenticazione per le librerie client.

using Google.Api.Gax;
using Google.Apis.Bigquery.v2.Data;
using Google.Cloud.BigQuery.V2;
using System;
using System.Linq;

public class BigQueryBrowseTable
{
    public void BrowseTable(
        string projectId = "your-project-id"
    )
    {
        BigQueryClient client = BigQueryClient.Create(projectId);
        TableReference tableReference = new TableReference()
        {
            TableId = "shakespeare",
            DatasetId = "samples",
            ProjectId = "bigquery-public-data"
        };
        // Load all rows from a table
        PagedEnumerable<TableDataList, BigQueryRow> result = client.ListRows(
            tableReference: tableReference,
            schema: null
        );
        // Print the first 10 rows
        foreach (BigQueryRow row in result.Take(10))
        {
            Console.WriteLine($"{row["corpus"]}: {row["word_count"]}");
        }
    }
}

Go

Prima di provare questo esempio, segui le istruzioni per la configurazione di Go nella guida rapida di BigQuery sull'utilizzo delle librerie client. Per maggiori informazioni, consulta la documentazione di riferimento dell'API Go di BigQuery.

Per eseguire l'autenticazione su BigQuery, configura Credenziali predefinite dell'applicazione. Per maggiori informazioni, consulta Configurare l'autenticazione per le librerie client.

Le librerie client di Cloud per Go eseguono automaticamente l'impaginazione per impostazione predefinita, quindi non è necessario implementare l'impaginazione manualmente, ad esempio:

import (
	"context"
	"fmt"
	"io"

	"cloud.google.com/go/bigquery"
	"google.golang.org/api/iterator"
)

// browseTable demonstrates reading data from a BigQuery table directly without the use of a query.
// For large tables, we also recommend the BigQuery Storage API.
func browseTable(w io.Writer, projectID, datasetID, tableID string) error {
	// projectID := "my-project-id"
	// datasetID := "mydataset"
	// tableID := "mytable"
	ctx := context.Background()
	client, err := bigquery.NewClient(ctx, projectID)
	if err != nil {
		return fmt.Errorf("bigquery.NewClient: %v", err)
	}
	defer client.Close()

	table := client.Dataset(datasetID).Table(tableID)
	it := table.Read(ctx)
	for {
		var row []bigquery.Value
		err := it.Next(&row)
		if err == iterator.Done {
			break
		}
		if err != nil {
			return err
		}
		fmt.Fprintln(w, row)
	}
	return nil
}

Java

Prima di provare questo esempio, segui le istruzioni per la configurazione di Java nella guida rapida di BigQuery sull'utilizzo delle librerie client. Per maggiori informazioni, consulta la documentazione di riferimento dell'API Java di BigQuery.

Per eseguire l'autenticazione su BigQuery, configura Credenziali predefinite dell'applicazione. Per maggiori informazioni, consulta Configurare l'autenticazione per le librerie client.

import com.google.cloud.bigquery.BigQuery;
import com.google.cloud.bigquery.BigQuery.TableDataListOption;
import com.google.cloud.bigquery.BigQueryException;
import com.google.cloud.bigquery.BigQueryOptions;
import com.google.cloud.bigquery.TableId;
import com.google.cloud.bigquery.TableResult;

// Sample to directly browse a table with optional paging
public class BrowseTable {

  public static void runBrowseTable() {
    // TODO(developer): Replace these variables before running the sample.
    String table = "MY_TABLE_NAME";
    String dataset = "MY_DATASET_NAME";
    browseTable(dataset, table);
  }

  public static void browseTable(String dataset, String table) {
    try {
      // Initialize client that will be used to send requests. This client only needs to be created
      // once, and can be reused for multiple requests.
      BigQuery bigquery = BigQueryOptions.getDefaultInstance().getService();

      // Identify the table itself
      TableId tableId = TableId.of(dataset, table);

      // Page over 100 records. If you don't need pagination, remove the pageSize parameter.
      TableResult result = bigquery.listTableData(tableId, TableDataListOption.pageSize(100));

      // Print the records
      result
          .iterateAll()
          .forEach(
              row -> {
                row.forEach(fieldValue -> System.out.print(fieldValue.toString() + ", "));
                System.out.println();
              });

      System.out.println("Query ran successfully");
    } catch (BigQueryException e) {
      System.out.println("Query failed to run \n" + e.toString());
    }
  }
}

Node.js

Prima di provare questo esempio, segui le istruzioni per la configurazione di Node.js nella guida rapida di BigQuery sull'utilizzo delle librerie client. Per maggiori informazioni, consulta la documentazione di riferimento dell'API Node.js di BigQuery.

Per eseguire l'autenticazione su BigQuery, configura Credenziali predefinite dell'applicazione. Per maggiori informazioni, consulta Configurare l'autenticazione per le librerie client.

Le librerie client di Cloud per Node.js eseguono automaticamente l'impaginazione per impostazione predefinita, quindi non è necessario implementare l'impaginazione manualmente, ad esempio:

// Import the Google Cloud client library and create a client
const {BigQuery} = require('@google-cloud/bigquery');
const bigquery = new BigQuery();

async function browseRows() {
  // Displays rows from "my_table" in "my_dataset".

  /**
   * TODO(developer): Uncomment the following lines before running the sample.
   */
  // const datasetId = "my_dataset";
  // const tableId = "my_table";

  // List rows in the table
  const [rows] = await bigquery
    .dataset(datasetId)
    .table(tableId)
    .getRows();

  console.log('Rows:');
  rows.forEach(row => console.log(row));
}

PHP

Prima di provare questo esempio, segui le istruzioni per la configurazione di PHP nella guida rapida di BigQuery sull'utilizzo delle librerie client. Per maggiori informazioni, consulta la documentazione di riferimento dell'API PHP di BigQuery.

Per eseguire l'autenticazione su BigQuery, configura Credenziali predefinite dell'applicazione. Per maggiori informazioni, consulta Configurare l'autenticazione per le librerie client.

L'impaginazione avviene automaticamente nelle librerie client di Cloud per PHP utilizzando la funzione del generatore rows, che recupera la pagina successiva di risultati durante l'iterazione.

use Google\Cloud\BigQuery\BigQueryClient;

/** Uncomment and populate these variables in your code */
// $projectId = 'The Google project ID';
// $datasetId = 'The BigQuery dataset ID';
// $tableId   = 'The BigQuery table ID';
// $maxResults = 10;

$maxResults = 10;
$startIndex = 0;

$options = [
    'maxResults' => $maxResults,
    'startIndex' => $startIndex
];
$bigQuery = new BigQueryClient([
    'projectId' => $projectId,
]);
$dataset = $bigQuery->dataset($datasetId);
$table = $dataset->table($tableId);
$numRows = 0;
foreach ($table->rows($options) as $row) {
    print('---');
    foreach ($row as $column => $value) {
        printf('%s: %s' . PHP_EOL, $column, $value);
    }
    $numRows++;
}

Python

Prima di provare questo esempio, segui le istruzioni per la configurazione di Python nella guida rapida di BigQuery sull'utilizzo delle librerie client. Per maggiori informazioni, consulta la documentazione di riferimento dell'API Python di BigQuery.

Per eseguire l'autenticazione su BigQuery, configura Credenziali predefinite dell'applicazione. Per maggiori informazioni, consulta Configurare l'autenticazione per le librerie client.

from google.cloud import bigquery

# Construct a BigQuery client object.
client = bigquery.Client()

# TODO(developer): Set table_id to the ID of the table to browse data rows.
# table_id = "your-project.your_dataset.your_table_name"

# Download all rows from a table.
rows_iter = client.list_rows(table_id)  # Make an API request.

# Iterate over rows to make the API requests to fetch row data.
rows = list(rows_iter)
print("Downloaded {} rows from table {}".format(len(rows), table_id))

# Download at most 10 rows.
rows_iter = client.list_rows(table_id, max_results=10)
rows = list(rows_iter)
print("Downloaded {} rows from table {}".format(len(rows), table_id))

# Specify selected fields to limit the results to certain columns.
table = client.get_table(table_id)  # Make an API request.
fields = table.schema[:2]  # First two columns.
rows_iter = client.list_rows(table_id, selected_fields=fields, max_results=10)
rows = list(rows_iter)
print("Selected {} columns from table {}.".format(len(rows_iter.schema), table_id))
print("Downloaded {} rows from table {}".format(len(rows), table_id))

# Print row data in tabular format.
rows = client.list_rows(table, max_results=10)
format_string = "{!s:<16} " * len(rows.schema)
field_names = [field.name for field in rows.schema]
print(format_string.format(*field_names))  # Prints column headers.
for row in rows:
    print(format_string.format(*row))  # Prints row data.

Ruby

Prima di provare questo esempio, segui le istruzioni per la configurazione di Ruby nella guida rapida di BigQuery sull'utilizzo delle librerie client. Per maggiori informazioni, consulta la documentazione di riferimento dell'API Ruby di BigQuery.

Per eseguire l'autenticazione su BigQuery, configura Credenziali predefinite dell'applicazione. Per maggiori informazioni, consulta Configurare l'autenticazione per le librerie client.

L'impaginazione avviene automaticamente nelle librerie client di Cloud per Ruby utilizzando Table#data e Data#next.

require "google/cloud/bigquery"

def browse_table
  bigquery = Google::Cloud::Bigquery.new project_id: "bigquery-public-data"
  dataset  = bigquery.dataset "samples"
  table    = dataset.table "shakespeare"

  # Load all rows from a table
  rows = table.data

  # Load the first 10 rows
  rows = table.data max: 10

  # Print row data
  rows.each { |row| puts row }
end

Esecuzione di query sui dati della tabella

Dopo aver caricato i dati in BigQuery, puoi eseguire una query sui dati utilizzando uno dei seguenti tipi di job di query:

• Job di query interattive. Per impostazione predefinita, BigQuery esegue job di query interattivi (on demand) il più presto possibile.
• Job di query in batch. Con questi job, BigQuery mette in coda ogni query batch per tuo conto e poi la avvia quando le risorse inattive sono disponibili, in genere entro pochi minuti.

Puoi eseguire job di query interattivi o in batch utilizzando i seguenti metodi:

• Scrivi ed esegui una query nella console Google Cloud.
• Esegui il comando bq query nello strumento a riga di comando bq.
• Chiama in modo programmatico il metodo jobs.query o jobs.insert nell'API REST di BigQuery.
• Utilizza le librerie client di BigQuery.

Per ulteriori informazioni sull'esecuzione di query sulle tabelle BigQuery, consulta Introduzione all'esecuzione di query sui dati BigQuery.

Oltre a eseguire query sui dati archiviati in tabelle BigQuery, puoi eseguire query su dati archiviati esternamente. Per ulteriori informazioni, consulta Introduzione alle origini dati esterne.

Modifica dei dati della tabella

Puoi modificare i dati in una tabella utilizzando le istruzioni DML (Data Manipulation Language) in SQL. Le istruzioni DML consentono di aggiornare, unire, inserire ed eliminare righe nelle tabelle. Per riferimenti sulla sintassi ed esempi per ciascun tipo di istruzione DML, vedi Istruzioni per il linguaggio di manipolazione dei dati in GoogleSQL.

Il dialetto SQL precedente non supporta le istruzioni DML. Per aggiornare o eliminare dati utilizzando SQL precedente, devi eliminare la tabella e poi ricrearla con nuovi dati. In alternativa, puoi scrivere una query che modifichi i dati e scriverne i risultati in una nuova tabella di destinazione.

Copia dei dati della tabella in corso...

Puoi copiare una tabella in uno dei seguenti modi:

• Utilizzo della console Google Cloud
• Utilizzo del comando bq cp dello strumento a riga di comando bq
• Chiamare il metodo API jobs.insert e configurare un job di copia
• Utilizzo delle librerie client

Per saperne di più sulla copia delle tabelle, consulta Copia di una tabella.

Esportazione dei dati delle tabelle

Puoi esportare i dati della tabella in un bucket Cloud Storage in formato CSV, JSON, Avro o Parquet (anteprima). L'esportazione nella tua macchina locale non è supportata; tuttavia, puoi scaricare e salvare i risultati delle query utilizzando la console Google Cloud.

Per ulteriori informazioni, vedi Esportazione dei dati di una tabella.

Sicurezza dei tavoli

Per controllare l'accesso alle tabelle in BigQuery, consulta Introduzione ai controlli di accesso alle tabelle.

Passaggi successivi

• Per ulteriori informazioni sul caricamento dei dati, consulta Introduzione al caricamento dei dati.
• Per ulteriori informazioni sull'esecuzione di query sui dati, consulta Introduzione all'esecuzione di query sui dati di BigQuery.
• Per saperne di più sulla modifica degli schemi delle tabelle, consulta Modifica degli schemi delle tabelle.
• Per saperne di più sulla creazione e sull'utilizzo delle tabelle, consulta Creare e utilizzare le tabelle.
• Per saperne di più sulla gestione delle tabelle, vedi Gestire le tabelle.