Especifica un esquema
BigQuery te permite especificar el esquema de una tabla cuando cargas datos en una tabla y cuando creas una tabla vacía. Como alternativa, puedes usar la detección automática de esquemas para los formatos de datos compatibles.
Cuando cargas archivos de exportación de Avro, Parquet, ORC, Firestore o archivos de exportación de Datastore, el esquema se recupera de manera automática a partir de los datos de origen autodescriptivos.
Puedes especificar el esquema de una tabla de las siguientes maneras:
- Uso de consola de Google Cloud.
- Usa la instrucción de SQL
CREATE TABLE
- Intercala mediante la herramienta de línea de comandos de
bq
- Crea un archivo de esquema en formato JSON.
- Realiza una llamada al método
jobs.insert
y configura la propiedadschema
en la configuración de trabajoload
. - Realiza una llamada al método
tables.insert
y configura el esquema en el recurso de tabla con la propiedadschema
.
Después de cargar datos o crear una tabla vacía, puedes modificar la definición de esquema de la tabla.
Componentes de esquema
Cuando especificas un esquema de tabla, debes proporcionar el nombre y el tipo de datos de cada columna. También puedes proporcionar la descripción, el modo y el valor predeterminado de una columna.
Nombres de columnas
El nombre de una columna puede contener letras (a-z, A-Z), números (0-9) o guiones bajos (_), y debe comenzar con una letra o guion bajo. Para obtener una compatibilidad más flexible con los nombres de columnas, consulta nombres flexibles de columnas.
Los nombres de las columnas tienen una longitud máxima de 300 caracteres. No se puede usar ninguno de los siguientes prefijos para los nombres de columna:
_TABLE_
_FILE_
_PARTITION
_ROW_TIMESTAMP
__ROOT__
_COLIDENTIFIER
No se permiten nombres de columna duplicados, incluso si difieren las mayúsculas y minúsculas. Por ejemplo, una columna llamada Column1
se considera idéntica a una columna con el nombre column1
. Si deseas obtener más información sobre las reglas de nombres de columnas, consulta Nombres de columnas en la referencia de Google SQL.
Nombres flexibles de columnas
Ahora tiene más flexibilidad en los nombres de las columnas, incluido el acceso expandido a caracteres en otros idiomas además del inglés, así como símbolos adicionales.
Los nombres flexibles de las columnas admiten los siguientes caracteres:
- Cualquier letra en cualquier lenguaje, como lo representa la expresión regular Unicode
\p{L}
. - Cualquier carácter numérico en cualquier lenguaje representado por la expresión regular Unicode
\p{N}
. - Cualquier carácter de puntuación de conector, incluidos los guiones bajos, como lo representa la expresión regular Unicode
\p{Pc}
. - Un guion o raya como se representa mediante la expresión regular Unicode
\p{Pd}
. - Cualquier marca destinada a acompañar otro carácter, como lo representa la expresión regular Unicode
\p{M}
. Por ejemplo, los acentos, las diéresis o los cuadros de cierre. - Los siguientes caracteres especiales:
- Un signo et (
&
) representado por la expresión regular Unicode\u0026
. - Un signo de porcentaje (
%
) representado por la expresión regular Unicode\u0025
. - Un signo igual (
=
) representado por la expresión regular Unicode\u003D
. - Un signo más (
+
) representado por la expresión regular Unicode\u002B
. - Los dos puntos (
:
) que representa la expresión regular Unicode\u003A
- Un apóstrofo (
'
) representado por la expresión regular Unicode\u0027
. - Un signo menor que (
<
) representado por la expresión regular Unicode\u003C
. - Un signo mayor que (
>
) representado por la expresión regular Unicode\u003E
. - Un signo de número (
#
) representado por la expresión regular Unicode\u0023
. - Una línea vertical (
|
) representada por la expresión regular Unicode\u007c
- Espacio en blanco.
- Un signo et (
Los nombres flexibles de columnas no son compatibles con los siguientes caracteres especiales:
- Un signo de exclamación (
!
) representado por la expresión regular Unicode\u0021
. - Una comilla (
"
) representada por la expresión regular Unicode\u0022
. - Un signo de dólar (
$
) representado por la expresión regular Unicode\u0024
. - Un paréntesis de apertura (
(
) representado por la expresión regular Unicode\u0028
. - Un paréntesis de cierre (
)
) representado por la expresión regular Unicode\u0029
. - Un asterisco (
*
) representado por la expresión regular Unicode\u002A
. - Una coma (
,
) representada por la expresión regular Unicode\u002C
. - Un punto (
.
) representado por la expresión regular Unicode\u002E
. - Una barra (
/
) representada por la expresión regular Unicode\u002F
. - Un punto y coma (
;
) representado por la expresión regular Unicode\u003B
. - Un signo de interrogación (
?
) representado por la expresión regular Unicode\u003F
. - Una arroba (
@
) representada por la expresión regular Unicode\u0040
. - Un corchete de apertura (
[
) representado por la expresión regular Unicode\u005B
. - Una barra inversa (
\
) representada por la expresión regular Unicode\u005C
. - Un corchete de cierre (
]
) representado por la expresión regular Unicode\u005D
. - Un acento circunflejo (
^
) representado por la expresión regular Unicode\u005E
. - Un acento grave (
`
) representado por la expresión regular Unicode\u0060
. - Una llave de apertura (
{
) representada por la expresión regular Unicode\u007B
. - Una llave de cierre (
}
) representada por la expresión regular Unicode\u007D
. - Una virgulilla (
~
) representada por la expresión regular Unicode\u007E
.
Para obtener lineamientos adicionales, consulta Nombres de columnas.
Los caracteres expandidos de columna son compatibles con la API de BigQuery Storage Read y la API de BigQuery Storage Write.
Para usar la lista expandida de caracteres Unicode con la API de lectura de almacenamiento de BigQuery, debes establecer una marca. Puedes usar el atributo displayName
para recuperar el nombre de la columna. En el siguiente ejemplo, se muestra cómo configurar una marca con el cliente de Python:
from google.cloud.bigquery_storage import types
requested_session = types.ReadSession()
#set avro serialization options for flexible column.
options = types.AvroSerializationOptions()
options.enable_display_name_attribute = True
requested_session.read_options.avro_serialization_options = options
Para usar la lista expandida de caracteres Unicode con la API de BigQuery Storage Write, debes proporcionar el esquema con la notación column_name
, a menos que uses el objeto de escritor JsonStreamWriter
. En el siguiente ejemplo, se muestra cómo proporcionar el esquema:
syntax = "proto2";
package mypackage;
// Source protos located in github.com/googleapis/googleapis
import "google/cloud/bigquery/storage/v1/annotations.proto";
message FlexibleSchema {
optional string item_name_column = 1
[(.google.cloud.bigquery.storage.v1.column_name) = "name-列"];
optional string item_description_column = 2
[(.google.cloud.bigquery.storage.v1.column_name) = "description-列"];
}
En este ejemplo, item_name_column
y item_description_column
son nombres de marcadores de posición que deben cumplir con la convención de nombres del búfer de protocolo. Ten en cuenta que la anotación column_name
siempre tendrá prioridad sobre el nombre marcador de posición.
- La carga de datos de Parquet no admite nombres flexibles de columnas de forma predeterminada. Para inscribirte en esta vista previa, completa el formulario de inscripción.
- La carga de datos CSV con la detección automática de esquemas no es compatible con los nombres flexibles de columnas de forma predeterminada. Para inscribirte en esta vista previa, completa el formulario de inscripción.
Los siguientes nombres de columna Unicode no son compatibles con las siguientes funciones de BigQuery:
Descripciones de columnas
Cada columna puede incluir una descripción opcional. La descripción es una string con una longitud máxima de 1,024 caracteres.
Valores predeterminados
El valor predeterminado para una columna debe ser un literal o una de las siguientes funciones:
CURRENT_DATE
CURRENT_DATETIME
CURRENT_TIME
CURRENT_TIMESTAMP
GENERATE_UUID
RAND
SESSION_USER
ST_GEOGPOINT
Tipos de datos de GoogleSQL
GoogleSQL te permite especificar los siguientes tipos de datos en tu esquema. El tipo de datos es obligatorio.
Nombre | Tipo de datos | Descripción |
---|---|---|
Número entero | INT64 |
Valores numéricos sin componentes fraccionales |
Punto flotante | FLOAT64 |
Valores numéricos aproximados con componentes fraccionales |
Numérico | NUMERIC |
Valores numéricos exactos con componentes fraccionales |
BigNumeric | BIGNUMERIC |
Valores numéricos exactos con componentes fraccionales |
Booleano | BOOL |
TRUE o FALSE (distinción entre mayúsculas y minúsculas) |
String | STRING |
Datos de caracteres de longitud variable (Unicode) |
Bytes | BYTES |
Datos binarios de longitud variable |
Fecha | DATE |
Fecha del calendario lógica |
fecha/hora | DATETIME |
Año, mes, día, hora, minuto, segundo y tiempo menor que un segundo |
Hora | TIME |
Hora, independiente de una fecha específica |
Marca de tiempo | TIMESTAMP |
Momento determinado absoluto con precisión de microsegundos |
Estructura (registro) | STRUCT |
Contenedor de campos ordenados, cada uno con un tipo (obligatorio) y un nombre de campo (opcional) |
Datos geográficos | GEOGRAPHY |
Conjunto de puntos en la superficie de la Tierra (un conjunto de puntos, líneas y polígonos en el esferoide de referencia WGS84, con bordes geodésicos) |
JSON | JSON |
Representa JSON, un formato ligero de intercambio de datos |
Para obtener más información sobre los tipos de datos en GoogleSQL, consulta Tipos de datos de GoogleSQL.
También puedes declarar un tipo de arreglo cuando consultas datos. Para obtener más información, consulta Cómo trabajar con arreglos.
Modos
BigQuery admite los siguientes modos para tus columnas. El modo es opcional. Si no se especifica el modo, la columna predeterminada es NULLABLE
.
Modo | Descripción |
---|---|
Anulable | La columna permite valores NULL (predeterminado) |
Obligatorio | No se permiten valores NULL |
Repetido | La columna contiene un arreglo de valores del tipo especificado |
Para obtener más información sobre los modos, consulta mode
en TableFieldSchema
.
Modo de redondeo
Cuando una columna es un tipo NUMERIC
o BIGNUMERIC
, puedes configurar la opción de columna rounding_mode
, que determina cómo se redondean los valores de esa columna cuando se escriben en la tabla. Puedes configurar la opción rounding_mode
en una columna de nivel superior o en un campo STRUCT
. Se admiten los siguientes modos de redondeo:
"ROUND_HALF_AWAY_FROM_ZERO"
: Este modo (predeterminado) redondea los casos medios en dirección opuesta al cero."ROUND_HALF_EVEN"
: Este modo redondea casos de punto medio hacia el dígito par más cercano.
No puedes configurar la opción rounding_mode
para una columna que no sea de tipo NUMERIC
ni BIGNUMERIC
. Para obtener más información sobre estos tipos, consulta los tipos decimales.
En el siguiente ejemplo, se crea una tabla y se insertan valores que se redondean según el modo de redondeo de la columna:
CREATE TABLE mydataset.mytable ( x NUMERIC(5,2) OPTIONS (rounding_mode='ROUND_HALF_EVEN'), y NUMERIC(5,2) OPTIONS (rounding_mode='ROUND_HALF_AWAY_FROM_ZERO') ); INSERT mydataset.mytable (x, y) VALUES (NUMERIC "1.025", NUMERIC "1.025"), (NUMERIC "1.0251", NUMERIC "1.0251"), (NUMERIC "1.035", NUMERIC "1.035"), (NUMERIC "-1.025", NUMERIC "-1.025");
La tabla mytable
tiene el siguiente aspecto:
+-------+-------+ | x | y | +-------+-------+ | 1.02 | 1.03 | | 1.03 | 1.03 | | 1.04 | 1.04 | | -1.02 | -1.03 | +-------+-------+
Para obtener más información, consulta roundingMode
en TableFieldSchema
.
Especifica esquemas
Cuando cargas datos o creas una tabla vacía, puedes especificar el esquema de la tabla mediante la consola de Google Cloud o la herramienta de línea de comandos de bq
. La especificación de un esquema se admite cuando se cargan archivos CSV y JSON (delimitados por saltos de línea). Cuando cargas datos de exportación de Avro, Parquet, ORC, Firestore o datos de exportación de Datastore, el esquema se recupera de forma automática partir de los datos de origen autodescriptivos.
Para especificar un esquema de tabla, sigue estos pasos:
Consola
En la consola de Google Cloud, puedes especificar un esquema mediante las opciones Agregar campo o Editar como texto.
En la consola de Google Cloud, abre la página de BigQuery.
En el panel Explorador, expande tu proyecto y selecciona un conjunto de datos.
Expande la opción Acciones
y haz clic en Abrir.En el panel de detalles, haz clic en Crear tabla
(Create table).En la página Crear tabla, en la sección Origen, selecciona Tabla vacía.
En la página Crear tabla, en la sección Destino (Destination), realiza lo siguiente:
En Dataset name (Nombre del conjunto de datos), selecciona el conjunto de datos correspondiente.
En el campo Nombre de tabla, ingresa el nombre de la tabla que quieres crear.
Verifica que Tipo de tabla (Table type) esté configurado como Tabla nativa (Native table).
En la sección Esquema, ingresa la definición del esquema.
- Opción 1: usa Agregar campo y especifica el nombre, el tipo y el modo de cada campo.
- Opción 2: Haz clic en Editar como texto y pega el esquema en forma de array de JSON. Cuando usas un arreglo JSON, generas el esquema mediante el mismo proceso que se usa para crear un archivo de esquema JSON.
Haz clic en Crear tabla.
SQL
Usa la sentencia CREATE TABLE
.
Especifica el esquema con la opción de columna.
En el siguiente ejemplo, se crea una tabla nueva llamada newtable
con las columnas x, y, z, cuyos tipos son número entero, string y booleano:
En la consola de Google Cloud, ve a la página de BigQuery.
En el editor de consultas, ingresa la siguiente sentencia:
CREATE TABLE IF NOT EXISTS mydataset.newtable (x INT64, y STRING, z BOOL) OPTIONS( description = 'My example table');
Haz clic en
Ejecutar.
Si quieres obtener información para ejecutar consultas, visita Ejecuta consultas interactivas.
bq
Proporciona el esquema intercalado en el formato field:data_type,field:data_type
mediante uno de los siguientes comandos:
- Si cargas datos, usa el comando
bq load
. - Si quieres crear una tabla vacía, usa el comando
bq mk
.
Cuando especificas el esquema en la línea de comandos, no puedes incluir un tipo RECORD
(STRUCT
) o una descripción de columna. Tampoco puedes especificar el modo de la columna. Todos los modos están establecidos como NULLABLE
de forma predeterminada. Para incluir descripciones, modos y tipos RECORD
, proporciona un archivo de esquema JSON en su lugar.
Para cargar datos en una tabla mediante la definición de un esquema intercalado, debes ingresar el comando load
y especificar el formato de datos con la marca --source_format
.
Si cargas datos en una tabla en otro proyecto que no sea el predeterminado, debes incluir el ID del proyecto en el formato siguiente: project_id:dataset.table_name
.
Opcional: Proporciona la marca --location
y configura el valor en tu ubicación.
bq --location=location load \ --source_format=format \ project_id:dataset.table_name \ path_to_source \ schema
Reemplaza lo siguiente:
location
: El nombre de tu ubicación. La marca--location
es opcional. Por ejemplo, si usas BigQuery en la región de Tokio, puedes configurar el valor de la marca comoasia-northeast1
. Puedes configurar un valor predeterminado para la ubicación con el archivo .bigqueryrc.format
:NEWLINE_DELIMITED_JSON
oCSV
.project_id
: es el ID de tu proyecto.dataset
: es el conjunto de datos que contiene la tabla en la que cargas datos.table_name
: Es el nombre de la tabla en la que se cargan los datos.path_to_source
: es la ubicación del archivo de datos CSV o JSON en tu máquina local o en Cloud Storage.schema
: es la definición de esquema intercalado.
Ejemplo:
Ingresa el comando siguiente para cargar datos de un archivo CSV local llamado myfile.csv
en mydataset.mytable
en tu proyecto predeterminado. El esquema está especificado de forma intercalada.
bq load \
--source_format=CSV \
mydataset.mytable \
./myfile.csv \
qtr:STRING,sales:FLOAT,year:STRING
Para obtener más información sobre la carga de datos en BigQuery, consulta Introducción a la carga de datos.
Ingresa el comando bq mk
con la marca --table
o -t
para especificar una definición de esquema intercalado cuando crees una tabla vacía. Si creas una tabla en otro proyecto que no sea el predeterminado, agrega el ID del proyecto al comando en el formato siguiente: project_id:dataset.table
.
bq mk --table project_id:dataset.table schema
Reemplaza lo siguiente:
project_id
: es el ID de tu proyecto.dataset
: es un conjunto de datos en tu proyecto.table
: es el nombre de la tabla que crearás.schema
: es una definición de esquema intercalado.
Por ejemplo, con el comando siguiente se crea una tabla vacía llamada mytable
en el proyecto predeterminado. El esquema está especificado de forma intercalada.
bq mk --table mydataset.mytable qtr:STRING,sales:FLOAT,year:STRING
Si deseas obtener más información para crear una tabla vacía, consulta Crea una tabla vacía con una definición de esquema.
C#
Para especificar el esquema de una tabla cuando cargas datos en una tabla, ejecuta el comando siguiente:
Para especificar un esquema cuando creas una tabla vacía, ejecuta el comando siguiente:
Go
Para especificar el esquema de una tabla cuando cargas datos en una tabla, ejecuta el comando siguiente:
Para especificar un esquema cuando creas una tabla vacía, ejecuta el comando siguiente:
Java
Para especificar el esquema de una tabla cuando cargas datos en una tabla, ejecuta el siguiente comando:
Para especificar un esquema cuando creas una tabla vacía, ejecuta el comando siguiente:
Python
Para especificar el esquema de una tabla cuando cargas datos en una tabla, configura la propiedad LoadJobConfig.schema.
Para especificar un esquema cuando creas una tabla vacía, configura la propiedad Table.schema.
Especifica un archivo de esquema JSON
Si lo prefieres, puedes especificar el esquema con un archivo de esquema JSON en lugar de usar una definición de esquema intercalado. Un archivo de esquema JSON consta de un array JSON con la siguiente información:
- El nombre de la columna
- El tipo de datos de la columna
- El modo de la columna (opcional; si no se especifica, el modo predeterminado es
NULLABLE
) - Opcional: Los campos de la columna si son un tipo
STRUCT
- La descripción de la columna (opcional)
- Las etiquetas de política de la columna, que se usan para el control de acceso a nivel del campo (opcional)
- La longitud máxima de los valores de la columna para los tipos
STRING
oBYTES
(opcional) - La precisión de la columna para los tipos
NUMERIC
oBIGNUMERIC
(opcional) - La escala de la columna para los tipos
NUMERIC
oBIGNUMERIC
(opcional) - La intercalación de la columna para tipos
STRING
(opcional) - El valor predeterminado de la columna (opcional)
- El modo de redondeo de la columna, si es un tipo
NUMERIC
oBIGNUMERIC
(opcional)
Crea un archivo de esquema JSON
Para crear un archivo de esquema JSON, ingresa un TableFieldSchema
en cada columna. Los campos name
y type
son obligatorios. Todos los demás campos son opcionales.
[ { "name": string, "type": string, "mode": string, "fields": [ { object (TableFieldSchema) } ], "description": string, "policyTags": { "names": [ string ] }, "maxLength": string, "precision": string, "scale": string, "collation": string, "defaultValueExpression": string, "roundingMode": string }, { "name": string, "type": string, ... } ]El array de JSON se indica mediante los corchetes inicial y final “[]”. Cada entrada de columna debe estar separada por una coma: “}”. Puedes escribir un esquema de tabla existente en un archivo local si ingresas el siguiente comando:
bq show \ --schema \ --format=prettyjson \ project_id:dataset.table > path_to_file
Puedes usar el archivo de salida como punto de partida para tu propio archivo de esquema JSON. Si usas este enfoque, asegúrate de que el archivo contenga solo el arreglo JSON que representa el esquema de la tabla.
Por ejemplo, el siguiente arreglo JSON representa un esquema de tabla básico. Este esquema tiene tres columnas: qtr
(REQUIRED
STRING
), rep
(NULLABLE
STRING
) y sales
(NULLABLE
FLOAT
).
[ { "name": "qtr", "type": "STRING", "mode": "REQUIRED", "description": "quarter" }, { "name": "rep", "type": "STRING", "mode": "NULLABLE", "description": "sales representative" }, { "name": "sales", "type": "FLOAT", "mode": "NULLABLE", "defaultValueExpression": "2.55" } ]
Usa un archivo de esquema JSON
Después de crear el archivo de esquema JSON, puedes especificarlo con la herramienta de línea de comandos de bq
.
No puedes usar un archivo de esquema con la consola de Google Cloud o la API.
Proporciona el archivo de esquema:
- Si cargas datos, usa el comando
bq load
. - Si quieres crear una tabla vacía, usa el comando
bq mk
.
Cuando proporciones un archivo de esquema JSON, este debe almacenarse en una ubicación que se pueda leer localmente. No puedes especificar un archivo de esquema JSON almacenado en Cloud Storage o Google Drive.
Especifica un archivo de esquema cuando cargues datos
Para cargar datos en una tabla mediante la definición de esquema JSON, haz lo siguiente:
bq
bq --location=location load \ --source_format=format \ project_id:dataset.table \ path_to_data_file \ path_to_schema_file
Reemplaza lo siguiente:
location
: El nombre de tu ubicación. La marca--location
es opcional. Por ejemplo, si usas BigQuery en la región de Tokio, puedes configurar el valor de la marca comoasia-northeast1
. Puedes configurar un valor predeterminado para la ubicación con el archivo .bigqueryrc.format
:NEWLINE_DELIMITED_JSON
oCSV
.project_id
: es el ID de tu proyecto.dataset
: es el conjunto de datos que contiene la tabla en la que cargas datos.table
: es el nombre de la tabla en la que se están cargando los datos.path_to_data_file
: es la ubicación del archivo de datos CSV o JSON en tu máquina local o en Cloud Storage.path_to_schema_file
: es la ruta de acceso al archivo de esquema en tu máquina local.
Ejemplo:
Ingresa el comando siguiente para cargar datos de un archivo CSV local llamado myfile.csv
en mydataset.mytable
en tu proyecto predeterminado. Se especifica el esquema en myschema.json
en el directorio actual.
bq load --source_format=CSV mydataset.mytable ./myfile.csv ./myschema.json
Python
Antes de probar este ejemplo, sigue las instrucciones de configuración para Python incluidas en la guía de inicio rápido de BigQuery sobre cómo usar bibliotecas cliente. Para obtener más información, consulta la documentación de referencia de la API de BigQuery para Python.
Para autenticarte en BigQuery, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local.
Para cargar un esquema de tabla desde un archivo JSON con la biblioteca cliente de Python, llama al método schema_from_json.Especifica un archivo de esquema cuando crees una tabla
Para crear una tabla vacía en un conjunto de datos existente con un archivo de esquema JSON, haz lo siguiente:
bq
bq mk --table project_id:dataset.table path_to_schema_file
Reemplaza lo siguiente:
project_id
: es el ID de tu proyecto.dataset
: es un conjunto de datos en tu proyecto.table
: es el nombre de la tabla que crearás.path_to_schema_file
: es la ruta de acceso al archivo de esquema en tu máquina local.
Por ejemplo, el siguiente comando crea una tabla llamada mytable
en mydataset
en el proyecto predeterminado. Se especifica el esquema en myschema.json
en el directorio actual:
bq mk --table mydataset.mytable ./myschema.json
Python
Antes de probar este ejemplo, sigue las instrucciones de configuración para Python incluidas en la guía de inicio rápido de BigQuery sobre cómo usar bibliotecas cliente. Para obtener más información, consulta la documentación de referencia de la API de BigQuery para Python.
Para autenticarte en BigQuery, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local.
Para cargar un esquema de tabla desde un archivo JSON con la biblioteca cliente de Python, llama al método schema_from_json.