Especifica un esquema
BigQuery te permite especificar el esquema de una tabla cuando cargas datos en una tabla y cuando creas una tabla vacía. Como alternativa, puedes usar la detección automática de esquemas para los formatos de datos compatibles.
Cuando cargas archivos de exportación de Avro, Parquet, ORC, Firestore o archivos de exportación de Datastore, el esquema se recupera de manera automática a partir de los datos de origen autodescriptivos.
Puedes especificar el esquema de una tabla de las siguientes maneras:
- Especifica el esquema de forma manual:
- Usa la consola de Google Cloud.
- Intercala mediante la herramienta de línea de comandos de
bq
- Usa la instrucción de SQL
CREATE TABLE
.
- Crea un archivo de esquema en formato JSON.
- Realiza una llamada al método
jobs.insert
y configura la propiedadschema
en la configuración de trabajoload
. - Realiza una llamada al método
tables.insert
y configura el esquema en el recurso de tabla con la propiedadschema
.
Después de cargar datos o crear una tabla vacía, puedes modificar la definición de esquema de la tabla.
Componentes de esquema
Cuando especificas un esquema de tabla, debes proporcionar el nombre y el tipo de datos de cada columna. También puedes proporcionar la descripción, el modo y el valor predeterminado de una columna.
Nombres de columnas
Un nombre de columna solo debe contener letras (a-z, A-Z), números (0-9) o guiones bajos (_), y deben comenzar con una letra o un guion bajo. La longitud máxima del nombre de la columna es de 300 caracteres. No se puede usar ninguno de los siguientes prefijos para el nombre de una columna:
_TABLE_
_FILE_
_PARTITION
_ROW_TIMESTAMP
__ROOT__
_COLIDENTIFIER
No se permiten nombres de columna duplicados, incluso si difieren las mayúsculas y minúsculas. Por ejemplo, una columna llamada Column1
se considera idéntica a una columna con el nombre column1
.
Descripciones de columnas
Cada columna puede incluir una descripción opcional. La descripción es una string con una longitud máxima de 1,024 caracteres.
Valores predeterminados
El valor predeterminado para una columna debe ser un literal o una de las siguientes funciones:
CURRENT_DATE
CURRENT_DATETIME
CURRENT_TIME
CURRENT_TIMESTAMP
GENERATE_UUID
RAND
SESSION_USER
ST_GEOGPOINT
Tipos de datos de GoogleSQL
GoogleSQL te permite especificar los siguientes tipos de datos en tu esquema. El tipo de datos es obligatorio.
Nombre | Tipo de datos | Descripción |
---|---|---|
Número entero | INT64 |
Valores numéricos sin componentes fraccionales |
Punto flotante | FLOAT64 |
Valores numéricos aproximados con componentes fraccionales |
Numérico | NUMERIC |
Valores numéricos exactos con componentes fraccionales |
BigNumeric | BIGNUMERIC |
Valores numéricos exactos con componentes fraccionales |
Booleano | BOOL |
TRUE o FALSE (distinción entre mayúsculas y minúsculas) |
String | STRING |
Datos de caracteres de longitud variable (Unicode) |
Bytes | BYTES |
Datos binarios de longitud variable |
Fecha | DATE |
Fecha del calendario lógica |
fecha/hora | DATETIME |
Año, mes, día, hora, minuto, segundo y tiempo menor que un segundo |
Hora | TIME |
Hora, independiente de una fecha específica |
Marca de tiempo | TIMESTAMP |
Momento determinado absoluto con precisión de microsegundos |
Estructura (registro) | STRUCT |
Contenedor de campos ordenados, cada uno con un tipo (obligatorio) y un nombre de campo (opcional) |
Datos geográficos | GEOGRAPHY |
Conjunto de puntos en la superficie de la Tierra (un conjunto de puntos, líneas y polígonos en el esferoide de referencia WGS84, con bordes geodésicos) |
JSON | JSON |
Representa JSON, un formato ligero de intercambio de datos |
Para obtener más información sobre los tipos de datos en GoogleSQL, consulta Tipos de datos de GoogleSQL.
También puedes declarar un tipo de arreglo cuando consultas datos. Para obtener más información, consulta Cómo trabajar con arreglos.
Modos
BigQuery admite los siguientes modos para tus columnas. El modo es opcional. Si no se especifica el modo, la columna predeterminada es NULLABLE
.
Modo | Descripción |
---|---|
Anulable | La columna permite valores NULL (predeterminado) |
Obligatorio | No se permiten valores NULL |
Repetido | La columna contiene un arreglo de valores del tipo especificado |
Para obtener más información sobre los modos, consulta mode
en TableFieldSchema
.
Modo de redondeo
Cuando una columna es un tipo NUMERIC
o BIGNUMERIC
parametrizado, puedes establecer la opción de columna rounding_mode
, que determina cómo se redondean los valores de esa columna. cuando se escribe en la tabla. Puedes configurar la opción rounding_mode
en una columna de nivel superior o un campo STRUCT
. Se admiten los siguientes modos de redondeo:
"ROUND_HALF_AWAY_FROM_ZERO"
: Este modo (predeterminado) redondea los casos medios en dirección opuesta al cero."ROUND_HALF_EVEN"
: Este modo redondea casos de punto medio hacia el dígito par más cercano.
No puedes configurar la opción rounding_mode
para una columna que no sea de tipo NUMERIC
ni BIGNUMERIC
. A fin de obtener más información sobre el comportamiento de redondeo para estos tipos, consulta Tipos decimales parametrizados.
En el siguiente ejemplo, se crea una tabla y se insertan valores que se redondean según el modo de redondeo de la columna:
CREATE TABLE mydataset.mytable ( x NUMERIC(5,2) OPTIONS (rounding_mode='ROUND_HALF_EVEN'), y NUMERIC(5,2) OPTIONS (rounding_mode='ROUND_HALF_AWAY_FROM_ZERO') ); INSERT mydataset.mytable (x, y) VALUES (NUMERIC "1.025", NUMERIC "1.025"), (NUMERIC "1.0251", NUMERIC "1.0251"), (NUMERIC "1.035", NUMERIC "1.035"), (NUMERIC "-1.025", NUMERIC "-1.025");
La tabla mytable
tiene el siguiente aspecto:
+-------+-------+ | x | y | +-------+-------+ | 1.02 | 1.03 | | 1.03 | 1.03 | | 1.04 | 1.04 | | -1.02 | -1.03 | +-------+-------+
Para obtener más información, consulta roundingMode
en TableFieldSchema
.
Especifica esquemas de forma manual
Cuando cargas datos o creas una tabla vacía, puedes especificar de forma manual el esquema de la tabla mediante la consola de Google Cloud o la herramienta de línea de comandos de bq
. La especificación manual de un esquema se admite cuando se cargan archivos CSV y JSON (delimitados por saltos de línea). Cuando cargas datos de exportación de Avro, Parquet, ORC, Firestore o datos de exportación de Datastore, el esquema se recupera de forma automática partir de los datos de origen autodescriptivos.
Sigue estos pasos para especificar manualmente un esquema de tabla:
Console
En la consola de Google Cloud, puedes especificar un esquema mediante las opciones Agregar campo o Editar como texto.
En la consola de Google Cloud, abre la página de BigQuery.
En el panel Explorador, expande tu proyecto y selecciona un conjunto de datos.
Expande la opción Acciones
y haz clic en Abrir.En el panel de detalles, haz clic en Crear tabla
(Create table).En la página Crear tabla, en la sección Origen, selecciona Tabla vacía.
En la página Crear tabla, en la sección Destino (Destination), realiza lo siguiente:
En Dataset name (Nombre del conjunto de datos), selecciona el conjunto de datos correspondiente.
En el campo Nombre de tabla, ingresa el nombre de la tabla que quieres crear.
Verifica que Tipo de tabla (Table type) esté configurado como Tabla nativa (Native table).
En la sección Esquema, ingresa la definición del esquema.
- Opción 1: usa Agregar campo y especifica el nombre, el tipo y el modo de cada campo.
- Opción 2: Haz clic en Editar como texto y pega el esquema en forma de array de JSON. Cuando usas un arreglo JSON, generas el esquema mediante el mismo proceso que se usa para crear un archivo de esquema JSON.
Haz clic en Crear tabla.
SQL
Usa la sentencia CREATE TABLE
.
Especifica el esquema con la opción de columna.
En el siguiente ejemplo, se crea una tabla nueva llamada newtable
con las columnas x, y, z, cuyos tipos son número entero, string y booleano:
En la consola de Google Cloud, ve a la página de BigQuery.
En el editor de consultas, ingresa la siguiente sentencia:
CREATE TABLE IF NOT EXISTS mydataset.newtable (x INT64, y STRING, z BOOL) OPTIONS( description = 'My example table');
Haz clic en
Ejecutar.
Si quieres obtener información para ejecutar consultas, visita Ejecuta consultas interactivas.
bq
Proporciona de forma manual el esquema intercalado en el formato field:data_type,field:data_type
mediante uno de los siguientes comandos:
- Si cargas datos, usa el comando
bq load
. - Si quieres crear una tabla vacía, usa el comando
bq mk
.
Cuando especificas el esquema en la línea de comandos, no puedes incluir un tipo RECORD
(STRUCT
) o una descripción de columna. Tampoco puedes especificar el modo de la columna. Todos los modos están establecidos como NULLABLE
de forma predeterminada. Para incluir descripciones, modos y tipos RECORD
, proporciona un archivo de esquema JSON en su lugar.
Para cargar datos en una tabla mediante la definición de un esquema intercalado, debes ingresar el comando load
y especificar el formato de datos con la marca --source_format
.
Si cargas datos en una tabla en otro proyecto que no sea el predeterminado, debes incluir el ID del proyecto en el formato siguiente: project_id:dataset.table_name
.
Opcional: Proporciona la marca --location
y configura el valor en tu ubicación.
bq --location=location load \ --source_format=format \ project_id:dataset.table_name \ path_to_source \ schema
Reemplaza lo siguiente:
location
: El nombre de tu ubicación. La marca--location
es opcional. Por ejemplo, si usas BigQuery en la región de Tokio, puedes configurar el valor de la marca comoasia-northeast1
. Puedes configurar un valor predeterminado para la ubicación con el archivo .bigqueryrc.format
:NEWLINE_DELIMITED_JSON
oCSV
.project_id
: es el ID de tu proyecto.dataset
: es el conjunto de datos que contiene la tabla en la que cargas datos.table_name
: Es el nombre de la tabla en la que se cargan los datos.path_to_source
: es la ubicación del archivo de datos CSV o JSON en tu máquina local o en Cloud Storage.schema
: es la definición de esquema intercalado.
Ejemplo:
Ingresa el comando siguiente para cargar datos de un archivo CSV local llamado myfile.csv
en mydataset.mytable
en tu proyecto predeterminado. El esquema se especifica intercalado de forma manual.
bq load \
--source_format=CSV \
mydataset.mytable \
./myfile.csv \
qtr:STRING,sales:FLOAT,year:STRING
Para obtener más información sobre la carga de datos en BigQuery, consulta Introducción a la carga de datos.
Ingresa el comando bq mk
con la marca --table
o -t
para especificar una definición de esquema intercalado cuando crees una tabla vacía. Si creas una tabla en otro proyecto que no sea el predeterminado, agrega el ID del proyecto al comando en el formato siguiente: project_id:dataset.table
.
bq mk --table project_id:dataset.table schema
Reemplaza lo siguiente:
project_id
: es el ID de tu proyecto.dataset
: es un conjunto de datos en tu proyecto.table
: es el nombre de la tabla que crearás.schema
: es una definición de esquema intercalado.
Por ejemplo, con el comando siguiente se crea una tabla vacía llamada mytable
en el proyecto predeterminado. El esquema se especifica intercalado de forma manual.
bq mk --table mydataset.mytable qtr:STRING,sales:FLOAT,year:STRING
Si deseas obtener más información para crear una tabla vacía, consulta Crea una tabla vacía con una definición de esquema.
C#
Para especificar el esquema de una tabla cuando cargas datos en una tabla, ejecuta el comando siguiente:
Para especificar un esquema cuando creas una tabla vacía, ejecuta el comando siguiente:
Go
Para especificar el esquema de una tabla cuando cargas datos en una tabla, ejecuta el comando siguiente:
Para especificar un esquema cuando creas una tabla vacía, ejecuta el comando siguiente:
Java
Para especificar el esquema de una tabla cuando cargas datos en una tabla, ejecuta el siguiente comando:
Para especificar un esquema cuando creas una tabla vacía, ejecuta el comando siguiente:
Python
Para especificar el esquema de una tabla cuando cargas datos en una tabla, configura la propiedad LoadJobConfig.schema.
Para especificar un esquema cuando creas una tabla vacía, configura la propiedad Table.schema.
Especifica un archivo de esquema JSON
Si lo prefieres, puedes especificar el esquema con un archivo de esquema JSON en lugar de usar una definición de esquema intercalado. Un archivo de esquema JSON consta de un array JSON con la siguiente información:
- El nombre de la columna
- El tipo de datos de la columna
- El modo de la columna (opcional; si no se especifica, el modo predeterminado es
NULLABLE
) - Opcional: Los campos de la columna si son un tipo
STRUCT
- La descripción de la columna (opcional)
- Las etiquetas de política de la columna, que se usan para el control de acceso a nivel del campo (opcional)
- La longitud máxima de los valores de la columna para los tipos
STRING
oBYTES
(opcional) - La precisión de la columna para los tipos
NUMERIC
oBIGNUMERIC
(opcional) - La escala de la columna para los tipos
NUMERIC
oBIGNUMERIC
(opcional) - La intercalación de la columna para tipos
STRING
(opcional) - El valor predeterminado de la columna (opcional)
- Opcional: El modo de redondeo de la columna, si la columna es un tipo
NUMERIC
oBIGNUMERIC
parametrizado
Crea un archivo de esquema JSON
Para crear un archivo de esquema JSON, ingresa un TableFieldSchema
en cada columna. Los campos name
y type
son obligatorios. Todos los demás campos son opcionales.
[ { "name": string, "type": string, "mode": string, "fields": [ { object (TableFieldSchema) } ], "description": string, "policyTags": { "names": [ string ] }, "maxLength": string, "precision": string, "scale": string, "collation": string, "defaultValueExpression": string, "roundingMode": string }, { "name": string, "type": string, ... } ]El array de JSON se indica mediante los corchetes inicial y final “[]”. Cada entrada de columna debe estar separada por una coma: “}”. Puedes escribir un esquema de tabla existente en un archivo local si ingresas el siguiente comando:
bq show \ --schema \ --format=prettyjson \ project_id:dataset.table > path_to_file
Puedes usar el archivo de salida como punto de partida para tu propio archivo de esquema JSON. Si usas este enfoque, asegúrate de que el archivo contenga solo el arreglo JSON que representa el esquema de la tabla.
Por ejemplo, el siguiente arreglo JSON representa un esquema de tabla básico. Este esquema tiene tres columnas: qtr
(REQUIRED
STRING
), rep
(NULLABLE
STRING
) y sales
(NULLABLE
FLOAT
).
[ { "name": "qtr", "type": "STRING", "mode": "REQUIRED", "description": "quarter" }, { "name": "rep", "type": "STRING", "mode": "NULLABLE", "description": "sales representative" }, { "name": "sales", "type": "FLOAT", "mode": "NULLABLE", "defaultValueExpression": "2.55" } ]
Usa un archivo de esquema JSON
Después de crear el archivo de esquema JSON, puedes especificarlo con la herramienta de línea de comandos de bq
.
No puedes usar un archivo de esquema con la consola de Google Cloud o la API.
Proporciona de forma manual el archivo de esquema:
- Si cargas datos, usa el comando
bq load
. - Si quieres crear una tabla vacía, usa el comando
bq mk
.
Cuando proporciones un archivo de esquema JSON, este debe almacenarse en una ubicación que se pueda leer localmente. No puedes especificar un archivo de esquema JSON almacenado en Cloud Storage o Google Drive.
Especifica un archivo de esquema cuando cargues datos
Para cargar datos en una tabla mediante la definición de esquema JSON, haz lo siguiente:
bq
bq --location=location load \ --source_format=format \ project_id:dataset.table \ path_to_data_file \ path_to_schema_file
Reemplaza lo siguiente:
location
: El nombre de tu ubicación. La marca--location
es opcional. Por ejemplo, si usas BigQuery en la región de Tokio, puedes configurar el valor de la marca comoasia-northeast1
. Puedes configurar un valor predeterminado para la ubicación con el archivo .bigqueryrc.format
:NEWLINE_DELIMITED_JSON
oCSV
.project_id
: es el ID de tu proyecto.dataset
: es el conjunto de datos que contiene la tabla en la que cargas datos.table
: es el nombre de la tabla en la que se están cargando los datos.path_to_data_file
: es la ubicación del archivo de datos CSV o JSON en tu máquina local o en Cloud Storage.path_to_schema_file
: es la ruta de acceso al archivo de esquema en tu máquina local.
Ejemplo:
Ingresa el comando siguiente para cargar datos de un archivo CSV local llamado myfile.csv
en mydataset.mytable
en tu proyecto predeterminado. Se especifica el esquema en myschema.json
en el directorio actual.
bq load --source_format=CSV mydataset.mytable ./myfile.csv ./myschema.json
Python
Antes de probar este ejemplo, sigue las instrucciones de configuración para Python incluidas en la guía de inicio rápido de BigQuery sobre cómo usar bibliotecas cliente. Para obtener más información, consulta la documentación de referencia de la API de BigQuery para Python.
Para cargar un esquema de tabla desde un archivo JSON con la biblioteca cliente de Python, llama al método schema_from_json.Especifica un archivo de esquema cuando crees una tabla
Para crear una tabla vacía en un conjunto de datos existente con un archivo de esquema JSON, haz lo siguiente:
bq
bq mk --table project_id:dataset.table path_to_schema_file
Reemplaza lo siguiente:
project_id
: es el ID de tu proyecto.dataset
: es un conjunto de datos en tu proyecto.table
: es el nombre de la tabla que crearás.path_to_schema_file
: es la ruta de acceso al archivo de esquema en tu máquina local.
Por ejemplo, el siguiente comando crea una tabla llamada mytable
en mydataset
en el proyecto predeterminado. Se especifica el esquema en myschema.json
en el directorio actual:
bq mk --table mydataset.mytable ./myschema.json
Python
Antes de probar este ejemplo, sigue las instrucciones de configuración para Python incluidas en la guía de inicio rápido de BigQuery sobre cómo usar bibliotecas cliente. Para obtener más información, consulta la documentación de referencia de la API de BigQuery para Python.
Para cargar un esquema de tabla desde un archivo JSON con la biblioteca cliente de Python, llama al método schema_from_json.Especifica un esquema en la API
Si deseas especificar el esquema de una tabla mediante la API, haz lo siguiente:
Para especificar un esquema cuando cargas datos, llama al método
jobs.insert
y configura la propiedadschema
, en el recursoJobConfigurationLoad
.Para especificar un esquema cuando creas una tabla, llama al método
tables.insert
y configura la propiedadschema
, en el recursoTable
.
Especificar un esquema mediante la API es similar al proceso para crear un archivo de esquema JSON.
Seguridad de las tablas
Para controlar el acceso a las tablas en BigQuery, consulta Introducción a los controles de acceso a tablas.
Próximos pasos
- Obtén más información sobre cómo especificar columnas anidadas y repetidas en una definición de esquema.
- Obtén más información sobre la detección automática de esquema.
- Obtén más información sobre cargar datos en BigQuery.
- Obtén más información sobre cómo crear y usar tablas.