La plantilla de BigQuery a Bigtable es una canalización por lotes que copia los datos de una tabla de BigQuery a una tabla de Bigtable existente. La plantilla puede leer toda la tabla o registros específicos a través de una consulta proporcionada.
Requisitos de la canalización
- La tabla de origen de BigQuery debe existir.
- La tabla de Bigtable debe existir.
- La cuenta de servicio de trabajador
necesita el permiso
roles/bigquery.datasets.create
. Para obtener más información, consulta Introducción a IAM.
Parámetros de la plantilla
Parámetro | Descripción |
---|---|
readIdColumn |
El nombre de la columna de BigQuery que almacena el identificador único de la fila. |
inputTableSpec |
Opcional: La tabla de BigQuery para leer. Formato:
Si especificas Debes especificar |
query |
Opcional: La consulta en SQL que se usará para leer datos de BigQuery. Si el conjunto de datos de BigQuery está en un proyecto diferente del trabajo de Dataflow, especifica el nombre completo del conjunto de datos en la consulta de SQL, de la siguiente manera: Debes especificar |
useLegacySql |
Configúralo como true para usar SQL heredado (opcional). Este parámetro solo se aplica cuando se usa el parámetro query . Valor predeterminado: false . |
bigtableWriteInstanceId |
El ID de la instancia de Bigtable que contiene la tabla. |
bigtableWriteTableId |
El ID de la tabla de Bigtable en la que se escribirá. |
bigtableWriteColumnFamily |
El nombre de la familia de columnas de la tabla de Bigtable en la que se escribirán los datos. |
bigtableWriteAppProfile |
El ID del perfil de la aplicación de Bigtable que se usará para la exportación (opcional). Si no especificas un perfil de app, Bigtable usa el perfil predeterminado de la aplicación de la instancia. |
bigtableWriteProjectId |
Opcional: El ID del proyecto de Google Cloud de la instancia de Bigtable en la que deseas escribir datos. |
bigtableBulkWriteLatencyTargetMs |
El objetivo de latencia de Bigtable en milisegundos para la limitación basada en la latencia (opcional). |
bigtableBulkWriteMaxRowKeyCount |
La cantidad máxima de claves de fila en una operación de escritura por lotes de Bigtable (opcional). |
bigtableBulkWriteMaxRequestSizeBytes |
La cantidad máxima de bytes que se incluirán por operación de escritura por lotes de Bigtable (opcional). |
bigtableRpcAttemptTimeoutMs |
El tiempo de espera para cada intento de RPC de Bigtable en milisegundos (opcional). |
bigtableRpcTimeoutMs |
El tiempo de espera total para una operación RPC de Bigtable en milisegundos (opcional). |
bigtableAdditionalRetryCodes |
Los códigos de reintento adicionales (opcional). |
Ejecuta la plantilla
Consola
- Ve a la página Crear un trabajo a partir de una plantilla de Dataflow. Ir a Crear un trabajo a partir de una plantilla
- En el campo Nombre del trabajo, ingresa un nombre de trabajo único.
- Opcional: Para Extremo regional, selecciona un valor del menú desplegable. La región predeterminada es
us-central1
.Para obtener una lista de regiones en las que puedes ejecutar un trabajo de Dataflow, consulta Ubicaciones de Dataflow.
- En el menú desplegable Plantilla de Dataflow, selecciona the BigQuery to Bigtable template.
- En los campos de parámetros proporcionados, ingresa los valores de tus parámetros.
- Haga clic en Ejecutar trabajo.
gcloud
En tu shell o terminal, ejecuta la plantilla:
gcloud dataflow flex-template run JOB_NAME \ --project=PROJECT_ID \ --region=REGION_NAME \ --template-file-gcs-location=gs://dataflow-templates-REGION_NAME/VERSION/flex/BigQuery_to_Bigtable \ --parameters \ readIdColumn=READ_COLUMN_ID,\ inputTableSpec=INPUT_TABLE_SPEC,\ bigtableWriteInstanceId=BIGTABLE_INSTANCE_ID,\ bigtableWriteTableId=BIGTABLE_TABLE_ID,\ bigtableWriteColumnFamily=BIGTABLE_COLUMN_FAMILY
Reemplaza lo siguiente:
PROJECT_ID
: El ID del proyecto de Google Cloud en el que deseas ejecutar el trabajo de Dataflow.JOB_NAME
: Es el nombre del trabajo que elijasREGION_NAME
: La región en la que deseas implementar tu trabajo de Dataflow, por ejemplo,us-central1
VERSION
: Es la versión de la plantilla que deseas usar.Puedes usar los siguientes valores:
latest
para usar la última versión de la plantilla, que está disponible en la carpeta superior non-dated en el bucket gs://dataflow-templates-REGION_NAME/latest/- el nombre de la versión, como
2023-09-12-00_RC00
, para usar una versión específica de la plantilla, que se puede encontrar anidada en la carpeta superior con fecha correspondiente en el bucket gs://dataflow-templates-REGION_NAME/
READ_COLUMN_ID
: la columna de ID único de BigQuery.INPUT_TABLE_SPEC
: Es el nombre de la tabla de BigQuery.BIGTABLE_INSTANCE_ID
: tu ID de instancia de Bigtable.BIGTABLE_TABLE_ID
: tu ID de tabla de Bigtable.BIGTABLE_COLUMN_FAMILY
: tu familia de columnas de la tabla de Bigtable.
API
Para ejecutar la plantilla con la API de REST, envía una solicitud HTTP POST. Para obtener más información de la API y sus permisos de autorización, consulta projects.templates.launch
.
POST https://dataflow.googleapis.com/v1b3/projects/PROJECT_ID/locations/LOCATION/flexTemplates:launch { "launch_parameter": { "jobName": "JOB_NAME", "parameters": { "readIdColumn": "READ_COLUMN_ID", "inputTableSpec": "INPUT_TABLE_SPEC", "bigtableWriteInstanceId": "BIGTABLE_INSTANCE_ID", "bigtableWriteTableId": "BIGTABLE_TABLE_ID", "bigtableWriteColumnFamily": "BIGTABLE_COLUMN_FAMILY" }, "containerSpecGcsPath": "gs://dataflow-templates-LOCATION/VERSION/flex/BigQuery_to_Bigtable", } }
Reemplaza lo siguiente:
PROJECT_ID
: El ID del proyecto de Google Cloud en el que deseas ejecutar el trabajo de Dataflow.JOB_NAME
: Es el nombre del trabajo que elijasLOCATION
: La región en la que deseas implementar tu trabajo de Dataflow, por ejemplo,us-central1
VERSION
: Es la versión de la plantilla que deseas usar.Puedes usar los siguientes valores:
latest
para usar la última versión de la plantilla, que está disponible en la carpeta superior non-dated en el bucket gs://dataflow-templates-REGION_NAME/latest/- el nombre de la versión, como
2023-09-12-00_RC00
, para usar una versión específica de la plantilla, que se puede encontrar anidada en la carpeta superior con fecha correspondiente en el bucket gs://dataflow-templates-REGION_NAME/
READ_COLUMN_ID
: la columna de ID único de BigQuery.INPUT_TABLE_SPEC
: Es el nombre de la tabla de BigQuery.BIGTABLE_INSTANCE_ID
: tu ID de instancia de Bigtable.BIGTABLE_TABLE_ID
: tu ID de tabla de Bigtable.BIGTABLE_COLUMN_FAMILY
: tu familia de columnas de la tabla de Bigtable.
¿Qué sigue?
- Obtén información sobre las plantillas de Dataflow.
- Consulta la lista de plantillas que proporciona Google.