Migra datos de Amazon Redshift

Resumen

En este documento, se describe el proceso de migración de datos desde Amazon Redshift a BigQuery a través de IP públicas.

Si deseas transferir datos de tu instancia de Redshift a través de una nube privada virtual (VPC), en direcciones IP privadas, consulta Migra datos de Amazon Redshift con VPC.

El Servicio de transferencia de datos de BigQuery te permite copiar tus datos de un almacén de datos de Amazon Redshift a BigQuery. El servicio activará agentes de migración en GKE y ejecutará una operación de descarga de Amazon Redshift a un área de etapa de pruebas en un bucket de Amazon S3. Luego, el Servicio de transferencia de datos de BigQuery transfiere los datos del bucket de Amazon S3 a BigQuery.

Este diagrama muestra el flujo general de datos entre un almacén de datos de Amazon Redshift y BigQuery durante una migración.

Antes de comenzar

En esta sección, se describe el proceso paso a paso para configurar una migración de datos desde Amazon Redshift a BigQuery. Estos son los pasos:

Requisitos de Google Cloud: cumple con los requisitos previos y establece permisos en Google Cloud.
Otorga acceso a tu clúster de Amazon Redshift.
Otorga acceso a tu bucket de Amazon S3 que usarás para habilitar a etapa los datos de manera temporal. Toma nota del par de claves de acceso, para usarlo en un paso posterior.
Configura la migración con el Servicio de transferencia de datos de BigQuery. Necesitarás:
- La URL de JDBC de Amazon Redshift. Sigue estas instrucciones para obtener la URL de JDBC.
- El nombre de usuario y la contraseña de tu base de datos de Amazon Redshift.
- El par de claves de acceso de AWS que obtendrás del paso: Otorga acceso a tu depósito de S3.
- El URI del bucket de Amazon S3. Te recomendamos que configures una política de ciclo de vida para este depósito a fin de evitar cargos innecesarios. La fecha de caducidad recomendada es de 24 horas a fin de permitir el tiempo suficiente para transferir todos los datos a BigQuery.

Permisos necesarios

Antes de crear una transferencia de Amazon Redshift, haz lo siguiente:

Asegúrate de que la persona que crea la transferencia tenga los siguientes permisos obligatorios en BigQuery:
- Los permisos bigquery.transfers.update para crear la transferencia
- Los permisos bigquery.datasets.update en el conjunto de datos de destino
La función predefinida de IAM bigquery.admin incluye los permisos bigquery.transfers.update y bigquery.datasets.update. Para obtener más información sobre las funciones de IAM en el Servicio de transferencia de datos de BigQuery, consulta la referencia del control de acceso.
Consulta la documentación de Amazon S3 y asegúrate de tener configurados los permisos necesarios para habilitar la transferencia. Como mínimo, los datos de origen de Amazon S3 deben estar sujetos a la política administrada de AWS AmazonS3ReadOnlyAccess.

Requisitos de Google Cloud

Para garantizar una migración exitosa al almacén de datos de Amazon Redshift, asegúrate de cumplir con los siguientes requisitos previos en Google Cloud.

Elegir o crear un proyecto de Google Cloud para almacenar tus datos de migración.
- En Google Cloud Console, ve a la página del selector de proyectos.
  
  Ir a la página del selector de proyectos
- Selecciona o crea un proyecto de Google Cloud.
  
  Nota: Si no planeas conservar los recursos que creaste durante este procedimiento, crea un proyecto en lugar de seleccionar uno existente. Cuando termines, puedes borrar el proyecto y quitar todos los recursos asociados con él.
Habilitar la API del Servicio de transferencia de datos de BigQuery.

En Google Cloud Console, haz clic en el botón Habilitar (Enable) en la página de la API del Servicio de transferencia de datos de BigQuery.

BigQuery se habilita automáticamente en proyectos nuevos. Para un proyecto existente, es posible que debas habilitar la API de BigQuery. Una marca de verificación verde indica que ya habilitaste la API.
Crea un conjunto de datos de BigQuery para almacenar tus datos. No es necesario crear ninguna tabla.

Otorga acceso a tu clúster de Amazon Redshift

Sigue las instrucciones de Amazon para incluir en la lista de anunciantes permitidos las direcciones IP siguientes. Puedes permitir las listas de direcciones IP que corresponden a la ubicación de tu conjunto de datos o puedes incluir todas las direcciones IP de la lista de anunciantes permitidos en la siguiente tabla. Estas direcciones IP que son propiedad de Google están reservadas para las migraciones de datos de Amazon Redshift.

Ubicaciones regionales

	Descripción de la región	Nombre de la región	Direcciones IP
América
	Las Vegas	`us-west4`	34.125.53.201 34.125.69.174 34.125.159.85 34.125.152.1 34.125.195.166 34.125.50.249 34.125.68.55 34.125.91.116
	Los Ángeles	`us-west2`	35.236.59.167 34.94.132.139 34.94.207.21 34.94.81.187 34.94.88.122 35.235.101.187 34.94.238.66 34.94.195.77
	Montreal	`northamerica-northeast1`	34.95.20.253 35.203.31.219 34.95.22.233 34.95.27.99 35.203.12.23 35.203.39.46 35.203.116.49 35.203.104.223
	Virginia del Norte	`us-east4`	35.245.95.250 35.245.126.228 35.236.225.172 35.245.86.140 35.199.31.35 35.199.19.115 35.230.167.48 35.245.128.132 35.245.111.126 35.236.209.21
	Oregón	`us-west1`	35.197.117.207 35.197.117.207 35.197.86.233 34.82.155.140 35.247.28.48 35.247.31.246 35.247.106.13 34.105.85.54
	Salt Lake City	`us-west3`	34.106.37.58 34.106.85.113 34.106.28.153 34.106.64.121 34.106.246.131 34.106.56.150 34.106.41.31 34.106.182.92
	São Paulo	`southamerica-east1`	35.199.88.228 34.95.169.140 35.198.53.30 34.95.144.215 35.247.250.120 35.247.255.158 34.95.231.121 35.198.8.157
	Carolina del Sur	`us-east1`	35.196.207.183 35.237.231.98 104.196.102.222 35.231.13.201 34.75.129.215 34.75.127.9 35.229.36.137 35.237.91.139
Europa
	Bélgica	`europe-west1`	35.240.36.149 35.205.171.56 34.76.234.4 35.205.38.234 34.77.237.73 35.195.107.238 35.195.52.87 34.76.102.189
	Finlandia	`europe-north1`	35.228.35.94 35.228.183.156 35.228.211.18 35.228.146.84 35.228.103.114 35.228.53.184 35.228.203.85 35.228.183.138
	Fráncfort	`europe-west3`	35.246.153.144 35.198.80.78 35.246.181.106 35.246.211.135 34.89.165.108 35.198.68.187 35.242.223.6 34.89.137.180
	Londres	`europe-west2`	35.189.119.113 35.189.101.107 35.189.69.131 35.197.205.93 35.189.121.178 35.189.121.41 35.189.85.30 35.197.195.192
	Países Bajos	`europe-west4`	35.204.237.173 35.204.18.163 34.91.86.224 34.90.184.136 34.91.115.67 34.90.218.6 34.91.147.143 34.91.253.1
	Zúrich	`europe-west6`	34.65.205.160 34.65.121.140 34.65.196.143 34.65.9.133 34.65.156.193 34.65.216.124 34.65.233.83 34.65.168.250
Asia-Pacífico
	Hong Kong	`asia-east2`	34.92.245.180 35.241.116.105 35.220.240.216 35.220.188.244 34.92.196.78 34.92.165.209 35.220.193.228 34.96.153.178
	Yakarta	`asia-southeast2`	34.101.79.105 34.101.129.32 34.101.244.197 34.101.100.180 34.101.109.205 34.101.185.189 34.101.179.27 34.101.197.251
	Bombay	`asia-south1`	34.93.67.112 35.244.0.1 35.200.245.13 35.200.203.161 34.93.209.130 34.93.120.224 35.244.10.12 35.200.186.100
	Osaka	`asia-northeast2`	34.97.94.51 34.97.118.176 34.97.63.76 34.97.159.156 34.97.113.218 34.97.4.108 34.97.119.140 34.97.30.191
	Seúl	`asia-northeast3`	34.64.152.215 34.64.140.241 34.64.133.199 34.64.174.192 34.64.145.219 34.64.136.56 34.64.247.158 34.64.135.220
	Singapur	`asia-southeast1`	34.87.12.235 34.87.63.5 34.87.91.51 35.198.197.191 35.240.253.175 35.247.165.193 35.247.181.82 35.247.189.103
	Sídney	`australia-southeast1`	35.189.33.150 35.189.38.5 35.189.29.88 35.189.22.179 35.189.20.163 35.189.29.83 35.189.31.141 35.189.14.219
	Taiwán	`asia-east1`	35.221.201.20 35.194.177.253 34.80.17.79 34.80.178.20 34.80.174.198 35.201.132.11 35.201.223.177 35.229.251.28 35.185.155.147 35.194.232.172
	Tokio	`asia-northeast1`	34.85.11.246 34.85.30.58 34.85.8.125 34.85.38.59 34.85.31.67 34.85.36.143 34.85.32.222 34.85.18.128 34.85.23.202 34.85.35.192

Ubicaciones multirregionales

Descripción de la multirregión	Nombre de la multirregión	Direcciones IP
Centros de datos dentro de los estados miembros de la Unión Europea¹	`EU`	34.76.156.158 34.76.156.172 34.76.136.146 34.76.1.29 34.76.156.232 34.76.156.81 34.76.156.246 34.76.102.206 34.76.129.246 34.76.121.168
Centros de datos en Estados Unidos	`US`	35.185.196.212 35.197.102.120 35.185.224.10 35.185.228.170 35.197.5.235 35.185.206.139 35.197.67.234 35.197.38.65 35.185.202.229 35.185.200.120

¹ Los datos ubicados en la multirregión EU no se almacenan en los centros de datos de europe-west2 (Londres) ni deeurope-west6 (Zúrich).

Otorga acceso a tu bucket de Amazon S3

Para transferir los datos de Amazon Redshift a BigQuery, necesitarás un bucket S3 que puedas usar como área de etapa de pruebas. Las instrucciones detalladas de Amazon se pueden encontrar aquí.

Recomendamos que crees un usuario IAM dedicado de Amazon y le otorgues a ese usuario solo acceso de lectura a Redshift y acceso de lectura y escritura a S3. Puedes hacer esto si aplicas las siguientes políticas existentes:
Crea un par de claves de acceso de usuario de IAM de Amazon.

Control de cargas de trabajo con una cola de migración independiente (opcional)

Puedes definir una cola de Amazon Redshift con fines de migración para limitar y separar los recursos usados en la migración. Esta cola de migración se puede configurar con un recuento máximo de consultas simultáneas. Luego, puedes asociar un grupo de usuarios de migración determinado a la cola y usar esas credenciales mediante la configuración de la migración para transferir datos a BigQuery. El servicio de transferencia solo tendrá acceso a la cola de migración.

Configura una transferencia de Amazon Redshift

Para configurar una transferencia a Amazon Redshift:

Console

Ve a la página de BigQuery en Cloud Console.

Ir a la página de BigQuery
Haz clic en Transfers.
Haz clic en Agregar transferencia.
En la página Transferencia nueva (New Transfer), sigue estos pasos:
- En Fuente (Source), selecciona Migración: Redshift (Migration: Redshift).
- En Nombre visible, ingresa un nombre para la transferencia, como My migration. El nombre visible puede ser cualquier valor que te permita identificar con facilidad la transferencia si necesitas modificarla más tarde.
- En Conjunto de datos de destino (Destination dataset), selecciona el conjunto de datos que corresponda.
En Detalles de la fuente de datos (Data Source Details), continúa con los detalles específicos de la transferencia de Amazon Redshift.
- En URL de conexión de JDBC para Redshift (JDBC connection url for Redshift), proporciona la URL de JDBC a fin de acceder a tu clúster de Amazon Redshift.
- En Nombre de usuario de tu base de datos, (Username of your database) ingresa el nombre de usuario de la base de datos de Amazon Redshift que deseas migrar.
- En Contraseña de tu base de datos (Password of your database), ingresa la contraseña de la base de datos.
  Si proporcionas tus credenciales de Amazon, confirmas que el Servicio de transferencia de datos de BigQuery es tu agente con el único propósito de acceder a tus datos para transferencias.
- En ID de clave de acceso (Access key ID) y Clave de acceso secreta (Secret access key), ingresa el par de claves de acceso que obtuviste en Otorgar acceso a tu depósito S3.
- En URI de Amazon S3 (Amazon S3 URI), ingresa el URI del depósito S3 que usarás como área de etapa de pruebas.
- En Esquema de Redshift (Redshift schema), ingresa el esquema de Amazon Redshift que estás migrando.
- En Patrones de nombre de la tabla (Table name patterns), especifica un nombre o un patrón para hacer coincidir los nombres de tabla en el esquema. Puedes usar expresiones regulares para especificar el patrón en el formato <table1Regex>;<table2Regex>. El patrón debe seguir la sintaxis de la expresión regular de Java.
  Ejemplos:
  - lineitem;ordertb coincidirá con dos tablas llamadas lineitem y ordertb.
  - Deja este campo vacío para migrar todas las tablas del esquema especificado.
  Para tablas muy grandes, recomendamos transferir una tabla a la vez. BigQuery tiene una cuota de carga de 15 TB por trabajo de carga.
- De forma opcional, en la sección Opciones de notificación (Notification options), haz lo siguiente:
  - Haz clic en el botón de activación para habilitar las notificaciones por correo electrónico. Cuando habilitas esta opción, el administrador de transferencias recibe una notificación por correo electrónico cuando falla una ejecución de transferencia.
  - En Seleccionar un tema de Cloud Pub/Sub (Select a Cloud Pub/Sub topic), elige el nombre de tu tema o haz clic en Crear un tema (Create a topic). Con esta opción, se configuran las notificaciones de ejecución de Pub/Sub para tu transferencia.
Haga clic en Guardar.
En Cloud Console se mostrarán todos los detalles de configuración de la transferencia, incluido un Nombre de recurso (Resource name) para esta transferencia.

bq

Ingresa el comando bq mk y suministra la marca de creación de transferencias --transfer_config. También se requieren las siguientes marcas:

--project_id
--data_source
--target_dataset
--display_name
--params

bq mk \
--transfer_config \
--project_id=project_id \
--data_source=data_source \
--target_dataset=dataset \
--display_name=name \
--params='parameters'

En el ejemplo anterior, se ilustra lo siguiente:

project_id es tu ID del proyecto de Cloud. Si no se especifica --project_id, se usa el proyecto predeterminado.
data_source es la fuente de datos: redshift.
dataset es el conjunto de datos de destino de BigQuery para la configuración de la transferencia.
name es el nombre visible de la configuración de transferencia. El nombre de la transferencia puede ser cualquier valor que te permita identificarla con facilidad si necesitas modificarla más tarde.
parameters contiene los parámetros para la configuración de la transferencia creada en formato JSON. Por ejemplo: --params='{"param":"param_value"}'

Los parámetros necesarios para una configuración de transferencia de Amazon Redshift son:

jdbc_url: La url de conexión de JDBC se usa para ubicar el clúster de Amazon Redshift.
database_username: El nombre de usuario para acceder a tu base de datos a fin de descargar tablas especificadas.
database_password: La contraseña usada con el nombre de usuario para acceder a tu base de datos a fin de descargar las tablas especificadas.
access_key_id: El ID de la clave de acceso para firmar las solicitudes realizadas a AWS.
secret_access_key: La clave de acceso secreta usada con el ID de la clave de acceso para firmar las solicitudes realizadas a AWS.
s3_bucket: El URI de Amazon S3 que comienza con “s3://” y especifica un prefijo para los archivos temporales que se usarán.
redshift_schema: El esquema de Amazon Redshift que contiene todas las tablas que se migrarán.
table_name_patterns: Patrones de nombre de tabla separados por un punto y coma (;). El patrón de tabla es una expresión regular para las tablas que se deben migrar. Si no se proporciona, se migrarán todas las tablas del esquema de la base de datos.

Por ejemplo, el siguiente comando crea una transferencia de Amazon Redshift llamada My Transfer con un conjunto de datos de destino llamado mydataset y un proyecto con el ID de google.com:myproject.

bq mk \
--transfer_config \
--project_id=myproject \
--data_source=redshift \
--target_dataset=mydataset \
--display_name='My Transfer' \
--params='{"jdbc_url":"jdbc:postgresql://test-example-instance.sample.us-west-1.redshift.amazonaws.com:5439/dbname","database_username":"my_username","database_password":"1234567890","access_key_id":"A1B2C3D4E5F6G7H8I9J0","secret_access_key":"1234567890123456789012345678901234567890","s3_bucket":"s3://bucket/prefix","redshift_schema":"public","table_name_patterns":"table_name"}'

API

Usa el método projects.locations.transferConfigs.create y suministra una instancia del recurso TransferConfig.

Java

Ver en GitHub Comentarios

import com.google.api.gax.rpc.ApiException;
import com.google.cloud.bigquery.datatransfer.v1.CreateTransferConfigRequest;
import com.google.cloud.bigquery.datatransfer.v1.DataTransferServiceClient;
import com.google.cloud.bigquery.datatransfer.v1.ProjectName;
import com.google.cloud.bigquery.datatransfer.v1.TransferConfig;
import com.google.protobuf.Struct;
import com.google.protobuf.Value;
import java.io.IOException;
import java.util.HashMap;
import java.util.Map;

// Sample to create redshift transfer config
public class CreateRedshiftTransfer {

  public static void main(String[] args) throws IOException {
    // TODO(developer): Replace these variables before running the sample.
    final String projectId = "MY_PROJECT_ID";
    String datasetId = "MY_DATASET_ID";
    String datasetRegion = "US";
    String jdbcUrl = "MY_JDBC_URL_CONNECTION_REDSHIFT";
    String dbUserName = "MY_USERNAME";
    String dbPassword = "MY_PASSWORD";
    String accessKeyId = "MY_AWS_ACCESS_KEY_ID";
    String secretAccessId = "MY_AWS_SECRET_ACCESS_ID";
    String s3Bucket = "MY_S3_BUCKET_URI";
    String redShiftSchema = "MY_REDSHIFT_SCHEMA";
    String tableNamePatterns = "*";
    String vpcAndReserveIpRange = "MY_VPC_AND_IP_RANGE";
    Map<String, Value> params = new HashMap<>();
    params.put("jdbc_url", Value.newBuilder().setStringValue(jdbcUrl).build());
    params.put("database_username", Value.newBuilder().setStringValue(dbUserName).build());
    params.put("database_password", Value.newBuilder().setStringValue(dbPassword).build());
    params.put("access_key_id", Value.newBuilder().setStringValue(accessKeyId).build());
    params.put("secret_access_key", Value.newBuilder().setStringValue(secretAccessId).build());
    params.put("s3_bucket", Value.newBuilder().setStringValue(s3Bucket).build());
    params.put("redshift_schema", Value.newBuilder().setStringValue(redShiftSchema).build());
    params.put("table_name_patterns", Value.newBuilder().setStringValue(tableNamePatterns).build());
    params.put(
        "migration_infra_cidr", Value.newBuilder().setStringValue(vpcAndReserveIpRange).build());
    TransferConfig transferConfig =
        TransferConfig.newBuilder()
            .setDestinationDatasetId(datasetId)
            .setDatasetRegion(datasetRegion)
            .setDisplayName("Your Redshift Config Name")
            .setDataSourceId("redshift")
            .setParams(Struct.newBuilder().putAllFields(params).build())
            .setSchedule("every 24 hours")
            .build();
    createRedshiftTransfer(projectId, transferConfig);
  }

  public static void createRedshiftTransfer(String projectId, TransferConfig transferConfig)
      throws IOException {
    try (DataTransferServiceClient client = DataTransferServiceClient.create()) {
      ProjectName parent = ProjectName.of(projectId);
      CreateTransferConfigRequest request =
          CreateTransferConfigRequest.newBuilder()
              .setParent(parent.toString())
              .setTransferConfig(transferConfig)
              .build();
      TransferConfig config = client.createTransferConfig(request);
      System.out.println("Cloud redshift transfer created successfully :" + config.getName());
    } catch (ApiException ex) {
      System.out.print("Cloud redshift transfer was not created." + ex.toString());
    }
  }
}

Cuotas y límites

BigQuery tiene una cuota de carga de 15 TB, por trabajo de carga, por tabla. Por dentro, Amazon Redshift comprime los datos de la tabla, por lo que el tamaño de la tabla exportada será mayor que el tamaño de la tabla informado por Amazon Redshift. Si planeas migrar una tabla de más de 15 TB, comunícate primero con bq-dts-support@google.com.

Ten en cuenta que se pueden incurrir costos fuera de Google por el uso de este servicio. Revisa las páginas de precios de Amazon Redshift y Amazon S3 para obtener más detalles.

Debido al modelo de coherencia de Amazon S3, es posible que algunos archivos no se incluyan en la transferencia a BigQuery.

¿Qué sigue?

Obtén información sobre cómo migrar instancias privadas de Amazon Redshift con VPC.
Obtén más información sobre el Servicio de transferencia de datos de BigQuery