Guía de inicio rápido para las plantillas

Guía de inicio rápido para las plantillas

En esta guía de inicio rápido, se muestra cómo crear una canalización de transmisión con una plantilla de Dataflow proporcionada por Google. Específicamente, esta guía de inicio rápido utiliza la plantilla Tema de Pub/Sub a BigQuery como ejemplo.

La plantilla Tema de Pub/Sub a BigQuery es una canalización de transmisión que lee mensajes con formato JSON de un tema de Pub/Sub y los escribe en una tabla de BigQuery.

---

Para obtener una guía paso a paso sobre esta tarea directamente en la consola, haz clic en Guiarme:

GUIARME

---

En las siguientes secciones, se explican los mismos pasos que cuando se hace clic en Guiarme.

Antes de comenzar

1. Accede a tu cuenta de Google Cloud. Si eres nuevo en Google Cloud, crea una cuenta para evaluar el rendimiento de nuestros productos en situaciones reales. Los clientes nuevos también obtienen $300 en créditos gratuitos para ejecutar, probar y, además, implementar cargas de trabajo.

2. En la página del selector de proyectos de la consola de Google Cloud, selecciona o crea un proyecto de Google Cloud.

   Nota: Si no planeas conservar los recursos que creaste durante este procedimiento, crea un proyecto en lugar de seleccionar uno existente. Cuando termines, puedes borrar el proyecto y quitar todos los recursos asociados con él.

   Ir al selector de proyectos

3. Asegúrate de que la facturación esté habilitada para tu proyecto de Google Cloud.

4. Habilita las API de Dataflow, Compute Engine, Cloud Logging, Cloud Storage, Google Cloud Storage JSON, BigQuery, Pub/Sub, and Resource Manager.

   Habilita las API

5. En la página del selector de proyectos de la consola de Google Cloud, selecciona o crea un proyecto de Google Cloud.

   Nota: Si no planeas conservar los recursos que creaste durante este procedimiento, crea un proyecto en lugar de seleccionar uno existente. Cuando termines, puedes borrar el proyecto y quitar todos los recursos asociados con él.

   Ir al selector de proyectos

6. Asegúrate de que la facturación esté habilitada para tu proyecto de Google Cloud.

7. Habilita las API de Dataflow, Compute Engine, Cloud Logging, Cloud Storage, Google Cloud Storage JSON, BigQuery, Pub/Sub, and Resource Manager.

   Habilita las API

8. Cree un bucket de Cloud Storage:
1. En la consola de Google Cloud, ve a la página Buckets de Cloud Storage.

   Ir a la página Buckets

2. Haga clic en Crear bucket.
3. En la página Crear un bucket, ingresa la información de tu bucket. Para ir al paso siguiente, haz clic en Continuar.
   • En Nombre del bucket, ingresa un nombre de bucket único. No incluyas información sensible en el nombre del bucket porque su espacio de nombres es global y públicamente visible.
   • En Elige dónde almacenar tus datos, haz lo siguiente:
     • Selecciona una opción de Tipo de ubicación.
     • Selecciona una opción de Ubicación.
   • Para Elegir una clase de almacenamiento predeterminado para tus datos, selecciona lo siguiente:Estándar.
   • En Elige cómo controlar el acceso a los objetos, selecciona una opción de Control de acceso.
   • Para la Configuración avanzada (opcional), especifica un método de encriptación, una política de retención o etiquetas de bucket.
4. Haga clic en Crear.
9. Copia lo siguiente, ya que los necesitarás en una sección posterior:
   • : Es el nombre del bucket de Cloud Storage.
   • Tu ID del proyecto de Google Cloud.
     
     Para encontrar este ID, consulta Identifica proyectos.

10. Para completar los pasos de esta guía de inicio rápido, tu cuenta de usuario debe tener los roles de Administrador de Dataflow y Usuario de cuenta de servicio. La cuenta de servicio predeterminada de Compute Engine debe tener el rol de trabajador de Dataflow. Para agregar los roles necesarios en la consola, haz lo siguiente:

    1. En la consola, ve a la página IAM.
       Ir a IAM
    2. Selecciona tu proyecto.
    3. En la fila que contiene tu cuenta de usuario, haz clic en Editar principal y, luego, en Agregar otro rol.
    4. En la lista desplegable, selecciona el rol Administrador de Dataflow.
    5. Repite los pasos para el rol Usuario de cuenta de servicio y, luego, haz clic en Guardar.
    6. En la fila que contiene la cuenta de servicio predeterminada de Compute Engine, haz clic en Editar principal y, luego, en Agregar otro rol.
    7. En la lista desplegable, selecciona el rol Trabajador de Dataflow.
    8. Repite para los roles Pub/Sub Editor y BigQuery Data Editor y, luego, haz clic en Guardar.

       Para obtener más información sobre cómo otorgar roles, consulta Otorga un rol de IAM mediante la consola.

11. Cada proyecto nuevo comienza con una red predeterminada, a menos que decidas inhabilitarla. Si tu proyecto no tiene una red predeterminada, debes tener una red en tu proyecto en la que tu cuenta de usuario tenga el rol de usuario de la red de Compute (roles/compute.networkUser).

Crea un conjunto de datos y una tabla de BigQuery

Crea un conjunto de datos de BigQuery y una tabla de BigQuery con el esquema adecuado para tu tema de Pub/Sub con la consola.

En este ejemplo, el nombre del conjunto de datos es taxirides y el nombre de la tabla es realtime. Para crear este conjunto de datos y esta tabla, sigue estos pasos:

1. En la consola, ve a la página BigQuery.
   Ir a BigQuery
2. En el panel Explorador junto al proyecto en el que deseas crear el conjunto de datos, haz clic en Ver acciones y, luego, haz clic en Crear conjunto de datos.
   Nota: La experiencia predeterminada es la vista previa de la consola. Si hiciste clic en Ocultar funciones de vista previa para ir a la consola, realiza el siguiente paso: En el panel de navegación, en la sección Recursos, selecciona el proyecto.
3. En el panel Crear conjunto de datos, sigue estos pasos:
1. En ID del conjunto de datos, ingresa taxirides.
2. En Ubicación de los datos, elija Estados Unidos (EE.UU.). Los conjuntos de datos públicos se almacenan en la ubicación multirregión de US. Para que sea más simple, coloca tu conjunto de datos en la misma ubicación.
   Nota: Los ID de conjuntos de datos son únicos para cada proyecto de Google Cloud.
3. Deja los valores de configuración predeterminados para el resto de la configuración y haz clic en Crear conjunto de datos.
4. En el panel Explorador, expande tu proyecto.
5. Junto al conjunto de datos taxirides, haz clic en , en Ver acciones y, luego, en Abrir.
   Nota: La experiencia predeterminada es la vista previa de la consola. Si hiciste clic en Ocultar funciones en vista previa para ir a la consola, realiza el siguiente paso: En la sección Recursos del panel de navegación, selecciona el conjunto de datos taxirides.
6. En el panel de detalles, haz clic en Crear tabla (Create table).
7. En el panel Crear tabla, sigue estos pasos:
1. En la sección Origen, para Crear tabla desde, selecciona Tabla vacía.
2. En la sección Destino, para Nombre de tabla, ingresa realtime.
3. En la sección Esquema, haz clic en el interruptor Editar como texto y pega la siguiente definición de esquema en el cuadro:
   

   ride_id:string,point_idx:integer,latitude:float,longitude:float,timestamp:timestamp,
   meter_reading:float,meter_increment:float,ride_status:string,passenger_count:integer

4. En la sección Configuración del clúster y particiones, en Partición, selecciona el campo Marca de tiempo.
8. Deja los valores predeterminados para el resto de la configuración y haz clic en Crear tabla.

Ejecute la canalización

Ejecuta una canalización de transmisión con la plantilla Tema de Pub/Sub a BigQuery proporcionada por Google. La canalización obtiene datos entrantes del tema de entrada.

1. En la consola, ve a la página Trabajos de Dataflow.
   IR A TRABAJOS
2. Haz clic en Crear trabajo a partir de una plantilla.
3. Ingresa taxi-data como el Nombre del trabajo para tu trabajo de Dataflow.
4. En Plantilla de Dataflow, selecciona la plantilla Tema de Pub/Sub a BigQuery.
5. En Tema de entrada de Cloud Pub/Sub, haz clic en Ingresar tema de forma manual.
6. En el cuadro de diálogo, en Nombre del tema, ingresa lo siguiente y, luego, haz clic en Guardar:

   projects/pubsub-public-data/topics/taxirides-realtime

   Este tema de Pub/Sub disponible al público se basa en el conjunto de datos abierto de la Comisión de Taxis y Limusinas de la Ciudad de Nueva York. El siguiente es un mensaje de muestra de este tema, en formato JSON:

   {
     "ride_id": "19c41fc4-e362-4be5-9d06-435a7dc9ba8e",
     "point_idx": 217,
     "latitude": 40.75399,
     "longitude": -73.96302,
     "timestamp": "2021-03-08T02:29:09.66644-05:00",
     "meter_reading": 6.293821,
     "meter_increment": 0.029003782,
     "ride_status": "enroute",
     "passenger_count": 1
   }

7. En Tabla de salida de BigQuery, ingresa lo siguiente:

   PROJECT_ID:taxirides.realtime

   Reemplaza PROJECT_ID por el ID del proyecto en el que creaste tu conjunto de datos de BigQuery.

8. En Ubicación temporal, ingresa lo siguiente:

   BUCKET_NAME/temp/

   Reemplaza BUCKET_NAME por el nombre de tu bucket de Cloud Storage. La carpeta temp almacena archivos temporales, como el trabajo de canalización en etapa de pruebas.

9. Si tu proyecto no tiene una red predeterminada, haz clic en Mostrar parámetros opcionales y, luego, ingresa una Red y una Subred.. Para obtener más información, consulta Especifica una red y una subred.
10. Haz clic en Ejecutar trabajo.

Ve los resultados

Para ver los datos escritos en tu tabla realtime, sigue estos pasos:

1. En la consola, ve a la página BigQuery.

   Ir a BigQuery

2. En la búsqueda Editor, pega la siguiente consulta:

   SELECT * FROM `PROJECT_ID.taxirides.realtime`
   WHERE `timestamp` > TIMESTAMP_SUB(CURRENT_TIMESTAMP(), INTERVAL 1 DAY)
   LIMIT 1000

   Reemplaza PROJECT_ID por el ID del proyecto en el que creaste tu conjunto de datos de BigQuery. Los datos pueden tardar hasta un minuto en comenzar a aparecer en la tabla.

3. Haga clic en Ejecutar.

   La consulta muestra las filas que se agregaron a tu tabla en las últimas 24 horas. También puedes ejecutar consultas con SQL estándar.

Limpia

Sigue estos pasos para evitar que se apliquen cargos a tu cuenta de Google Cloud por los recursos que usaste en esta página.

Borra el proyecto

La manera más fácil de eliminar la facturación es borrar el proyecto de Google Cloud que creaste para la guía de inicio rápido.

Precaución: Borrar un proyecto tiene estas consecuencias:

• Se borra todo en el proyecto. Si usaste un proyecto existente para las tareas de este documento, cuando lo borres, también se borrará cualquier otro trabajo que hayas realizado en el proyecto.
• Se pierden los ID personalizados de proyectos. Cuando creaste este proyecto, es posible que hayas creado un ID del proyecto personalizado que desees utilizar en el futuro. Para conservar las URL que utilizan el ID del proyecto, como una URL appspot.com, borra los recursos seleccionados dentro del proyecto en lugar de borrar todo el proyecto.

Si planeas explorar varias infraestructuras, instructivos y guías de inicio rápido la reutilización de proyectos puede ayudarte a evitar exceder los límites de las cuotas del proyecto.

1. En la consola de Google Cloud, ve a la página Administrar recursos.

   Ir a Administrar recursos

2. En la lista de proyectos, elige el proyecto que quieres borrar y haz clic en Borrar.
3. En el diálogo, escribe el ID del proyecto y, luego, haz clic en Cerrar para borrar el proyecto.

Borra los recursos individuales

Si deseas conservar el proyecto Google Cloud que usaste en esta guía de inicio rápido, borra los recursos individuales:

1. En la consola, ve a la página Trabajos de Dataflow.
   IR A TRABAJOS
2. Selecciona tu trabajo de transmisión en la lista de trabajos.
3. En la navegación, haz clic en Detener.
4. En el cuadro de diálogo Detener trabajo, cancela o desvía tu canalización y, luego, haz clic en Detener el trabajo.
5. En la consola, ve a la página BigQuery.
   IR A BigQuery
6. En el panel Explorador, expande tu proyecto.
7. Junto al conjunto de datos que deseas borrar, haz clic en Ver acciones y, luego, en Abrir.
8. En el panel de detalles, haz clic en Borrar conjunto de datos y, luego, sigue las instrucciones.
9. En la consola de Google Cloud, ve a la página Buckets de Cloud Storage.

   Ir a Buckets

10. Haz clic en la casilla de verificación del bucket que deseas borrar.
11. Para borrar el bucket, haz clic en Borrar y sigue las instrucciones.

¿Qué sigue?

• Descripción general de las plantillas de Dataflow
• Crea plantillas clásicas
• Ejecuta plantillas clásicas
• Plantillas que proporciona Google