En esta sección, se describen las opciones de Google Cloud que puedes usar para programar flujos de trabajo.
Plantillas de flujo de trabajo de Dataproc
Las plantillas de flujos de trabajo de Dataproc brindan un mecanismo flexible y fácil de usar para administrar y ejecutar flujos de trabajo. Una plantilla de flujo de trabajo es una configuración reutilizable de flujo de trabajo. Define un grafo de trabajos con información sobre dónde ejecutar esos trabajos.
Cloud Scheduler
Cloud Scheduler es un programador de trabajos cron de nivel empresarial completamente administrado. Te permite programar casi cualquier trabajo, incluidos los trabajos por lotes y de macrodatos, y operaciones de infraestructura de nube. Proporciona una programación simple basada en el tiempo, por ejemplo, diaria o por hora, sin necesidad de que escribas código.
Ventajas:
Permite la creación de instancias basadas en tiempo de plantillas de flujo de trabajo en función de expresiones cron conocidas
No hay que escribir código
Instructivo: Flujo de trabajo con Cloud Scheduler
Cloud Functions
Cloud Functions es una solución de procesamiento ligero que puedes usar para crear funciones individuales y de un solo propósito que respondan a eventos de Cloud sin necesidad de administrar un servidor o entorno de ejecución. Puedes usar Cloud Functions para iniciar flujos de trabajo en respuesta a eventos de Pub/Sub o cambios de archivo en Cloud Storage. Puedes usar Cloud Functions con Cloud Scheduler para flujos de trabajo que requieren el cálculo de los parámetros basados en el tiempo.
Ventajas:
Habilita la creación de instancias de flujos de trabajo en respuesta a eventos de datos, como archivos nuevos en eventos de Cloud Storage o Pub/Sub.
Codificación mínima requerida mediante las bibliotecas cliente de Go, Node.js o Python de Dataproc
Genera flujos de trabajo y parámetros de flujo de trabajo de forma dinámica
Instructivo: Flujo de trabajo con Cloud Functions
Cloud Composer
Cloud Composer es un servicio administrado de Apache Airflow que puedes usar para crear, programar, supervisar y administrar flujos de trabajo.
Ventajas:
Admite la programación basada en tiempo y en eventos
Llamadas simplificadas a Dataproc mediante Operators
Genera flujos de trabajo y parámetros de flujo de trabajo de forma dinámica
Crea flujos de datos que abarquen varios productos de Google Cloud
Instructivo: Flujo de trabajo con Cloud Composer