Modelo de programación de Apache Beam

Dataflow se basa en el proyecto de código abierto de Apache Beam. En este documento, se describe el modelo de programación de Apache Beam.

Descripción general

Apache Beam es un modelo unificado de código abierto para definir canalizaciones por lotes y de transmisión. El modelo de programación de Apache Beam simplifica la mecánica del procesamiento de datos a gran escala. Con uno de los SDK de Apache Beam, puedes compilar un programa que define la canalización. Luego, ejecuta la canalización en una plataforma específica como Dataflow. Este modelo te permite concentrarte en la composición lógica de los trabajos de procesamiento de datos en lugar de en la administración física del procesamiento paralelo.

Apache Beam te aísla de los detalles de bajo nivel del procesamiento distribuido, como la coordinación de trabajadores individuales, la fragmentación de conjuntos de datos y otras tareas similares. Dataflow administra completamente estos detalles de bajo nivel.

Una canalización es un grafo de transformaciones que se aplican a colecciones de datos. En Apache Beam, una colección se llama PCollection, y una transformación se llama PTransform. Una PCollection puede estar delimitada o no. Un PCollection delimitado tiene un tamaño fijo y conocido, y se puede procesar mediante una canalización por lotes. La PCollections no delimitada debe usar una canalización de transmisión, ya que los datos se procesan a medida que llegan.

Apache Beam proporciona conectores para leer y escribir en diferentes sistemas, incluidos los servicios de Google Cloud y las tecnologías de terceros, como Apache Kafka.

En el siguiente diagrama, se muestra una canalización de Apache Beam.

Diagrama de una canalización de Apache Beam

Puedes escribir PTransforms que realice una lógica arbitraria. Los SDK de Apache Beam también proporcionan una biblioteca de PTransforms útil lista para usar, que incluye lo siguiente:

Filtra todos los elementos que no cumplan con un predicado.
Aplica una función de asignación uno a uno sobre cada elemento.
Agrupa elementos por clave.
Cómo contar los elementos de una colección
Cuenta los elementos asociados con cada clave en una colección de clave-valor.

Para ejecutar una canalización de Apache Beam con Dataflow, sigue estos pasos:

Usar el SDK de Apache Beam para definir y compilar la canalización. Como alternativa, puedes implementar una canalización compilada previamente con una plantilla de Dataflow.
Usa Dataflow para ejecutar la canalización. Dataflow asigna un grupo de VM para ejecutar el trabajo, implementa el código en las VM y organiza el trabajo.
Dataflow realiza optimizaciones en el backend para que la canalización se ejecute de manera eficiente y aproveche la paralelización.
Mientras se ejecuta un trabajo y después de que se completa, usa las capacidades de administración de Dataflow para supervisar el progreso y solucionar problemas.

Conceptos de Apache Beam

Esta sección contiene resúmenes de conceptos fundamentales.

Conceptos básicos

Canalizaciones: Una canalización encapsula la serie completa de procesamientos que participan en la lectura de los datos de entrada, la transformación de esos datos y la escritura de los datos de salida. La fuente de entrada y el receptor de salida pueden ser del mismo tipo o de tipos diferentes, lo que te permite convertir los datos de un formato en otro con facilidad. Los programas de Apache Beam comienzan por crear un objeto Pipeline y, luego, usan ese objeto como la base para crear los conjuntos de datos de canalización. Cada canalización representa un trabajo único y repetible.
PCollection: Una PCollection representa un conjunto de datos de elementos múltiples que puede distribuirse y que actúa como los datos de la canalización. Las transformaciones de Apache Beam utilizan objetos PCollection como entradas y salidas para cada paso de tu canalización. Una PCollection puede contener un conjunto de datos de un tamaño fijo o un conjunto de datos no delimitado de una fuente de datos que se actualiza continuamente.
Transformaciones: Una transformación representa una operación de procesamiento que transforma datos. Una transformación toma uno o más objetos PCollection como entrada, realiza una operación que especificas en cada elemento de esa colección y produce uno o más objetos PCollection como salida. Una transformación puede realizar casi cualquier tipo de operación de procesamiento, incluidos los cálculos matemáticos de datos, la conversión de datos de un formato a otro, la agrupación de datos, la lectura y escritura de datos, el filtro de datos para mostrar solo aquellos elementos que desees o la combinación de elementos de datos en valores únicos.
ParDo: ParDo es la operación de procesamiento paralelo central de los SDK de Apache Beam, que invoca una función especificada por el usuario en cada uno de los elementos del objeto PCollection de entrada. ParDo recopila los elementos de salida en un objeto PCollection de salida. La transformación ParDo procesa los elementos de forma independiente y también puede hacerlo en paralelo.
E/S de canalización: Los conectores de E/S de Apache Beam te permiten leer datos en tu canalización y escribir datos de salida desde tu canalización. Un conector de E/S consta de una fuente y un receptor. Todas las fuentes y receptores de Apache Beam son transformaciones que permiten que las canalizaciones funcionen con datos de varios formatos de almacenamiento de datos diferentes. También puedes escribir un conector de E/S personalizado.
Agregación: La agregación es el proceso de procesar algunos valores de varios elementos de entrada. El principal patrón de procesamiento para agregación en Apache Beam es agrupar todos los elementos con una clave y ventana comunes. Luego, combina cada grupo de elementos con una operación asociativa y conmutativa.
Funciones definidas por el usuario (UDF): Algunas operaciones de Apache Beam permiten ejecutar código definido por el usuario para configurar la transformación. Para ParDo, el código definido por el usuario especifica la operación que se aplica a cada elemento, y para Combine, especifica cómo se deben combinar los valores. Una canalización puede contener UDF escritos en un lenguaje diferente del lenguaje del ejecutor. Una canalización también puede contener UDF escritos en varios lenguajes.
Ejecutor: Los ejecutores son software que acepta una canalización y la ejecuta. La mayoría de los ejecutores son traductores o adaptadores para sistemas de procesamiento de macrodatos masivamente paralelos. Existen otros ejecutores diseñados para las pruebas locales y la depuración.
Origen: Una transformación que lee desde un sistema de almacenamiento externo. Por lo general, una canalización lee datos de entrada de una fuente. La fuente tiene un tipo, que puede ser diferente del tipo de receptor, por lo que puedes cambiar el formato de los datos a medida que se mueven a través de la canalización.
Receptor: Una transformación que escribe en un sistema de almacenamiento de datos externo, como un archivo o una base de datos.
TextIO: Una PTransform para leer y escribir archivos de texto. La fuente y el receptor de TextIO admiten archivos comprimidos con gzip y bzip2. La fuente de entrada de TextIO es compatible con JSON. Sin embargo, para que el servicio de Dataflow pueda paralelizar la entrada y salida, los datos de origen deben delimitarse con un salto de línea. Puedes usar una expresión regular para orientar archivos específicos con la fuente de TextIO. Dataflow admite patrones de comodines generales. La expresión glob puede aparecer en cualquier parte de la ruta de acceso del archivo. Sin embargo, Dataflow no admite comodines recurrentes (**).

Conceptos avanzados

Hora del evento: Es el momento en que se produce un evento de datos, que se determina según la marca de tiempo del elemento de datos. Es distinto al momento en que se procesa el elemento real en cualquier etapa de la canalización.
Sistema de ventanas: Los sistemas de ventanas permiten agrupar las operaciones de las colecciones no delimitadas mediante la división de la colección en ventanas de colecciones finitas según las marcas de tiempo de los elementos individuales. Una función analítica le dice al ejecutor cómo asignar elementos a una ventana inicial y cómo combinar ventanas de elementos agrupados. Apache Beam te permite definir diferentes tipos de ventanas o utilizar las funciones de sistemas de ventanas predefinidas.
Marcas de agua: Apache Beam hace un seguimiento de una marca de agua, que es la noción del sistema de cuándo se puede esperar que todos los datos en una ventana específica hayan llegado a la canalización. Apache Beam realiza un seguimiento de una marca de agua porque no se garantiza que los datos lleguen en orden de tiempo o en intervalos predecibles a una canalización. Además, no se garantiza que los eventos de datos aparezcan en la canalización en el mismo orden en que se generaron.
Activador: Los activadores determinan cuándo emitir resultados agregados a medida que llegan los datos. Para los datos delimitados, los resultados se emiten después de que se han procesado todas las entradas. Para los datos no delimitados, los resultados se emiten cuando la marca de agua pasa el final de la ventana, lo que indica que el sistema cree que se procesaron todos los datos de entrada para esa ventana. Apache Beam proporciona varios activadores predefinidos que se pueden combinar.

¿Qué sigue?

Para obtener más información sobre los conceptos básicos de compilación de canalizaciones con los SDK de Apache Beam, consulta la Guía de programación de Apache Beam en la documentación de Apache Beam.
Para obtener más detalles sobre las capacidades de Apache Beam compatibles con Dataflow, consulta la matriz de capacidad de Apache Beam.

Apache Beam® es una marca registrada de The Apache Software Foundation o sus afiliados de Estados Unidos y otros países.