E/S administrada de Dataflow para Apache Iceberg

La E/S administrada admite las siguientes funciones para Apache Iceberg:

Catálogos
Cómo leer las capacidades Lectura por lotes
Funciones de escritura

Para las tablas de BigQuery para Apache Iceberg, usa el conector BigQueryIO con la API de BigQuery Storage. La tabla ya debe existir. No se admite la creación de tablas dinámicas.

Requisitos

Requiere el SDK de Apache Beam para Java, versión 2.58.0 o posterior.

Configuración

La E/S administrada usa los siguientes parámetros de configuración para Apache Iceberg:

Lee y escribe la configuración Tipo de datos Descripción
table string Es el identificador de la tabla de Apache Iceberg. Examplo: "db.table1".
catalog_name string Es el nombre del catálogo. Ejemplo: "local".
catalog_properties mapa Un mapa de propiedades de configuración para el catálogo de Apache Iceberg. Las propiedades obligatorias dependen del catálogo. Para obtener más información, consulta CatalogUtil en la documentación de Apache Iceberg.
config_properties mapa Un conjunto opcional de propiedades de configuración de Hadoop. Para obtener más información, consulta CatalogUtil en la documentación de Apache Iceberg.
Cómo escribir la configuración Tipo de datos Descripción
triggering_frequency_seconds integer Para las canalizaciones de escritura de transmisión, es la frecuencia con la que el receptor intenta producir instantáneas, en segundos.

Para obtener más información y ejemplos de código, consulta los siguientes temas: