A continuación, se presenta una descripción general de alto nivel de cómo se factura cada capacidad clave de Dataplex Universal Catalog:

Nivel gratuito de Dataplex Universal Catalog para Knowledge Catalog

Como parte del nivel gratuito de Google Cloud, Knowledge Catalog ofrece algunos recursos sin costo hasta un límite específico. Estos límites de uso gratuito están disponibles durante el período de prueba y después de este. Si excedes los límites de uso una vez finalizado el período de prueba gratuita, se aplicarán cargos conforme a los precios que se indican en las secciones anteriores.

Nota: El nivel gratuito de Knowledge Catalog solo está disponible para el SKU de procesamiento estándar de Dataplex Universal Catalog y no para el SKU de procesamiento premium de Dataplex Universal Catalog.

Los cargos de DCU para cada función se calculan de la siguiente manera:

1. Análisis de calidad de los datos automática:

• El consumo de DCU-hora es proporcional al procesamiento involucrado en la creación de perfiles de los datos y el cálculo de las métricas de calidad de los datos. Se factura por segundo, con un mínimo de un minuto.
• El cargo depende de la cantidad de filas, la cantidad de columnas, la cantidad de datos que analizaste, la configuración de la regla de calidad de los datos, la configuración de partición y agrupamiento en clústeres de la tabla, y la frecuencia del análisis.
• Para los análisis de detección de anomalías en la calidad de los datos, no se aplican cargos de DCU. En cambio, se aplican los precios estándar de BigQuery para el procesamiento, el almacenamiento y el entrenamiento, el procesamiento y la implementación de modelos de BQML.
• Usar una identidad de ejecución personalizada cambia la forma en que se te factura el análisis. Cuando especificas una identidad de ejecución personalizada, los costos de procesamiento y almacenamiento asociados con el análisis se facturan directamente a tu proyecto de BigQuery, lo que omite los SKUs estándar de Dataplex Premium.

2. Existen varias opciones para reducir el costo de los análisis automáticos de calidad de los datos:

• Muestreo
• Análisis incrementales
• Para separar los cargos de calidad de los datos de otros cargos en el SKU de procesamiento premium de Dataplex, en el informe de Cloud Billing, usa la etiqueta goog-dataplex-workload-type con el valor DATA_QUALITY.

3. Para filtrar los cargos agregados, usa las siguientes etiquetas disponibles en la exportación de facturación en BigQuery:

• goog-dataplex-datascan-data-source-dataplex-entity
• goog-dataplex-datascan-data-source-dataplex-lake
• goog-dataplex-datascan-data-source-dataplex-zone
• goog-dataplex-datascan-data-source-project
• goog-dataplex-datascan-data-source-region
• goog-dataplex-datascan-id
• goog-dataplex-datascan-job-id

4. Análisis de creación de perfiles de datos:

• El consumo de DCU-hora es proporcional al procesamiento involucrado en la creación de perfiles de los datos y el cálculo de las métricas de calidad de los datos. Se factura por segundo, con un mínimo de un minuto.
• El cargo depende de la cantidad de filas y columnas, la cantidad de datos analizados, la configuración de partición y agrupamiento en clústeres de la tabla, y la frecuencia del análisis.
• Usar una identidad de ejecución personalizada cambia la forma en que se te factura el análisis. Cuando especificas una identidad de ejecución personalizada, los costos de procesamiento y almacenamiento asociados con el análisis se facturan directamente a tu proyecto de BigQuery, lo que omite los SKUs estándar de Dataplex Premium.

5. Existen varias opciones para reducir el costo de los análisis de creación de perfiles de datos:

• Muestreo
• Análisis incrementales
• Filtrado de columnas
• Filtrado de filas
• Para separar los cargos de creación de perfiles de datos de otros cargos en el SKU de procesamiento premium de Dataplex, en el informe de Facturación de Cloud, usa la etiqueta goog-dataplex-workload-type con el valor DATA_PROFILE.

6. Para filtrar los cargos agregados, usa las siguientes etiquetas disponibles en la exportación de facturación en BigQuery:

• goog-dataplex-datascan-data-source-dataplex-entity
• goog-dataplex-datascan-data-source-dataplex-lake
• goog-dataplex-datascan-data-source-dataplex-zone
• goog-dataplex-datascan-data-source-project
• goog-dataplex-datascan-data-source-region
• goog-dataplex-datascan-id
• goog-dataplex-datascan-job-id

Las siguientes actividades generan cargos:

• Análisis automático de linaje: Consume horas de unidad de procesamiento de datos (DCU) según la complejidad del procesamiento. Las DCU miden la capacidad de procesamiento abstracta asignada para realizar el análisis. El consumo se calcula en función de la cantidad de trabajos, ejecuciones de trabajos y vínculos de linaje creados. 

Estos costos se generan cuando el sourceType Origin de la API de Data Lineage se establece en cualquier valor que no sea CUSTOM. Los valores como BIGQUERY, DATAPROC o COMPOSER indican que Google Cloud extrae automáticamente el linaje de los registros y metadatos del servicio. Este proceso de extracción requiere recursos de procesamiento (DCU), por lo que se cobra. Por el contrario, CUSTOM indica que realizaste el análisis tú mismo y solo estás almacenando el resultado, lo que es gratis.

Las siguientes actividades son gratuitas:

• Informes de linaje personalizados: Los informes de linaje de sistemas de terceros o integraciones personalizadas (en los que sourceType es CUSTOM) son gratuitos. Esto incluye los siguientes métodos:
• Llamar a ProcessOpenLineageRunEvent, que te permite importar eventos compatibles con OpenLineage
• Crear un LineageEvent con un cliente personalizado para informar manualmente eventos de linaje nativos
• Procesos y ejecuciones de informes: Informar los metadatos del proceso en sí es gratis; solo se aplican cargos al análisis automático de LineageEvents.
• Consumo de linaje: La recuperación de linaje (con los métodos Get o List) y el borrado de linaje (con los métodos Delete) son gratuitos.

En este ejemplo, habilitarás el linaje de datos para hacer un seguimiento del linaje de BigQuery en tu proyecto. El proyecto está en la ubicación us-central1, donde una hora de DCU cuesta $0.089.

Informar el linaje hacia o desde un EntityReference cuesta aproximadamente 0.0056 horas de DCU. Un EntityReference identifica de forma única un recurso de datos en Google Cloud, como una tabla de BigQuery o un bucket de Cloud Storage.

• Trabajo diario: Ejecutas el siguiente trabajo de BigQuery una vez al día durante 30 días:

CREATE TABLE tableB1 AS SELECT * FROM tableA JOIN tableC USING (column);

Resultado: Esta operación genera vínculos de linaje que conectan dos tablas de origen con una tabla de destino (3 entidades distintas).

• Trabajo cada dos días: Ejecutas el siguiente trabajo cada dos días (15 veces al mes):

CREATE TABLE tableB2 AS SELECT * FROM tableA, tableC, tableD;

Resultado: Esta operación genera vínculos de linaje que conectan tres tablas de origen a una tabla de destino (4 entidades distintas).

Cálculo de costos

Para este mes, supongamos que se generó 1 GiB de metadatos de linaje de datos. Los costos se calculan de la siguiente manera:

• Trabajo diario: 30 días * 3 entidades * ~0.0056 horas de DCU * $0.089 ~= $0.045
• Trabajo en días alternos: 15 días × 4 entidades × 0.0056 horas de DCU × $0.089 = $0.030
• Almacenamiento: (1 GiB - 1 MiB de nivel gratuito) * $2.00 = $1.998

Total: ~$0.045 + $0.030 + $1.998 = ~$2.07

A medida que los usuarios interactúan con Knowledge Catalog, las llamadas a la API son gratuitas, lo que incluye lo siguiente:

• Creación y administración de recursos de Dataplex Universal Catalog
• Crea y administra recursos de linaje
• Búsqueda en el catálogo

En esta sección, se proporcionan ejemplos de cómo calcular el costo de Dataplex Universal Catalog.

Aspectos menores

• El usuario A crea y aplica aspectos pequeños (1,024 bytes cada uno). Por $10 al mes, el usuario puede almacenar 5 GiB de metadatos, lo que corresponde aproximadamente a 5 M de aspectos. Si se supone que hay un aspecto por tabla, esto equivale a un total de 5 millones de tablas con aspectos.
• El usuario B crea 5 millones de aspectos de 1 KB cada uno el día 10 del mes y los borra el día 20. El costo es de $3.33, calculado como 5 GiB de datos divididos por un tercio de un mes:

En esta sección, se describen los precios de Data Catalog, que se encuentra en la fase de obsolescencia (transición a Dataplex Universal Catalog para evitar la interrupción del servicio).

Se aplican cargos de Data Catalog al almacenamiento de metadatos para Data Catalog y a las llamadas a la API de Data Catalog.

Los cargos por almacenamiento de metadatos y llamadas a la API se aplican por día. Puedes ver el uso no facturado en la consola de Google Cloud.

Nota: Los modelos de precios se aplican a las cuentas, no a los proyectos, a menos que se especifique lo contrario.

Las llamadas a la API de Data Catalog se facturan como se describe en la siguiente tabla:

Nota: Las búsquedas realizadas en la página de Data Catalog en la consola de Google Cloud se ofrecen sin cargo.