Los cargos de DCU por cada función se calculan de la siguiente manera:
- Calidad de los datos
Análisis de calidad de los datos automáticos:
- El consumo de horas de DCU es proporcional al procesamiento que conlleva perfilar los datos y calcular las métricas de calidad de los datos. Se factura por segundo, con un mínimo de un minuto.
- El cargo depende del número de filas, del número de columnas, de la cantidad de datos que hayas analizado, de la configuración de las reglas de calidad de los datos, de los ajustes de partición y de agrupación en clústeres de la tabla, y de la frecuencia del análisis.
- No se aplican cargos de DCU por los análisis de detección de anomalías de calidad de los datos. En su lugar, se aplican los precios estándar de BigQuery por la computación, el almacenamiento y el entrenamiento, el procesamiento y el despliegue de modelos de BQML.
- Si usas una identidad de ejecución personalizada, cambiará la forma en que se te factura el análisis. Cuando especificas una identidad de ejecución personalizada, los costes de computación y almacenamiento asociados al análisis se facturan directamente a tu proyecto de BigQuery, sin pasar por los SKUs estándar de Dataplex Premium.
Hay varias opciones para reducir el coste de los análisis automáticos de calidad de los datos:
Para filtrar los cargos agregados, usa las siguientes etiquetas disponibles en la exportación de facturación de BigQuery:
- goog-dataplex-datascan-data-source-dataplex-entity
- goog-dataplex-datascan-data-source-dataplex-lake
- goog-dataplex-datascan-data-source-dataplex-zone
- goog-dataplex-datascan-data-source-project
- goog-dataplex-datascan-data-source-region
- goog-dataplex-datascan-id
- goog-dataplex-datascan-job-id
2. Perfiles de datos
Análisis de elaboración de perfiles de datos:
- El consumo de horas de DCU es proporcional al procesamiento que conlleva perfilar los datos y calcular las métricas de calidad de los datos. Se factura por segundo, con un mínimo de un minuto.
- El cargo depende del número de filas, del número de columnas, de la cantidad de datos analizados, de la configuración de particiones y de clústeres de la tabla, y de la frecuencia del análisis.
- Si usas una identidad de ejecución personalizada, cambiará la forma en que se te factura el análisis. Cuando especificas una identidad de ejecución personalizada, los costes de computación y almacenamiento asociados al análisis se facturan directamente a tu proyecto de BigQuery, sin pasar por los SKUs estándar de Dataplex Premium.
Hay varias opciones para reducir el coste de los análisis de elaboración de perfiles de datos:
- Muestreo
- Análisis incrementales
- Filtrado de columnas
- Filtrado de filas
- Para separar los cargos de elaboración de perfiles de datos de otros cargos en el SKU de procesamiento premium de Dataplex, en el informe de Facturación de Cloud, usa la etiqueta goog-dataplex-workload-type con el valor DATA_PROFILE.
Para filtrar los cargos agregados, usa las siguientes etiquetas disponibles en la exportación de facturación de BigQuery:
- goog-dataplex-datascan-data-source-dataplex-entity
- goog-dataplex-datascan-data-source-dataplex-lake
- goog-dataplex-datascan-data-source-dataplex-zone
- goog-dataplex-datascan-data-source-project
- goog-dataplex-datascan-data-source-region
- goog-dataplex-datascan-id
- goog-dataplex-datascan-job-id
3. Linaje de datos
Pagas por dos cosas: la computación que consumen los informes de linaje automáticos de los sistemas de Google Cloud compatibles (se factura a través del SKU de procesamiento premium de Dataplex, en horas de DCU) y el almacenamiento de los metadatos de linaje resultantes (procesos, ejecuciones, eventos de linaje y enlaces) durante el tiempo que se conserven (de forma predeterminada, 30 días; se factura a través del SKU de almacenamiento de metadatos de Knowledge Catalog, por GiB al mes; consulta los precios de almacenamiento de metadatos). La facturación aparece en el proyecto en el que has ejecutado la tarea.
Para separar los cargos de linaje de datos de otros cargos de los SKUs de procesamiento premium y almacenamiento de metadatos de Dataplex, usa la etiqueta goog-dataplex-workload-type con el valor LINEAGE en el informe de Facturación de Cloud.
Uso facturable y no facturable
Las siguientes actividades conllevan cargos:
- Análisis automático de linaje: consume horas de unidad de computación de datos (DCU) en función de la complejidad del procesamiento. Las DCUs miden la capacidad de computación abstracta asignada para realizar el análisis. El consumo se calcula en función del número de tareas, de ejecuciones de tareas y de enlaces de linaje creados.
- Almacenamiento de metadatos de linaje: los metadatos de linaje (procesos, ejecuciones, eventos de linaje y enlaces) se conservan durante un periodo limitado (de forma predeterminada, 30 días) y se facturan con el SKU de almacenamiento de metadatos mientras estén almacenados. Los cargos de almacenamiento se detienen cuando los metadatos caducan al final del periodo de retención o cuando los eliminas.
Incurres en costes de DCU cuando el sourceType Origin de la API Data Lineage tiene un valor distinto de CUSTOM. Los valores como BIGQUERY, DATAPROC o COMPOSER indican que Google Cloud extrae automáticamente el linaje de los registros y metadatos del servicio. Este proceso de extracción requiere recursos de computación (DCUs), por lo que es facturable. Por el contrario, CUSTOM indica que has realizado el análisis tú mismo, por lo que no se aplica ningún cargo por procesamiento premium (DCU). El resultado almacenado está sujeto a los precios de almacenamiento de metadatos, como cualquier otro metadato de linaje.
Las siguientes actividades son sin coste:
- Informes de linaje personalizados: los informes de linaje de sistemas de terceros o integraciones personalizadas (en los que sourceType es CUSTOM) no conllevan ningún cargo de procesamiento premium. Los precios del almacenamiento de metadatos se siguen aplicando al linaje almacenado. Esto incluye los siguientes métodos:
- Llamar a ProcessOpenLineageRunEvent, que te permite importar eventos compatibles con OpenLineage.
- Crear un LineageEvent con un cliente personalizado para registrar manualmente eventos de linaje nativos.
- Procesos y ejecuciones de informes: registrar los metadatos del proceso se realiza sin coste; solo se aplican cargos por el análisis automático de LineageEvents.
- Consumo de linaje: recuperar el linaje (con los métodos Get o List) y eliminarlo (con los métodos Delete) es sin coste.
Ejemplo de precios
En este ejemplo, habilitas el linaje de datos para hacer un seguimiento del linaje de BigQuery en tu proyecto. El proyecto se encuentra en la ubicación us-central1, donde una hora de DCU cuesta 0,089 USD.
Registrar el linaje hacia o desde una EntityReference cuesta aproximadamente 0,0056 horas de DCU. Un EntityReference identifica de forma única un recurso de datos de Google Cloud, como una tabla de BigQuery o un segmento de Cloud Storage.
- Tarea diaria: ejecutas la siguiente tarea de BigQuery una vez al día durante 30 días:
CREATE TABLE tableB1 AS SELECT * FROM tableA JOIN tableC USING (column);
Resultado: esta operación genera enlaces de linaje que conectan dos tablas de origen con una tabla de destino (3 entidades distintas).
- Tarea cada dos días: ejecutas la siguiente tarea cada dos días (15 veces al mes):
CREATE TABLE tableB2 AS SELECT * FROM tableA, tableC, tableD;
Resultado: esta operación genera enlaces de linaje que conectan tres tablas de origen con una tabla de destino (4 entidades distintas).
Cálculo de costes
Supongamos que este mes se ha generado 1 GiB de metadatos de linaje de datos. Los costes se calculan de la siguiente manera:
- Tarea diaria: 30 días * 3 entidades * ~0,0056 horas de DCU * 0,089 USD ~= 0,045 USD
- Tarea cada dos días: 15 días * 4 entidades * 0,0056 horas de DCU * 0,089 USD = 0,030 USD
- Almacenamiento: (1 GiB) * 2,00 USD = 1,998 USD
Total: ~0,045$+ 0,030$+ 1,998$= ~2,07 $
Precios del linaje durante el diseño (Looker Core)
El linaje de Looker es un linaje en tiempo de diseño: Knowledge Catalog lo deriva de las definiciones de los modelos (por ejemplo, las vistas y las exploraciones de LookML, y las tablas de BigQuery a las que hacen referencia) en lugar de las ejecuciones de tareas. El linaje de tiempo de diseño se factura con el mismo SKU de procesamiento premium de Dataplex que el análisis automático de linaje, pero el consumo de horas de DCU se calcula de forma diferente:
- Se aplican cargos la primera vez que se registra un enlace o proceso de linaje, y cada vez que cambia (por ejemplo, cuando se modifica y se vuelve a publicar el modelo de Looker). No hay ejecuciones en el linaje de tiempo de diseño, por lo que no hay cargos por evento, de forma similar al procesamiento de linaje basado en eventos descrito anteriormente.
- Registrar el linaje de un nodo o hacia él cuesta aproximadamente 0,0325 horas de DCU (unos 0,0029 USD en us-central1, donde una hora de DCU cuesta 0,089 USD).
- La obtención y eliminación de linajes sigue siendo sin coste. Los metadatos de linaje se cobran por separado en el SKU de almacenamiento de metadatos.
La facturación del procesamiento de linaje en tiempo de diseño de Looker Core empieza el 1 de marzo del 2027. El linaje de Looker registrado antes de esa fecha es sin coste. Para inhabilitar esta opción, consulta https://docs.cloud.google.com/dataplex/docs/control-lineage-ingestion, donde encontrarás información sobre cómo habilitar o inhabilitar el procesamiento de linaje de Looker Core.
