Ce document fournit des informations sur la conformité et les limites de la traçabilité des données. La traçabilité des données est activée au niveau du projet, et non au niveau du système. Cela signifie qu'une fois l'API Data Lineage activée, les informations de traçabilité peuvent être automatiquement signalées pour plusieurs systèmes du projet, en fonction du contrôle de traçabilité au niveau du produit de chaque système.
Le suivi automatique de la traçabilité est compatible avec les systèmes suivants :
| Système | Commandes de lignage disponibles |
|---|---|
| BigQuery, Cloud Data Fusion |
Il n'est pas possible de limiter le suivi de la provenance à Cloud Data Fusion ou BigQuery uniquement lorsque l'API Data Lineage est activée dans un projet. |
| Cloud Composer | Cloud Composer utilise un contrôle d'intégration de la traçabilité des données au niveau de l'environnement. La traçabilité des données est automatiquement activée pour tous les nouveaux environnements Cloud Composer, à condition qu'ils répondent aux exigences. Pour en savoir plus, consultez Traçabilité des données avec Dataplex Universal Catalog. Pour les environnements existants, vous pouvez activer ou désactiver l'intégration du lineage de données dans les paramètres de l'environnement. |
| Dataflow | Les jobs Dataflow peuvent capturer des événements de traçabilité et les publier dans l'API Data Lineage. Pour en savoir plus, consultez Utiliser la traçabilité des données dans Dataflow. |
| Dataproc | Les tâches Spark Dataproc peuvent capturer des événements de traçabilité et les publier dans l'API Data Lineage. Pour en savoir plus, consultez Intégration de la traçabilité des données à Dataproc. |
| Vertex AI | Le lineage des données est automatiquement activé pour les artefacts et les paramètres Vertex AI, tels que les modèles, les ensembles de données, les modèles de pipeline et les composants. La traçabilité d'un pipeline inclut les facteurs qui ont contribué à sa création, ainsi que les artefacts et les métadonnées dérivés par la suite. Pour en savoir plus, consultez Suivre la traçabilité des artefacts de pipelines. |
Impact sur la facturation
Lorsque vous activez l'API Data Lineage sur un projet, vérifiez l'impact sur vos frais de facturation, car l'API Data Lineage est activée par projet (pour en savoir plus, consultez la section précédente). Pour en savoir plus sur la facturation de la traçabilité des données, consultez les tarifs de Dataplex Universal Catalog.
Pour BigQuery Omni, le traitement de la provenance est distribué à des régions spécifiques, et les coûts dépendent des régions où le traitement est effectué.
Conformité de la traçabilité des données
- Les enregistrements de traçabilité des données contiennent des métadonnées sur le déplacement des données, mais ne capturent pas les données elles-mêmes. Consultez le modèle d'informations sur la traçabilité des données et la documentation de référence de l'API Data Lineage pour en savoir plus sur les champs inclus dans les métadonnées.
- La traçabilité des données dans Dataplex Universal Catalog est compatible avec VPC-SC.
- Dataplex Universal Catalog ne permet pas d'utiliser des clés de chiffrement gérées par le client pour protéger les métadonnées de traçabilité collectées.
Limites de la traçabilité des données
Lorsque vous sélectionnez un nœud dans le graphique de lignée, le panneau latéral des détails du nœud est vide dans les cas suivants :
- les ressources se trouvent dans une autre organisation ;
- l'utilisateur n'est pas membre de l'organisation qui héberge la ressource.