Vous pouvez utiliser Cloud Monitoring pour observer les tendances dans les journaux Cloud Logging pour les invocations de workflow Dataform et pour vous avertir lorsque les conditions que vous décrivez apparaissent.
Chaque appel de workflow Dataform est consigné à l'aide de Cloud Logging. La journalisation est automatiquement activée pour les invocations de workflow Dataform, ce qui peut entraîner des frais de facturation Cloud Logging. Pour en savoir plus, consultez la page Tarifs de Dataform.
Pour recevoir des alertes lorsqu'une invocation de workflow Dataform échoue, vous pouvez créer des alertes basées sur les journaux.
Vous pouvez créer des alertes basées sur les journaux à partir de la page Explorateur de journaux de la console Google Cloud ou en utilisant l'API Monitoring. Ce guide explique comment créer des alertes basées sur les journaux en cas d'échec de l'appel du workflow Dataform à l'aide de l'explorateur de journaux.
Avant de commencer
Pour créer et gérer des alertes basées sur les journaux, assurez-vous que votre rôle Identity and Access Management inclut les autorisations décrites dans la section Autorisations pour les alertes basées sur les journaux.
Configurer des alertes basées sur les journaux pour les appels de workflow Dataform ayant échoué
Pour configurer des alertes basées sur les journaux pour les invocations de workflow Dataform ayant échoué, procédez comme suit:
Dans la console Google Cloud, sélectionnez Logging, puis Explorateur de journaux:
Dans le volet Requête, sélectionnez Afficher la requête, puis saisissez la requête suivante:
resource.type="dataform.googleapis.com/Repository" jsonPayload.@type="type.googleapis.com/google.cloud.dataform.logging.v1.WorkflowInvocationCompletionLogEntry" jsonPayload.terminalState="FAILED"
Cette requête vous avertit de tous les appels de workflow Dataform qui ont échoué.
Facultatif: Pour filtrer les invocations de workflow ayant échoué en fonction d'une configuration de version, ajoutez ce qui suit à la requête:
jsonPayload.releaseConfigId="RELEASE_CONFIGURATION_ID"
Facultatif: Pour filtrer les invocations de workflow ayant échoué en fonction d'une configuration de workflow, ajoutez ce qui suit à la requête:
jsonPayload.workflowConfigId="WORKFLOW_CONFIGURATION_ID"
La requête suivante émet une alerte lorsqu'une invocation de workflow Dataform liée à la fois à la configuration de la version
daily
et à la configuration du workflowproduction
échoue:resource.type="dataform.googleapis.com/Repository" jsonPayload.@type="type.googleapis.com/google.cloud.dataform.logging.v1.WorkflowInvocationCompletionLogEntry" jsonPayload.terminalState="FAILED" jsonPayload.releaseConfigId="daily" jsonPayload.workflowConfigId="production"
Facultatif: utilisez Exécuter la requête dans le volet Résultats de la requête pour valider la requête.
Dans l'en-tête du volet Résultats de la requête, cliquez sur Créer une alerte. Lorsque votre fenêtre est étroite, l'option Créer une alerte peut s'afficher dans le menu Actions.
Dans le volet Détails de l'alerte, attribuez un nom et une description à l'alerte :
Saisissez un nom pour l'alerte dans le champ Nom de l'alerte. Par exemple : "Dataform: échec du workflow".
Saisissez une description pour cette alerte. Vous pouvez également inclure des informations susceptibles d'aider le destinataire d'une notification à diagnostiquer le problème. La chaîne suivante résume le motif de l'alerte:
Log-based alert in project ${project} detected a failed Dataform workflow.
Pour obtenir des informations sur la mise en forme et la personnalisation du contenu de ce champ, consultez la section Utiliser Markdown et les variables dans les modèles de documentation.
Pour passer à l'étape suivante, cliquez sur Suivant.
Dans le volet Sélectionner les journaux à inclure dans l'alerte, vérifiez la requête et les résultats en cliquant sur Prévisualiser les journaux.
Nous vous recommandons de créer la requête dans le volet Requête de l'explorateur de journaux. La requête que vous avez créée dans le volet Requête s'affiche également dans ce volet.
Si nécessaire, vous pouvez modifier la requête dans ce volet. Si vous modifiez la requête, vérifiez les résultats en cliquant sur Prévisualiser les journaux.
Cliquez sur Suivant.
Sélectionnez le délai minimal entre les notifications. Cette valeur vous permet de contrôler le nombre de notifications que vous recevez de cette alerte si elle est déclenchée plusieurs fois. Pour cet exemple, sélectionnez l'option 5 min.
(Facultatif) Sélectionnez la durée de fermeture automatique de l'incident. Par défaut, la durée de fermeture automatique des incidents est définie sur sept jours.
Cliquez sur Suivant.
Sélectionnez un ou plusieurs canaux de notification pour votre alerte. Pour cet exemple, sélectionnez un canal de notification par e-mail.
Si vous avez déjà configuré un canal de notification par e-mail, vous pouvez le sélectionner dans la liste. Si ce n'est pas le cas, cliquez sur Gérer les canaux de notification et ajoutez un canal de notification par e-mail. Pour plus d'informations sur la création de canaux de notification, consultez la page Gérer les canaux de notification.
Cliquez sur Enregistrer.
Votre alerte basée sur les journaux est maintenant prête à être testée. Pour savoir comment tester l'alerte, consultez Tester l'exemple d'alerte basée sur les journaux.
Étape suivante
- Découvrez comment configurer des alertes basées sur les journaux avec Cloud Logging.
- En savoir plus sur les journaux Cloud Logging pour Dataform
- En savoir plus sur les métriques et alertes basées sur les journaux Cloud Monitoring
- Consultez une présentation de Cloud Audit Logging et de Cloud Monitoring.