Cloud Composer 1 | Cloud Composer 2 | Cloud Composer 3
Cette page explique comment effectuer des tests de basculement de base de données et de cluster pour des environnements hautement résilients.
Les tests de basculement de votre environnement simulent une panne complète d'une zone dans un centre de données. Dans un tel scénario, une panne zonale d'un cluster et une défaillance de zone l'interruption d'une base de données peut se produire en même temps. En effectuant les deux de basculement, vous pouvez surveiller les performances de votre environnement un basculement et vérifier comment cela affecte vos DAG et vos tâches.
Avant de commencer
Pour effectuer des tests de basculement, votre compte doit disposer des rôles et autorisations suivants:
Autorisation
composer.environments.update
. Pour obtenir la liste des rôles disposant de cette autorisation, consultez la section Contrôle des accès avec IAM.Administrateur de cluster Kubernetes Engine (
roles/container.clusterAdmin
) pour exécuter des commandeskubectl
sur le cluster de l'environnement. En tant que vous pouvez provisionner Rôles Kubernetes RBAC directement dans dans GKE.
Si vous utilisez des réseaux autorisés et que vous doit exécuter les commandes
kubectl
à partir d'une machine pouvant accéder au point de terminaison du plan de contrôle du cluster GKE. Selon la façon dont vous configurez l'accès au point de terminaison du plan de contrôle de votre environnement, vous pouvez utiliser plusieurs options. Pour en savoir plus, consultez la section Exécuter des commandes sur un environnement d'adresse IP privée.
Vérifier que votre environnement est opérationnel
Veillez à effectuer les tests de basculement de cluster de la base de données et de l'environnement uniquement sur des environnements sains.
Pour vérifier que votre environnement est opérationnel :
Dans la console Google Cloud, accédez à la page Environnements.
Dans la liste des environnements, cliquez sur le nom de votre environnement. La page Détails de l'environnement s'ouvre.
Accédez à l'onglet Surveillance.
Vérifiez que tous les indicateurs de santé sont en vert.
Effectuer un test de basculement de base de données
Vous pouvez effectuer un test de basculement de base de données, qui simule une panne de zone, en à l'aide d'une commande Google Cloud CLI. Par exemple, vous pouvez le faire pour mesurer le temps nécessaire à la base de données de votre environnement pour passer à une autre zone.
Pour effectuer un test de basculement de base de données pour votre environnement :
Assurez-vous que votre environnement est opérationnel.
Obtenez la zone principale de la base de données de votre environnement :
gcloud composer environments fetch-database-properties \ ENVIRONMENT_NAME \ --location LOCATION
Remplacez les éléments suivants :
ENVIRONMENT_NAME
: nom de votre environnement Cloud Composer.LOCATION
: région dans laquelle se trouve l'environnement.
Exemple :
gcloud composer environments fetch-database-properties \ example-environment \ --location us-central1
Démarrez le test de basculement de base de données:
gcloud composer environments database-failover \ ENVIRONMENT_NAME \ --location LOCATION
Remplacez les éléments suivants :
ENVIRONMENT_NAME
: nom de votre environnement Cloud Composer.LOCATION
: région dans laquelle se trouve l'environnement.
Exemple :
gcloud composer environments database-failover \ example-environment \ --location us-central1
Attendez la fin du test de basculement de base de données. Le processus peut prendre à trois minutes.
Vérifiez que la zone principale de la base de données de votre environnement a bien été modifiée:
gcloud composer environments fetch-database-properties \ ENVIRONMENT_NAME \ --location LOCATION
Vérifiez les métriques de santé de votre environnement pour vous assurer qu'il est opérationnel.
La base de données de votre environnement est prête pour un autre basculement lorsque la métrique d'environnement Base de données disponible pour le basculement (
composer.googleapis.com/environment/database/available_for_failover
) devientTrue
. Pour en savoir plus sur l'affichage de vos de votre environnement dans Cloud Monitoring, consultez Surveillez les environnements.
Effectuer le test de basculement du cluster de votre environnement
Vous pouvez effectuer un test de basculement pour le cluster de votre environnement, qui simule une panne zonale. Par exemple, vous pouvez mesurer le temps qu'il faut à votre environnement pour changer de zone.
Vérifier que votre environnement est sain
Avant de commencer le test, assurez-vous que votre environnement est sain.
Configurer les identifiants pour le cluster de votre environnement
Pour obtenir les identifiants du cluster:
Dans la console Google Cloud, accédez à la page Environnements.
Dans la liste des environnements, cliquez sur le nom de votre environnement. La page Détails de l'environnement s'ouvre.
Accédez à l'onglet Configuration de l'environnement.
Cliquez sur Afficher les détails du cluster.
Cliquez sur Se connecter.
Copiez et exécutez la commande Google Cloud CLI affichée.
Exemple :
gcloud container clusters get-credentials \ us-central1-exam-db23ee12-gke \ --region us-central1 \ --project example-project
Examiner le cluster de votre environnement
Vérifiez les zones et les nœuds où les charges de travail s'exécutent dans le cluster de votre environnement. Vous utiliserez ces informations pour simuler une panne de zone ultérieurement. Vous pouvez également réexécuter ces commandes pendant le test de basculement pour voir comment le cluster de votre environnement effectue le basculement.
Vérifiez les nœuds et les zones:
kubectl get nodes \ -o=custom-columns=NAME:.metadata.name,NODE:.metadata.labels.topology\\.gke\\.io/zone
Vérifiez les pods :
kubectl get pods --all-namespaces \ -o=custom-columns=NAME:.metadata.name,STATUS:.status.phase,NODE:.spec.nodeName \ --field-selector metadata.namespace!=kube-system
Affichez des informations plus détaillées sur les pods:
kubectl get pods --all-namespaces -o wide \ --field-selector metadata.namespace!=kube-system
Drainer les nœuds
Choisissez une zone dans laquelle vous souhaitez simuler une panne. Si vous exécutez le cluster
et le test de basculement de base de données.
vous pouvez choisir la zone principale du réseau
instance Cloud SQL à disponibilité élevée.
Par exemple, si l'instance Cloud SQL principale s'exécute dans us-central1-a
, vous pouvez simuler une panne dans l'ensemble de la zone us-central1-a
en effectuant d'abord le test de basculement de la base de données, puis le test de basculement du cluster dans us-central1-a
.
La commande suivante simule la non-disponibilité d'un ensemble de nœuds dans une zone spécifique. Il expulse de force les pods des nœuds de la zone spécifiée et empêche la replanification des pods sur ces nœuds. Comme les nouveaux pods ne peuvent pas programmés, de nouveaux nœuds sont ajoutés au cluster.
Cette commande n'affecte pas les charges de travail exécutées dans l'espace de noms composer-system
. Des messages d'erreur associés peuvent s'afficher dans le résultat de la commande. Cela n'affecte pas le test de basculement. Les nœuds de la zone sélectionnée sont toujours marqués comme non planifiables.
Pour simuler une défaillance de zone de cluster dans la zone sélectionnée :
kubectl get nodes -o name -l "topology.gke.io/zone=ZONE" | \
xargs kubectl drain \
--ignore-daemonsets --delete-emptydir-data --force --disable-eviction
Remplacez les éléments suivants :
ZONE
: zone dans laquelle vous souhaitez simuler une défaillance de zone de cluster.
Vérifier les métriques de l'environnement
Dans la console Google Cloud, accédez à la page Environnements.
Dans la liste des environnements, cliquez sur le nom de votre environnement. La page Détails de l'environnement s'ouvre.
Accédez à l'onglet Surveillance.
Vérifiez que les métriques suivantes sont "vertes" pendant l'opération de basculement ou qu'elles restent à l'état "rouge" pendant au plus quelques minutes.
- État de l'environnement
- Pulsation du programmeur
- État du serveur Web
- État de la base de données
- Nœuds de calcul actifs
- Programmeurs actifs
- Serveurs Web actifs
- Déclencheurs actifs
Notez que l'interruption simulée est marquée comme opération".
Aucune autre action n'est requise de votre part pour renvoyer l'état l'état de préparation du cluster au basculement après le test. Pendant le test, le cluster de l'environnement ajoute automatiquement de nouveaux nœuds qui remplacent ceux affectés par l'indisponibilité simulée.
Étape suivante
- Créer des environnements
- Surveiller des environnements
- Reprise après sinistre avec des instantanés d'environnement