Realizar testes de failover para ambientes altamente resilientes

Cloud Composer 3 | Cloud Composer 2 | Cloud Composer 1

Esta página descreve como realizar testes de failover de cluster e banco de dados para ambientes altamente resilientes.

Os testes de failover do seu ambiente simulam uma interrupção completa de uma zona em um data center. Nesse cenário, uma interrupção zonal de um cluster e uma interrupção zonal de um banco de dados podem acontecer ao mesmo tempo. Ao realizar os dois testes de failover, você pode monitorar como seu ambiente altamente resiliente executa um failover e verificar como isso afeta seus DAGs e tarefas.

Antes de começar

• Para realizar testes de failover, sua conta precisa ter as seguintes funções e permissões:

  • A permissão composer.environments.update. Consulte Controle de acesso com o IAM para conferir uma lista de papéis com essa permissão.

  • Administrador de cluster do Kubernetes Engine (roles/container.clusterAdmin) para executar comandos kubectl no cluster do ambiente. Como alternativa, é possível provisionar papéis do RBAC do Kubernetes diretamente no GKE.

• Se você usar redes autorizadas, será necessário executar comandos kubectl em uma máquina que possa acessar o endpoint do plano de controle do cluster do GKE. Dependendo de como você configura o acesso ao endpoint do plano de controle do ambiente, é possível usar várias opções. Para mais informações, consulte Como executar comandos em um ambiente de IP particular.

Verificar se o ambiente está saudável

Realize testes de failover do cluster do banco de dados e do ambiente apenas em ambientes saudáveis.

Para verificar se o ambiente está saudável:

1. No console do Google Cloud, acesse a página Ambientes.

   Acessar "Ambientes"

2. Na lista de ambientes, clique no nome do seu ambiente. A página Detalhes do ambiente é aberta.

3. Acesse a guia Monitoramento.

4. Verifique se todas as métricas de integridade estão em verde.

Executar um teste de failover do banco de dados

É possível realizar um teste de failover do banco de dados, que simula uma interrupção zonal, acionando-o com um comando da CLI do Google Cloud. Por exemplo, você pode fazer isso para medir o tempo que o banco de dados do seu ambiente leva para mudar para outra zona.

Importante: o teste de failover do banco de dados representa uma interrupção zonal apenas para o banco de dados do seu ambiente. Durante uma falha temporária zonal, o cluster do seu ambiente também pode ser afetado. É possível realizar um teste de failover separado para o cluster do seu ambiente. O teste de failover do banco de dados não é destinado à solução de problemas. Não é possível corrigir problemas com o componente do banco de dados de um ambiente com o teste de failover.

Para realizar um teste de failover do banco de dados no seu ambiente:

1. Verifique se seu ambiente está saudável.

2. Encontre a zona principal do banco de dados do seu ambiente:

   gcloud composer environments fetch-database-properties \
       ENVIRONMENT_NAME \
       --location LOCATION
   

   Substitua:

   • ENVIRONMENT_NAME: o nome do seu ambiente do Cloud Composer.
   • LOCATION: a região em que o ambiente está localizado.

   Exemplo:

   gcloud composer environments fetch-database-properties \
       example-environment \
       --location us-central1
   

3. Inicie o teste de failover do banco de dados:

   gcloud composer environments database-failover \
       ENVIRONMENT_NAME \
       --location LOCATION
   

   Substitua:

   • ENVIRONMENT_NAME: o nome do seu ambiente do Cloud Composer.
   • LOCATION: a região em que o ambiente está localizado.

   Exemplo:

   gcloud composer environments database-failover \
       example-environment \
       --location us-central1
   

4. Aguarde até que o teste de failover do banco de dados seja concluído. O processo pode levar até três minutos.

5. Verifique se a zona principal do banco de dados do seu ambiente foi alterada:

   gcloud composer environments fetch-database-properties \
       ENVIRONMENT_NAME \
       --location LOCATION
   

6. Verifique as métricas de integridade do ambiente para garantir que ele esteja íntegro.

7. O banco de dados do seu ambiente fica pronto para outra failover quando a métrica do ambiente Database available for failover (composer.googleapis.com/environment/database/available_for_failover) passa a ser True. Para mais informações sobre como visualizar as métricas do seu ambiente no Cloud Monitoring, consulte Monitorar ambientes.

Realizar o teste de failover do cluster do ambiente

Você pode realizar um teste de failover para o cluster do seu ambiente, que simula uma interrupção zonal. Por exemplo, você pode fazer isso para medir o tempo que leva para o ambiente mudar para outra zona.

Importante: o teste de failover do cluster do ambiente representa uma interrupção zonal apenas para o cluster do seu ambiente. Durante uma interrupção de zona, o banco de dados do seu ambiente também pode ser afetado. É possível realizar um teste de failover separado para o banco de dados do seu ambiente.

Verificar se o ambiente está saudável

Antes de iniciar o teste, confira se o ambiente está funcionando corretamente.

Configurar credenciais para o cluster do ambiente

Para receber credenciais do cluster:

1. No console do Google Cloud, acesse a página Ambientes.

   Acessar "Ambientes"

2. Na lista de ambientes, clique no nome do seu ambiente. A página Detalhes do ambiente é aberta.

3. Acesse a guia Configuração do ambiente.

4. Clique em Acessar detalhes do cluster.

5. Clique em Conectar.

6. Copie e execute o comando da Google Cloud CLI exibido.

   Exemplo:

   gcloud container clusters get-credentials \
     us-central1-exam-db23ee12-gke \
     --region us-central1 \
     --project example-project
   

Inspecionar o cluster do ambiente

Verifique as zonas e os nós em que as cargas de trabalho são executadas no cluster do ambiente. Você vai usar essas informações para simular uma interrupção de zona mais tarde. Você também pode executar esses comandos novamente enquanto executa o teste de failover para saber como o cluster do ambiente executa o failover.

1. Verifique nós e zonas:

   kubectl get nodes \
     -o=custom-columns=NAME:.metadata.name,NODE:.metadata.labels.topology\\.gke\\.io/zone
   

2. Verifique os pods:

   kubectl get pods --all-namespaces \
   -o=custom-columns=NAME:.metadata.name,STATUS:.status.phase,NODE:.spec.nodeName \
   --field-selector metadata.namespace!=kube-system
   

3. Confira informações mais detalhadas sobre pods:

   kubectl get pods --all-namespaces -o wide \
   --field-selector metadata.namespace!=kube-system
   

Drenar nós

Escolha uma zona em que você quer simular uma interrupção. Se você realizar o teste de failover do cluster com o teste de failover do banco de dados, escolha a zona principal da instância do Cloud SQL de alta disponibilidade do seu ambiente. Por exemplo, se a instância principal do Cloud SQL for executada em us-central1-a, você poderá simular uma falha em toda a zona us-central1-a executando primeiro o teste de failover do banco de dados e depois o teste de failover do cluster em us-central1-a.

O comando a seguir simula um conjunto de nós que ficam indisponíveis em uma zona específica. Ele remove à força os pods dos nós na zona especificada e impede a reprogramação de pods nesses nós. Como não é possível programar novos pods, novos nós são adicionados ao cluster.

Importante: novos nós adicionados ao cluster podem estar localizados na zona em que uma falha é simulada. Esse comportamento não invalida o procedimento de failover, que testa a capacidade do ambiente de continuar em execução depois que alguns nós do cluster são indisponibilizados. Em caso de falha real de zona, o GKE adiciona novos nós em uma zona operacional.

Esse comando não afeta as cargas de trabalho executadas no namespace composer-system. Talvez você veja mensagens de erro relacionadas na saída do comando. Isso não afeta o teste de failover. Os nós que existem na zona selecionada ainda estão marcados como não programáveis.

Para simular uma falha de zona de cluster na zona selecionada:

kubectl get nodes -o name -l "topology.gke.io/zone=ZONE" | \
xargs kubectl drain \
--ignore-daemonsets --delete-emptydir-data --force --disable-eviction

Substitua:

• ZONE: a zona em que você quer simular uma falha de zona de cluster.

Verificar as métricas do ambiente

Figura 1. Métricas do ambiente durante uma falha de zona simulada (clique para ampliar)

1. No console do Google Cloud, acesse a página Ambientes.

   Acessar "Ambientes"

2. Na lista de ambientes, clique no nome do seu ambiente. A página Detalhes do ambiente é aberta.

3. Acesse a guia Monitoramento.

4. Verifique se as seguintes métricas estão "verdes" durante a operação de failover ou permanecem no status "vermelho" por no máximo alguns minutos.

   • Integridade do ambiente
   • Sinal de funcionamento do programador
   • Integridade do servidor da Web
   • Integridade do banco de dados
   • Workers ativos
   • Programadores ativos
   • Servidores da Web ativos
   • Acionadores ativos

   A interrupção simulada é marcada como uma "operação de manutenção de cluster".

5. Não é necessário realizar outras ações para retornar o cluster do seu ambiente à prontidão para failover após o teste. Durante o teste, o cluster do ambiente adiciona automaticamente novos nós que substituem os afetados pela interrupção simulada.

A seguir

• Criar ambientes
• Monitorar ambientes
• Recuperação de desastres com snapshots de ambiente