Realizar testes de failover em ambientes altamente resilientes

Cloud Composer 1 | Cloud Composer 2 | Cloud Composer 3

Esta página descreve como executar testes de failover de banco de dados e cluster para ambientes altamente resilientes.

Os testes de failover do seu ambiente simulam uma interrupção completa de uma zona em um data center. Nesse cenário, uma interrupção zonal de um cluster e uma interrupção zonal de um banco de dados podem acontecer ao mesmo tempo. Ao realizar os dois testes de failover, você pode monitorar como seu ambiente altamente resiliente executa um failover e verificar como isso afeta seus DAGs e tarefas.

Antes de começar

  • Para realizar testes de failover, sua conta deve ter os seguintes papéis e permissões:

    • A permissão composer.environments.update. Consulte Controle de acesso com o IAM para conferir uma lista de papéis com essa permissão.

    • Administrador de cluster do Kubernetes Engine (roles/container.clusterAdmin) para executar comandos kubectl no cluster do ambiente. Como como alternativa, é possível provisionar Papéis do RBAC do Kubernetes diretamente no GKE.

  • Se você usar redes autorizadas, será necessário executar comandos kubectl em uma máquina que possa acessar o endpoint do plano de controle do cluster do GKE. Dependendo de como você configura o acesso ao endpoint do plano de controle do ambiente, é possível usar várias opções. Para mais informações, consulte Executar comandos em um ambiente de IP particular.

Verificar se o ambiente está saudável

Realize os testes de failover do cluster do banco de dados e do ambiente apenas nos ambientes saudáveis.

Para verificar a integridade do seu ambiente:

  1. No console do Google Cloud, acesse a página Ambientes.

    Acessar "Ambientes"

  2. Na lista de ambientes, clique no nome do ambiente. A página Detalhes do ambiente é aberta.

  3. Acesse a guia Monitoramento.

  4. Verifique se todas as métricas de integridade estão em verde.

Executar um teste de failover do banco de dados

É possível realizar um teste de failover do banco de dados, que simula uma interrupção zonal, acionando-o com um comando da CLI do Google Cloud. Por exemplo, talvez você queira para medir o tempo que leva para o banco de dados do seu ambiente para mudar de zona.

Para executar um teste de failover do banco de dados no seu ambiente:

  1. Verifique se seu ambiente está saudável.

  2. Encontre a zona principal do banco de dados do seu ambiente:

    gcloud composer environments fetch-database-properties \
        ENVIRONMENT_NAME \
        --location LOCATION
    

    Substitua:

    • ENVIRONMENT_NAME: o nome do ambiente do Cloud Composer.
    • LOCATION: a região em que o ambiente está localizado.

    Exemplo:

    gcloud composer environments fetch-database-properties \
        example-environment \
        --location us-central1
    
  3. Inicie o teste de failover do banco de dados:

    gcloud composer environments database-failover \
        ENVIRONMENT_NAME \
        --location LOCATION
    

    Substitua:

    • ENVIRONMENT_NAME: o nome do ambiente do Cloud Composer.
    • LOCATION: a região em que o ambiente está localizado.

    Exemplo:

    gcloud composer environments database-failover \
        example-environment \
        --location us-central1
    
  4. Aguarde até que o teste de failover do banco de dados seja concluído. O processo pode levar até três minutos.

  5. Verifique se a zona principal do banco de dados do ambiente foi alterada:

    gcloud composer environments fetch-database-properties \
        ENVIRONMENT_NAME \
        --location LOCATION
    
  6. Verifique as métricas de integridade do ambiente para garantir que ele esteja íntegro.

  7. O banco de dados do seu ambiente fica pronto para outra failover quando a métrica do ambiente Database available for failover (composer.googleapis.com/environment/database/available_for_failover) passa a ser True. Para mais informações sobre como visualizar suas do ambiente de execução no Cloud Monitoring, consulte Monitorar ambientes.

Realize o teste de failover do cluster do seu ambiente

Você pode executar um teste de failover para o cluster do seu ambiente, que simula uma interrupção zonal. Por exemplo, você pode querer fazer isso para medir o tempo que leva para seu ambiente mudar para outra zona.

Verificar se o ambiente está íntegro

Antes de iniciar o teste, verifique se seu ambiente seja saudável.

Configurar credenciais para o cluster do ambiente

Para receber credenciais do cluster:

  1. No console do Google Cloud, acesse a página Ambientes.

    Acessar "Ambientes"

  2. Na lista de ambientes, clique no nome do seu ambiente. A página Detalhes do ambiente é aberta.

  3. Acesse a guia Configuração do ambiente.

  4. Clique em Visualizar detalhes do cluster.

  5. Clique em Conectar.

  6. Copie e execute o comando da Google Cloud CLI exibido.

    Exemplo:

    gcloud container clusters get-credentials \
      us-central1-exam-db23ee12-gke \
      --region us-central1 \
      --project example-project
    

Inspecionar o cluster do ambiente

Verifique as zonas e os nós em que as cargas de trabalho são executadas no cluster do ambiente. Você usa essas informações para simular uma interrupção do serviço zonal mais tarde. Você também pode executar esses comandos novamente enquanto executa o teste de failover para saber como o cluster do ambiente executa o failover.

  1. Verifique os nós e as zonas:

    kubectl get nodes \
      -o=custom-columns=NAME:.metadata.name,NODE:.metadata.labels.topology\\.gke\\.io/zone
    
  2. Verifique os pods:

    kubectl get pods --all-namespaces \
    -o=custom-columns=NAME:.metadata.name,STATUS:.status.phase,NODE:.spec.nodeName \
    --field-selector metadata.namespace!=kube-system
    
  3. Confira informações mais detalhadas sobre pods:

    kubectl get pods --all-namespaces -o wide \
    --field-selector metadata.namespace!=kube-system
    

Drenar nós

Escolha a zona em que você quer simular uma interrupção do serviço. Se você executar o cluster teste de failover com o teste de failover do banco de dados, talvez você queira escolher a zona principal do instância altamente disponível do Cloud SQL. Por exemplo, se a instância principal do Cloud SQL for executada em us-central1-a simule uma interrupção em toda a zona us-central1-a realizando o teste de failover do banco de dados e, em seguida, o teste de failover do cluster us-central1-a:

O comando a seguir simula um conjunto de nós ficando indisponível em um em uma zona específica. Ele remove à força os pods dos nós na zona especificada e impede a reprogramação de pods nesses nós. Como não é possível programar novos pods, novos nós são adicionados ao cluster.

Esse comando não afeta as cargas de trabalho executadas no composer-system . Talvez você veja mensagens de erro relacionadas na saída do comando. Isso não afeta o teste de failover. Os nós que existem na zona selecionada ainda estão marcados como não programáveis.

Para simular uma falha de zona de cluster na zona selecionada:

kubectl get nodes -o name -l "topology.gke.io/zone=ZONE" | \
xargs kubectl drain \
--ignore-daemonsets --delete-emptydir-data --force --disable-eviction

Substitua:

  • ZONE: a zona em que você quer simular uma falha de zona de cluster.

Verificar as métricas do ambiente

Métricas de ambiente durante uma falha de zona simulada
Figura 1. Métricas do ambiente durante uma falha de zona simulada (clique para ampliar)
  1. No console do Google Cloud, acesse a página Ambientes.

    Acessar "Ambientes"

  2. Na lista de ambientes, clique no nome do ambiente. A página Detalhes do ambiente é aberta.

  3. Acesse a guia Monitoramento.

  4. Verifique se as seguintes métricas estão "verdes" durante a operação de failover ou permanecem no status "vermelho" por no máximo alguns minutos.

    • Integridade do ambiente
    • Sinal de funcionamento do programador
    • Integridade do servidor da Web
    • Integridade do banco de dados
    • Workers ativos
    • Programadores ativos
    • Servidores da Web ativos
    • Acionadores ativos

    A interrupção simulada é marcada como uma "operação de manutenção de cluster".

  5. Não é necessário realizar outras ações para retornar o cluster do ambiente à prontidão para failover após o teste. Durante o teste, a o cluster do ambiente de nuvem adiciona automaticamente novos nós que substituem que foram afetadas pela interrupção simulada.

A seguir