Deployment in più regioni su AKS

Questo argomento spiega come configurare un deployment multiregionale per Apigee hybrid su Microsoft® Azure Kubernetes Service (AKS).

Le topologie per il deployment su più regioni includono:

  • Attivo-Attivo: se le tue applicazioni sono state distribuite in più località geografiche e hai bisogno di una risposta API a bassa latenza per i tuoi deployment. Hai la possibilità di eseguire il deployment di ibrido in più località geografiche più vicine ai tuoi clienti. Ad esempio: costa occidentale degli Stati Uniti, costa orientale degli Stati Uniti, Europa, APAC.
  • Attivo-Passivo: se hai una regione principale e una regione di failover o ripristino di emergenza.

Le regioni in un deployment ibrido multiregionale comunicano tramite Cassandra, come mostra la seguente immagine:

Prerequisiti

Prima di configurare il cloud ibrido per più regioni, devi completare i seguenti prerequisiti:

  • Segui la guida all'installazione ibrida per eventuali prerequisiti come Google Cloud e la configurazione dell'organizzazione prima di passare ai passaggi di configurazione del cluster.
  • Requisiti per più regioni di Cassandra:
    • Se lo spazio dei nomi di rete dei pod non dispone di connettività tra pod in cluster diversi (i cluster vengono eseguiti in "modalità di rete isola", il caso predefinito nelle installazioni di AKS), abilita la funzionalità hostNetwork di Kubernetes impostando cassandra.hostNetwork: true nel file di override per tutte le regioni nell'installazione multiregionale ibrida di Apigee.
    • Abilita hostNetwork sui cluster esistenti prima di espandere la configurazione per più regioni a nuove regioni.
    • Quando hostNetwork è abilitato, assicurati che i nodi worker possano eseguire una ricerca DNS inversa. Apigee cassandra utilizza la ricerca DNS diretta e inversa per ottenere l'IP host all'avvio.
    • Apri le porte Cassandra 7000 e 7001 tra i cluster Kubernetes in tutte le regioni per consentire la comunicazione tra i nodi worker in più regioni e data center. Vedi Configurare le porte.

Per informazioni dettagliate, consulta la documentazione di Kubernetes.

Crea una rete virtuale in ogni regione

Segui la documentazione di Azure Kubernetes Service (AKS) per:

  • Creare una rete virtuale in ogni regione.
  • Stabilisci il peering di rete tra le regioni.
  • Verifica il peering di rete.

Crea cluster multiregionali

Configurare i cluster Kubernetes in più regioni con blocchi CIDR diversi. Vedi anche il Passaggio 1: crea un cluster. Utilizza le località e i nomi delle reti virtuali che hai creato in precedenza.

Apri le porte Cassandra 7000 e 7001 tra i cluster Kubernetes in tutte le regioni (7000 può essere utilizzato come opzione di backup durante la risoluzione dei problemi)

Configura l'host seed a più regioni

Questa sezione descrive come espandere il cluster Cassandra esistente a una nuova regione. Questa configurazione consente alla nuova regione di eseguire il bootstrap del cluster e unire il data center esistente. Senza questa configurazione, i cluster Kubernetes multiregionali non si sarebbero a conoscenza gli uni degli altri.

  1. Imposta il contesto kubectl sul cluster originale prima di recuperare il nome del seed:
    kubectl config use-context original-cluster-name
  2. Esegui questo comando kubectl per identificare un indirizzo host originale per Cassandra nella regione attuale.

    Un indirizzo host originale consente a una nuova istanza di regione di trovare il cluster originale al primo avvio per apprendere la topologia del cluster. L'indirizzo host originale viene designato come punto di contatto nel cluster.

    kubectl get pods -o wide -n apigee | grep apigee-cassandra
    
    apigee-cassandra-default-0  1/1   Running   0   4d17h   120.38.1.9  aks-agentpool-21207753-vmss000000
    
  3. Decidi quale degli IP restituiti dal comando precedente sarà l'host seed a più regioni. In questo esempio, dove è in esecuzione un solo cluster cassandra a nodo singolo, l'host seed è 120.38.1.9.
  4. Nel data center 2, copia il file di override in un nuovo file il cui nome include il nome del cluster. Ad esempio, overrides_your_cluster_name.yaml.
  5. Nel data center 2, configura cassandra.multiRegionSeedHost e cassandra.datacenter in overrides_your_cluster_name.yaml, dove multiRegionSeedHost è uno degli IP restituiti dal comando precedente:
    cassandra:
      multiRegionSeedHost: seed_host_IP
      datacenter: data_center_name
      rack: rack_name

    Ad esempio:

    cassandra:
      multiRegionSeedHost: 120.38.1.9
      datacenter: "dc-1"
      rack: "ra-1"
  6. Nel nuovo data center o nella nuova regione, prima di installare l'ambiente ibrido, imposta in overrides_your_cluster_name.yaml gli stessi certificati e credenziali TLS che hai impostato nella prima regione.

Configura la nuova regione

Dopo aver configurato l'host originale, puoi impostare la nuova regione.

Per configurare la nuova regione:

  1. Copia il tuo certificato dal cluster esistente a quello nuovo. La nuova CA radice viene utilizzata da Cassandra e da altri componenti ibridi per mTLS. Pertanto, è essenziale disporre di certificati coerenti in tutto il cluster.
    1. Imposta il contesto sullo spazio dei nomi originale:
      kubectl config use-context original-cluster-name
    2. Esporta la configurazione attuale dello spazio dei nomi in un file:
      $ kubectl get namespace apigee -o yaml > apigee-namespace.yaml

      apigee è lo spazio dei nomi predefinito.

    3. Esporta il secret apigee-ca in un file:
      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
    4. Imposta il contesto sul nome del cluster della nuova regione:
      kubectl config use-context new-cluster-name
    5. Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare lo "spazio dei nomi" nel file se utilizzi uno spazio dei nomi diverso nella nuova regione:
      kubectl apply -f apigee-namespace.yaml
    6. Importa il secret nel nuovo cluster:

      kubectl -n cert-manager apply -f apigee-ca.yaml
  2. Installa ibrido nella nuova regione. Assicurati che il file overrides_your_cluster_name.yaml includa gli stessi certificati TLS configurati nella prima regione, come spiegato nella sezione precedente.

    Esegui questi due comandi per installare l'ambiente ibrido nella nuova regione:

    apigeectl init -f overrides_your_cluster_name.yaml
    apigeectl apply -f overrides_your_cluster_name.yaml
  3. Esegui nodetool rebuild in sequenza su tutti i nodi nel nuovo data center. Questa operazione può richiedere da pochi minuti ad alcune ore, a seconda delle dimensioni dei dati.
    kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password rebuild -- dc-1

    Dove JMX_user e JMX_password sono il nome utente e la password per l'utente Cassandra JMX.

  4. Verifica i processi di nuova creazione dai log. Inoltre, verifica la dimensione dei dati utilizzando il comando nodetool status:
    kubectl logs apigee-cassandra-default-0 -f -n apigee
    kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status

    Nell'esempio seguente sono riportate voci di log di esempio:

    INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
    INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
    INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
  5. Aggiornare gli host di origine. Rimuovi multiRegionSeedHost: 10.0.0.11 da overrides-DC_name.yaml e invia di nuovo la richiesta.
    apigeectl apply -f overrides-DC_name.yaml