Deployment multiregionale

Al momento stai visualizzando la versione 1.7 della documentazione di Apigee hybrid. This version is end of life. You should upgrade to a newer version. Per ulteriori informazioni, consulta Versioni supportate.

Version 1.7 (unsupported)

   Versioni supportate:

• v1.13 (più recente)                        
• v1.12                         
• v1.11                         
• Elenco delle versioni supportate

Versioni non supportate:

• v1.10                                      
• v1.9                                         
• v1.8                                         
• v1.7                                         
• v1.6                                         
• v1.5                                         
• v1.4                                         
• v1.3                                         
• v1.2                                         
• v1.1                                         

Questo argomento descrive un deployment multi-regione per Apigee Hybrid su GKE, Anthos GKE di cui è stato eseguito il deployment on-premise, Microsoft® Azure Kubernetes Service (AKS), Amazon Elastic Kubernetes Service (EKS) e RedHat OpenShift. Seleziona la tua piattaforma nei prerequisiti e nelle procedure.

Le topologie per il deployment multiregionale includono:

• Active-Active: quando hai applicazioni di cui è stato eseguito il deployment in più località geografiche e hai bisogno di una risposta dell'API con bassa latenza per i tuoi deployment. Puoi implementare la soluzione ibrida in più località geografiche vicine ai tuoi clienti. Ad esempio: costa occidentale degli Stati Uniti, costa orientale degli Stati Uniti, Europa, APAC.
• Attivo-passivo: quando hai una regione principale e una regione di failover o di ripristino di emergenza.

Le regioni in un deployment ibrido multiregionale comunicano tramite Cassandra, come mostrato nella seguente immagine:

Prerequisiti

Prima di configurare l'ambiente ibrida per più regioni, devi completare i seguenti prerequisiti:

GKE

• Quando installi i deployment Apigee multiregione tra reti diverse (ad es. diversi provider cloud, reti VPC diverse, cloud e on-premise e così via), devi fornire la connettività interna tra queste reti distinte che Cassandra può utilizzare per comunicare tra i nodi. Questo può essere ottenuto con VPN o soluzioni di connettività specifiche per il cloud.
• Configurare cluster Kubernetes in più regioni con blocchi CIDR diversi
• Assicurati che cert-manager sia installato in ogni cluster
• Assicurati che ASM sia installato
• Configurare la comunicazione tra regioni
• Requisiti di Cassandra Multi Region:
  • Assicurati che lo spazio dei nomi di rete del pod abbia connettività tra le regioni, inclusi firewall, VPN, peering VPC e peering vNet. Questo è il caso della maggior parte delle installazioni di GKE.
  • Se lo spazio dei nomi di rete del pod non ha connettività tra i cluster (i cluster sono in esecuzione in "modalità di rete isolata"), abilita la funzionalità hostNetwork di Kubernetes impostando cassandra.hostNetwork: true nel file delle sostituzioni per tutte le regioni dell'installazione ibrida multiregione di Apigee.

    Per informazioni sulla funzionalità hostNetwork di Kubernetes, consulta Spazi dei nomi dell'host nella documentazione di Kubernetes.

  • Attiva hostNetwork sui cluster esistenti prima di estendere la configurazione multiregione a nuove regioni.
  • Quando hostNetwork è attivato, assicurati che i nodi worker possano eseguire ricerche DNS inverse. Apigee Cassandra utilizza sia la ricerca DNS in avanti che quella inversa per ottenere l'indirizzo IP dell'host durante l'avvio.
    Suggerimento: se la risoluzione DNS non funziona, prova questa soluzione alternativa.

    Aggiungi una voce host statica nel file /etc/hosts di ciascun nodo worker Cassandra simile alla seguente:

    echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"

    o

    "\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"

  • Apri le porte Cassandra tra i cluster Kubernetes in tutte le regioni per consentire ai nodi worker di comunicare tra regioni e data center. Consulta Configurare le porte per i numeri di porta Cassandra.

Per informazioni dettagliate, consulta la documentazione di Kubernetes.

Nota: Apigee consiglia di assicurarsi che i tempi dei server siano sincronizzati.

Diverse funzionalità, come la scadenza e la revoca del token, si basano su date e ore di sistema precise. Se ospiti i componenti di runtime in data center diversi, assicurati che le ore del sistema siano sincronizzate.

Puoi utilizzare uno strumento come ntpdate per verificare che i tempi del server siano sincronizzati.

GKE On-Prem

• Quando installi i deployment Apigee multiregione tra reti diverse (ad es. diversi provider cloud, reti VPC diverse, cloud e on-premise e così via), devi fornire la connettività interna tra queste reti distinte che Cassandra può utilizzare per comunicare tra i nodi. Questo può essere ottenuto con VPN o soluzioni di connettività specifiche per il cloud.
• Configurare cluster Kubernetes in più regioni con blocchi CIDR diversi
• Assicurati che cert-manager sia installato in ogni cluster
• Assicurati che ASM sia installato
• Configurare la comunicazione tra regioni
• Requisiti di Cassandra Multi Region:
  • Se lo spazio dei nomi della rete del pod non ha connettività tra i cluster (i cluster sono in esecuzione in "modalità di rete a isola", il caso predefinito nelle installazioni on-premise di GKE), attiva la funzionalità hostNetwork di Kubernetes impostando cassandra.hostNetwork: true nel file delle sostituzioni per tutte le regioni della tua installazione Apigee ibrida multi-regione.

    Per informazioni sulla funzionalità hostNetwork di Kubernetes, consulta Spazi dei nomi dell'host nella documentazione di Kubernetes.

  • Attiva hostNetwork sui cluster esistenti prima di estendere la configurazione multiregione a nuove regioni.
  • Quando hostNetwork è attivato, assicurati che i nodi worker possano eseguire ricerche DNS inverse. Apigee Cassandra utilizza sia la ricerca DNS in avanti che quella inversa per ottenere l'indirizzo IP dell'host durante l'avvio.
    Suggerimento: se la risoluzione DNS non funziona, prova questa soluzione alternativa.

    Aggiungi una voce host statica nel file /etc/hosts di ciascun nodo worker Cassandra simile alla seguente:

    echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"

    o

    "\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"

  • Apri le porte Cassandra tra i cluster Kubernetes in tutte le regioni per consentire ai nodi worker di comunicare tra regioni e data center. Consulta Configurare le porte per i numeri di porta Cassandra.

Per informazioni dettagliate, consulta la documentazione di Kubernetes.

Nota: Apigee consiglia di assicurarsi che i tempi dei server siano sincronizzati.

Diverse funzionalità, come la scadenza e la revoca del token, si basano su date e ore di sistema precise. Se ospiti i componenti di runtime in data center diversi, assicurati di sincronizzare le ore del sistema.

Puoi utilizzare uno strumento come ntpdate per verificare che i tempi del server siano sincronizzati.

AKS

• Quando installi i deployment Apigee multiregione tra reti diverse (ad es. diversi provider cloud, reti VPC diverse, cloud e on-premise e così via), devi fornire la connettività interna tra queste reti distinte che Cassandra può utilizzare per comunicare tra i nodi. Questo può essere ottenuto con VPN o soluzioni di connettività specifiche per il cloud.
• Segui la guida all'installazione ibrida per eventuali prerequisiti come la configurazione di Google Cloud e dell'organizzazione prima di passare ai passaggi di configurazione del cluster.
• Assicurati che cert-manager sia installato in ogni cluster
• Assicurati che ASM sia installato
• Requisiti di Cassandra Multi Region:
  • Se lo spazio dei nomi della rete del pod non ha connettività tra i cluster (i cluster sono in esecuzione in "modalità di rete a isole", la modalità predefinita nelle installazioni AKS), attiva la funzionalità hostNetwork di Kubernetes impostando cassandra.hostNetwork: true nel file delle sostituzioni per tutte le regioni della tua installazione Apigee ibrida multi-regione.

    Per informazioni sulla funzionalità hostNetwork di Kubernetes, consulta Spazi dei nomi dell'host nella documentazione di Kubernetes.

  • Attiva hostNetwork sui cluster esistenti prima di estendere la configurazione multiregione a nuove regioni.
  • Quando hostNetwork è attivato, assicurati che i nodi worker possano eseguire ricerche DNS inverse. Apigee Cassandra utilizza sia la ricerca DNS in avanti che quella inversa per ottenere l'indirizzo IP dell'host durante l'avvio.
    Suggerimento: se la risoluzione DNS non funziona, prova questa soluzione alternativa.

    Aggiungi una voce host statica nel file /etc/hosts di ciascun nodo worker Cassandra simile alla seguente:

    echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"

    o

    "\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"

  • Apri le porte Cassandra tra i cluster Kubernetes in tutte le regioni per consentire ai nodi worker di comunicare tra regioni e data center. Consulta Configurare le porte per i numeri di porta Cassandra.

Per informazioni dettagliate, consulta la documentazione di Kubernetes.

Nota: Apigee consiglia di assicurarsi che i tempi dei server siano sincronizzati.

Diverse funzionalità, come la scadenza e la revoca del token, si basano su date e ore di sistema precise. Se ospiti i componenti di runtime in data center diversi, assicurati che le ore del sistema siano sincronizzate.

Puoi utilizzare uno strumento come ntpdate per verificare che i tempi del server siano sincronizzati.

EKS

• Quando installi i deployment Apigee multiregione tra reti diverse (ad es. diversi provider cloud, reti VPC diverse, cloud e on-premise e così via), devi fornire la connettività interna tra queste reti distinte che Cassandra può utilizzare per comunicare tra i nodi. Questo può essere ottenuto con VPN o soluzioni di connettività specifiche per il cloud.
• Segui la guida all'installazione ibrida per eventuali prerequisiti come la configurazione di Google Cloud e dell'organizzazione prima di passare ai passaggi di configurazione del cluster.
• Assicurati che cert-manager sia installato in ogni cluster
• Assicurati che ASM sia installato
• Requisiti di Cassandra Multi Region:
  • Se lo spazio dei nomi di rete del pod non ha connettività tra i cluster (i cluster sono in esecuzione in "modalità di rete isolata"), attiva la funzionalità hostNetwork di Kubernetes impostando cassandra.hostNetwork: true nel file delle sostituzioni per tutte le regioni della tua installazione Apigee ibrida multi-regione. Amazon EKS utilizza completamente integrato per impostazione predefinita.

    Per informazioni sulla funzionalità hostNetwork di Kubernetes, consulta Spazi dei nomi dell'host nella documentazione di Kubernetes.

  • Attiva hostNetwork sui cluster esistenti prima di estendere la configurazione multiregione a nuove regioni.
  • Quando hostNetwork è attivato, assicurati che i nodi worker possano eseguire ricerche DNS inverse. Apigee Cassandra utilizza sia la ricerca DNS in avanti che quella inversa per ottenere l'indirizzo IP dell'host durante l'avvio.
    Suggerimento: se la risoluzione DNS non funziona, prova questa soluzione alternativa.

    Aggiungi una voce host statica nel file /etc/hosts di ciascun nodo worker Cassandra simile alla seguente:

    echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"

    o

    "\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"

  • Apri le porte Cassandra tra i cluster Kubernetes in tutte le regioni per consentire ai nodi worker di comunicare tra regioni e data center. Consulta Configurare le porte per i numeri di porta Cassandra.

Per informazioni dettagliate, consulta la documentazione di Kubernetes.

Nota: Apigee consiglia di assicurarsi che i tempi dei server siano sincronizzati.

Diverse funzionalità, come la scadenza e la revoca del token, si basano su date e ore di sistema precise. Se ospiti i componenti di runtime in data center diversi, assicurati che le ore del sistema siano sincronizzate.

Puoi utilizzare uno strumento come ntpdate per verificare che i tempi del server siano sincronizzati.

OpenShift

• Quando installi i deployment Apigee multiregione tra reti diverse (ad es. diversi provider cloud, reti VPC diverse, cloud e on-premise e così via), devi fornire la connettività interna tra queste reti distinte che Cassandra può utilizzare per comunicare tra i nodi. Questo può essere ottenuto con VPN o soluzioni di connettività specifiche per il cloud.
• Segui la guida all'installazione ibrida per eventuali prerequisiti come la configurazione di Google Cloud e dell'organizzazione prima di passare ai passaggi di configurazione del cluster.
• Assicurati che cert-manager sia installato in ogni cluster
• Assicurati che ASM sia installato
• Requisiti di Cassandra Multi Region:
  • Se lo spazio dei nomi di rete del pod non ha connettività tra i cluster (i cluster sono in esecuzione in "modalità di rete a isole", la modalità predefinita nelle installazioni di OpenShift), attiva la funzionalità hostNetwork di Kubernetes impostando cassandra.hostNetwork: true nel file delle sostituzioni per tutte le regioni della tua installazione Apigee ibrida multi-regione.

    Per informazioni sulla funzionalità hostNetwork di Kubernetes, consulta Spazi dei nomi dell'host nella documentazione di Kubernetes.

  • Attiva hostNetwork sui cluster esistenti prima di estendere la configurazione multiregione a nuove regioni.
  • Quando hostNetwork è attivato, assicurati che i nodi worker possano eseguire ricerche DNS inverse. Apigee Cassandra utilizza sia la ricerca DNS in avanti che quella inversa per ottenere l'indirizzo IP dell'host durante l'avvio.
    Suggerimento: se la risoluzione DNS non funziona, prova questa soluzione alternativa.

    Aggiungi una voce host statica nel file /etc/hosts di ciascun nodo worker Cassandra simile alla seguente:

    echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"

    o

    "\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"

  • Apri le porte Cassandra tra i cluster Kubernetes in tutte le regioni per consentire ai nodi worker di comunicare tra regioni e data center. Consulta Configurare le porte per i numeri di porta Cassandra.

Per informazioni dettagliate, consulta la documentazione di Kubernetes.

Nota: Apigee consiglia di assicurarsi che i tempi dei server siano sincronizzati.

Diverse funzionalità, come la scadenza e la revoca del token, si basano su date e ore di sistema precise. Se ospiti i componenti di runtime in data center diversi, assicurati che le ore del sistema siano sincronizzate.

Puoi utilizzare uno strumento come ntpdate per verificare che i tempi del server siano sincronizzati.

Configurare Apigee Hybrid per più regioni

Questa sezione descrive come configurare Apigee hybrid per più regioni.

GKE

Importante: quando espandi Apigee Hybrid a un nuovo datacenter regionale, assicurati di installare la stessa versione di Hybrid che hai nel tuo datacenter esistente. Evita di eseguire versioni diverse di ibrida in più data center. Questa limitazione non si applica quando esegui l'upgrade di più data center a una nuova versione.

Configura l'host seed multi-region

Questa sezione descrive come espandere il cluster Cassandra esistente in una nuova regione. Questa configurazione consente alla nuova regione di avviare il cluster e di partecipare al data center esistente. Senza questa configurazione, i cluster Kubernetes multiregione non si conoscerebbero.

1. Imposta il contesto kubectl sul cluster originale prima di recuperare il nome del seme:

   kubectl config use-context original-cluster-name

2. Esegui il seguente comando kubectl per identificare un indirizzo host iniziale per Cassandra nella regione corrente.

   Un indirizzo host iniziale consente a una nuova istanza regionale di trovare il cluster originale alla prima accensione per apprenderne la topologia. L'indirizzo host del seed viene designato come punto di contatto nel cluster.

   kubectl get pods -o wide -n apigee

   NAME                      READY   STATUS      RESTARTS   AGE   IP          NODE                                          NOMINATED NODE
   apigee-cassandra-default-0        1/1     Running     0          5d    10.0.0.11   gke-k8s-dc-1-default-pool-a2206492-p55d
   apigee-cassandra-default-1        1/1     Running     0          5d    10.0.2.4    gke-k8s-dc-1-default-pool-e9daaab3-tjmz
   apigee-cassandra-default-2        1/1     Running     0          5d    10.0.3.5    gke-k8s-dc-1-default-pool-e589awq3-kjch

3. Decidi quale degli IP restituiti dal comando precedente sarà l'host iniziale con più regioni.
4. Nel data center 2, configura cassandra.multiRegionSeedHost e cassandra.datacenter in Gestisci i componenti del piano di runtime, dove multiRegionSeedHost è uno degli IP restituiti dal comando precedente:

   cassandra:
     multiRegionSeedHost: seed_host_IP
     datacenter: data_center_name
     rack: rack_name
     hostNetwork: false

   Ad esempio:

   cassandra:
     multiRegionSeedHost: 10.0.0.11
     datacenter: "dc-1"
     rack: "ra-1"
     hostNetwork: false

5. Nel nuovo data center/nella nuova regione, prima di installare la versione ibrida, imposta gli stessi certificati TLS e le stesse credenziali in overrides.yaml come hai fatto nella prima regione.
   Nota: assicurati di utilizzare gli stessi certificati e le stesse credenziali TLS di Cassandra nel secondo data center di quelli forniti nel data center originale. Le credenziali impostate nel file delle sostituzioni nel primo data center devono corrispondere a quelle specificate nel file delle sostituzioni nel secondo data center. Per maggiori dettagli, consulta Configurazione di TLS per Cassandra.

Configurare la nuova regione

Dopo aver configurato l'host seed, puoi configurare la nuova regione.

Per configurare la nuova regione:

1. Copia il certificato dal cluster esistente al nuovo cluster. La nuova CA principale viene utilizzata da Cassandra e da altri componenti ibride per mTLS. Pertanto, è essenziale avere certificati coerenti in tutto il cluster.
   1. Imposta il contesto sullo spazio dei nomi originale:

      kubectl config use-context original-cluster-name

   2. Esporta la configurazione dello spazio dei nomi attuale in un file:

      kubectl get namespace namespace -o yaml > apigee-namespace.yaml

   3. Esporta il secret apigee-ca in un file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml

   4. Imposta il contesto sul nome del cluster della nuova regione:

      kubectl config use-context new-cluster-name

   5. Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare il valore "namespace" nel file se utilizzi uno spazio dei nomi diverso nella nuova regione:

      kubectl apply -f apigee-namespace.yaml

   6. Importa il secret nel nuovo cluster:

      kubectl -n cert-manager apply -f apigee-ca.yaml

2. Installa l'ambiente ibrido nella nuova regione. Assicurati che il file overrides-DC_name.yaml includa gli stessi certificati TLS configurati nella prima regione, come spiegato nella sezione precedente.

   Esegui i seguenti due comandi per installare la versione ibrida nella nuova regione:

   Importante: quando espandi Apigee Hybrid a un nuovo datacenter regionale, assicurati di installare la stessa versione di Hybrid che hai nel tuo datacenter esistente. Evita di eseguire versioni diverse di ibrida in più data center.

   apigeectl init -f overrides/overrides-DC_name.yaml

   apigeectl apply -f overrides/overrides-DC_name.yaml

3. Verifica che l'installazione ibrida sia andata a buon fine eseguendo il seguente comando:

   apigeectl check-ready -f overrides_DC_name.yaml

4. Verifica la configurazione del cluster Cassandra eseguendo il seguente comando. L'output dovrebbe mostrare sia i data center esistenti che quelli nuovi.
   Avviso: se l'output di questo comando non mostra entrambi i datacenter esistenti e nuovi, la configurazione non è riuscita. In questo caso, non procedere oltre.

   Per risolvere il problema, l'installazione ibrida nella nuova regione deve essere eliminata e ricreata. Consulta Disinstallare il runtime di hybrid. Se la configurazione non va a buon fine, non tentare di procedere o di partecipare al cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
     -- nodetool -u JMX_user -pw JMX_password status

   Esempio che mostra una configurazione riuscita:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

5. Configura Cassandra su tutti i pod nei nuovi data center.
   1. Recupera apigeeorg dal cluster con il seguente comando:

      kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name
      

      Ad esempio:

      Ex: kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name
      "rg-hybrid-b7d3b9c"
      

   2. Crea un file della risorsa personalizzata (YAML) per la replica dei dati di Cassandra. Il file può avere un nome qualsiasi. Nei seguenti esempi il file avrà il nome datareplication.yaml.

      Il file deve contenere quanto segue:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: REGION_EXPANSION
        namespace: NAMESPACE
      spec:
        organizationRef: APIGEEORG_VALUE
        force: false
        source:
          region: SOURCE_REGION

      Dove:

      • REGION_EXPANSION è il nome che assegni a questi metadati. Puoi utilizzare qualsiasi nome.
      • NAMESPACE è lo stesso spazio dei nomi fornito in overrides.yaml. In genere si tratta di "apigee".
      • APIGEEORG_VALUE è il valore visualizzato dal comando kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name nel passaggio precedente. Ad esempio, rg-hybrid-b7d3b9c
      • SOURCE_REGION è il nome del data center nella regione di origine. Si tratta del valore impostato per cassandra:datacenter: in overrides.yaml.

      Ad esempio:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: region-expansion
        namespace: apigee
      spec:
        organizationRef: rg-hybrid-b7d3b9c
        force: false
        source:
          region: "dc-1"

   3. Applica il CassandraDataReplication con il seguente comando:

      kubectl apply -f datareplication.yaml

   4. Verifica lo stato della ricostruzione utilizzando il seguente comando.
      Nota: l'operazione di ricostruzione può richiedere fino a diverse ore, a seconda delle dimensioni dei dati.

      kubectl -n apigee get apigeeds -o json | jq .items[].status.cassandraDataReplication

      I risultati dovrebbero avere il seguente aspetto:

      {
        "rebuildDetails": {
          "apigee-cassandra-default-0": {
            "state": "complete",
            "updated": 1623105760
          },
          "apigee-cassandra-default-1": {
            "state": "complete",
            "updated": 1623105765
          },
          "apigee-cassandra-default-2": {
            "state": "complete",
            "updated": 1623105770
          }
        },
        "state": "complete",
        "updated": 1623105770
      }

6. Verifica le procedure di ricostruzione dai log. Inoltre, verifica le dimensioni dei dati utilizzando il comando nodetool status:

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status

   L'esempio seguente mostra voci di log di esempio:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

7. Aggiorna gli host seed. Rimuovi multiRegionSeedHost: 10.0.0.11 da overrides-DC_name.yaml e richiedi di nuovo.
   Nota: gli host di seed sono membri del cluster locale. Per avviare una nuova regione è necessario un host seed esterno. Una volta avviata una regione, devi ripristinare gli host seed nei rispettivi cluster locali in overrides.yaml e poi applicare nuovamente la configurazione.

   apigeectl apply -f overrides/overrides-DC_name.yaml

Controlla lo stato del cluster Cassandra

Il seguente comando è utile per verificare se la configurazione del cluster è andata a buon fine in due datacenter. Il comando controlla lo stato di nodetool per le due regioni.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status


Datacenter: dc-1
================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: dc-1
================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          0.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          0.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          0.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

GKE On-Prem

Importante: quando espandi Apigee Hybrid a un nuovo datacenter regionale, assicurati di installare la stessa versione di Hybrid che hai nel tuo datacenter esistente. Evita di eseguire versioni diverse di ibrida in più data center. Questa limitazione non si applica quando esegui l'upgrade di più data center a una nuova versione.

Configura l'host seed multi-region

Questa sezione descrive come espandere il cluster Cassandra esistente in una nuova regione. Questa configurazione consente alla nuova regione di avviare il cluster e di partecipare al data center esistente. Senza questa configurazione, i cluster Kubernetes multiregione non si conoscerebbero.

1. Nel file overrides.yaml del cluster originale, assicurati che cassandra:hostNetwork sia impostato su true. Ad esempio:

   cassandra:
     hostNetwork: true

   Per ulteriori informazioni su quando impostare hostNetwork: true, consulta Prerequisiti.

2. Se cassandra:hostNetwork non è impostato su true, procedi nel seguente modo:
   1. cassandra.hostNetwork modificato in true.
   2. Applica il file di configurazione overrides.yaml con il comando:

      apigeectl apply -f overrides.yaml --datastore
      

   3. Attendi il completamento di un riavvio graduale dei pod Cassandra.

   4. Verifica che il cluster Cassandra sia in stato di salute con i seguenti comandi:

      kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
      

      nodetool -u $APIGEE_JMX_USER -pw $APIGEE_JMX_PASSWORD status
      

      Assicurati che tutti i nodi Cassandra nell'output siano nello stato UN (Up/Normal):

      nodetool -u $APIGEE_JMX_USER -pw $APIGEE_JMX_PASSWORD describecluster
      

      Assicurati che non siano presenti nodi non raggiungibili nell'output.

3. Imposta il contesto kubectl sul cluster originale prima di recuperare il nome del seme:

   kubectl config use-context original-cluster-name

4. Esegui il seguente comando kubectl per identificare un indirizzo host iniziale per Cassandra nella regione corrente.

   Un indirizzo host iniziale consente a una nuova istanza regionale di trovare il cluster originale alla prima accensione per apprenderne la topologia. L'indirizzo host del seed viene designato come punto di contatto nel cluster.

   kubectl get pods -o wide -n apigee

   NAME                      READY   STATUS      RESTARTS   AGE   IP          NODE                                          NOMINATED NODE
   apigee-cassandra-default-0        1/1     Running     0          5d    10.0.0.11   gke-k8s-dc-1-default-pool-a2206492-p55d
   apigee-cassandra-default-1        1/1     Running     0          5d    10.0.2.4    gke-k8s-dc-1-default-pool-e9daaab3-tjmz
   apigee-cassandra-default-2        1/1     Running     0          5d    10.0.3.5    gke-k8s-dc-1-default-pool-e589awq3-kjch

5. Decidi quale degli IP restituiti dal comando precedente sarà l'host iniziale con più regioni.
6. Nel data center 2, configura cassandra.multiRegionSeedHost nel file delle sostituzioni, dove multiRegionSeedHost è uno degli IP restituiti dal comando precedente:

   cassandra:
     hostNetwork: true
     multiRegionSeedHost: seed_host_IP
     datacenter: data_center_name

   Ad esempio:

   cassandra:
     hostNetwork: true
     multiRegionSeedHost: 10.0.0.11
     datacenter: "dc-1"

7. Nel nuovo data center/nella nuova regione, prima di installare la versione ibrida, imposta gli stessi certificati TLS e le stesse credenziali in overrides.yaml come hai fatto nella prima regione.
   Nota: assicurati di utilizzare gli stessi certificati e le stesse credenziali TLS di Cassandra nel secondo data center di quelli forniti nel data center originale. Le credenziali impostate nel file delle sostituzioni nel primo data center devono corrispondere a quelle specificate nel file delle sostituzioni nel secondo data center. Per maggiori dettagli, consulta Configurazione di TLS per Cassandra.

Configurare la nuova regione

Dopo aver configurato l'host seed, puoi configurare la nuova regione.

Per configurare la nuova regione:

1. Copia il certificato dal cluster esistente al nuovo cluster. La nuova CA principale viene utilizzata da Cassandra e da altri componenti ibride per mTLS. Pertanto, è essenziale avere certificati coerenti in tutto il cluster.
   1. Imposta il contesto sullo spazio dei nomi originale:

      kubectl config use-context original-cluster-name

   2. Esporta la configurazione dello spazio dei nomi attuale in un file:

      kubectl get namespace namespace -o yaml > apigee-namespace.yaml

   3. Esporta il secret apigee-ca in un file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml

   4. Imposta il contesto sul nome del cluster della nuova regione:

      kubectl config use-context new-cluster-name

   5. Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare il valore "namespace" nel file se utilizzi uno spazio dei nomi diverso nella nuova regione:

      kubectl apply -f apigee-namespace.yaml

   6. Importa il secret nel nuovo cluster:

      kubectl -n cert-manager apply -f apigee-ca.yaml

2. Installa l'ambiente ibrido nella nuova regione. Assicurati che il file overrides-DC_name.yaml includa gli stessi certificati TLS configurati nella prima regione, come spiegato nella sezione precedente.

   Esegui i seguenti due comandi per installare la versione ibrida nella nuova regione:

   Importante: quando espandi Apigee Hybrid a un nuovo datacenter regionale, assicurati di installare la stessa versione di Hybrid che hai nel tuo datacenter esistente. Evita di eseguire versioni diverse di ibrida in più data center.

   apigeectl init -f overrides/overrides-DC_name.yaml

   apigeectl apply -f overrides/overrides-DC_name.yaml

3. Verifica che l'installazione ibrida sia andata a buon fine eseguendo il seguente comando:

   apigeectl check-ready -f overrides_DC_name.yaml

4. Verifica la configurazione del cluster Cassandra eseguendo il seguente comando. L'output dovrebbe mostrare sia i data center esistenti che quelli nuovi.
   Avviso: se l'output di questo comando non mostra entrambi i datacenter esistenti e nuovi, la configurazione non è riuscita. In questo caso, non procedere oltre.

   Per risolvere il problema, l'installazione ibrida nella nuova regione deve essere eliminata e ricreata. Consulta Disinstallare il runtime di hybrid. Se la configurazione non va a buon fine, non tentare di procedere o di partecipare al cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
     -- nodetool -u JMX_user -pw JMX_password status

   Esempio che mostra una configurazione riuscita:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

5. Configura Cassandra su tutti i pod nei nuovi data center.
   1. Recupera apigeeorg dal cluster con il seguente comando:

      kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name
      

      Ad esempio:

      Ex: kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name
      "rg-hybrid-b7d3b9c"
      

   2. Crea un file della risorsa personalizzata (YAML) per la replica dei dati di Cassandra. Il file può avere un nome qualsiasi. Nei seguenti esempi il file avrà il nome datareplication.yaml.

      Il file deve contenere quanto segue:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: REGION_EXPANSION
        namespace: NAMESPACE
      spec:
        organizationRef: APIGEEORG_VALUE
        force: false
        source:
          region: SOURCE_REGION

      Dove:

      • REGION_EXPANSION è il nome che assegni a questi metadati. Puoi utilizzare qualsiasi nome.
      • NAMESPACE è lo stesso spazio dei nomi fornito in overrides.yaml. In genere si tratta di "apigee".
      • APIGEEORG_VALUE è il valore visualizzato dal comando kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name nel passaggio precedente. Ad esempio, rg-hybrid-b7d3b9c
      • SOURCE_REGION è il nome del data center nella regione di origine. Si tratta del valore impostato per cassandra:datacenter: in overrides.yaml.

      Ad esempio:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: region-expansion
        namespace: apigee
      spec:
        organizationRef: rg-hybrid-b7d3b9c
        force: false
        source:
          region: "dc-1"

   3. Applica il CassandraDataReplication con il seguente comando:

      kubectl apply -f datareplication.yaml

   4. Verifica lo stato della ricostruzione utilizzando il seguente comando.
      Nota: l'operazione di ricostruzione può richiedere fino a diverse ore, a seconda delle dimensioni dei dati.

      kubectl -n apigee get apigeeds -o json | jq .items[].status.cassandraDataReplication

      I risultati dovrebbero avere il seguente aspetto:

      {
        "rebuildDetails": {
          "apigee-cassandra-default-0": {
            "state": "complete",
            "updated": 1623105760
          },
          "apigee-cassandra-default-1": {
            "state": "complete",
            "updated": 1623105765
          },
          "apigee-cassandra-default-2": {
            "state": "complete",
            "updated": 1623105770
          }
        },
        "state": "complete",
        "updated": 1623105770
      }

6. Verifica le procedure di ricostruzione dai log. Inoltre, verifica le dimensioni dei dati utilizzando il comando nodetool status:

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status

   L'esempio seguente mostra voci di log di esempio:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

7. Aggiorna gli host seed. Rimuovi multiRegionSeedHost: 10.0.0.11 da overrides-DC_name.yaml e richiedi di nuovo.
   Nota: gli host di seed sono membri del cluster locale. Per avviare una nuova regione è necessario un host seed esterno. Una volta avviata una regione, devi ripristinare gli host seed nei rispettivi cluster locali in overrides.yaml e poi applicare nuovamente la configurazione.

   apigeectl apply -f overrides/overrides-DC_name.yaml

Controlla lo stato del cluster Cassandra

Il seguente comando è utile per verificare se la configurazione del cluster è andata a buon fine in due datacenter. Il comando controlla lo stato di nodetool per le due regioni.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status


Datacenter: dc-1
================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: dc-1
================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          0.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          0.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          0.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

AKS

Importante: quando espandi Apigee Hybrid a un nuovo datacenter regionale, assicurati di installare la stessa versione di Hybrid che hai nel tuo datacenter esistente. Evita di eseguire versioni diverse di ibrida in più data center. Questa limitazione non si applica quando esegui l'upgrade di più data center a una nuova versione.

Crea una rete virtuale in ogni regione

Segui i consigli di Azure per stabilire la comunicazione tra regioni qui: VNet-to-VNet: Connessione di reti virtuali in Azure in regioni diverse.

Creare cluster multiregionali

Configura i cluster Kubernetes in più regioni con blocchi CIDR diversi. Vedi anche Passaggio 1: crea un cluster. Utilizza le località e i nomi delle reti virtuali che hai creato in precedenza.

Apri le porte Cassandra tra i cluster Kubernetes in tutte le regioni per consentire ai nodi worker di comunicare tra regioni e data center. Consulta Configurare le porte per i numeri di porta Cassandra.

Configura l'host seed multi-region

Questa sezione descrive come espandere il cluster Cassandra esistente in una nuova regione. Questa configurazione consente alla nuova regione di avviare il cluster e di partecipare al data center esistente. Senza questa configurazione, i cluster Kubernetes multiregione non si conoscerebbero.

1. Nel file overrides.yaml del cluster originale, assicurati che cassandra:hostNetwork sia impostato su true. Ad esempio:

   cassandra:
     hostNetwork: true

   Per ulteriori informazioni su quando impostare hostNetwork: true, consulta Prerequisiti.

2. Se cassandra:hostNetwork non è impostato su true, procedi nel seguente modo:
   1. cassandra.hostNetwork modificato in true.
   2. Applica il file di configurazione overrides.yaml con il comando:

      apigeectl apply -f overrides.yaml --datastore
      

   3. Attendi il completamento di un riavvio graduale dei pod Cassandra.

   4. Verifica che il cluster Cassandra sia in stato di salute con i seguenti comandi:

      kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
      

      nodetool -u $APIGEE_JMX_USER -pw $APIGEE_JMX_PASSWORD status
      

      Assicurati che tutti i nodi Cassandra nell'output siano nello stato UN (Up/Normal):

      nodetool -u $APIGEE_JMX_USER -pw $APIGEE_JMX_PASSWORD describecluster
      

      Assicurati che non siano presenti nodi non raggiungibili nell'output.

3. Imposta il contesto kubectl sul cluster originale prima di recuperare il nome del seme:

   kubectl config use-context original-cluster-name

4. Esegui il seguente comando kubectl per identificare un indirizzo host iniziale per Cassandra nella regione corrente.

   Un indirizzo host iniziale consente a una nuova istanza regionale di trovare il cluster originale alla prima accensione per apprenderne la topologia. L'indirizzo host del seed viene designato come punto di contatto nel cluster.

   kubectl get pods -o wide -n apigee | grep apigee-cassandra

   apigee-cassandra-default-0  1/1   Running   0   4d17h   120.38.1.9  aks-agentpool-21207753-vmss000000

5. Decidi quale degli IP restituiti dal comando precedente sarà l'host iniziale con più regioni. In questo esempio, in cui è in esecuzione un solo cluster Cassandra a un nodo, l'host iniziale è 120.38.1.9.
6. Nel data center 2, copia il file delle sostituzioni in un nuovo file il cui nome include il nome del cluster. Ad esempio, overrides_your_cluster_name.yaml.
7. Nel data center 2, configura cassandra.multiRegionSeedHost e cassandra.datacenter in overrides_your_cluster_name.yaml, dove multiRegionSeedHost è uno degli IP restituiti dal comando precedente:

   cassandra:
        multiRegionSeedHost: seed_host_IP
        datacenter: data_center_name
        rack: rack_name
        hostNetwork: true

   Ad esempio:

   cassandra:
     multiRegionSeedHost: 120.38.1.9
     datacenter: "dc-1"
     rack: "ra-1"
     hostNetwork: true

8. Nel nuovo data center/nella nuova regione, prima di installare la versione ibrida, imposta gli stessi certificati TLS e le stesse credenziali in overrides_your_cluster_name.yaml come hai fatto nella prima regione.
   Nota: assicurati di utilizzare gli stessi certificati e le stesse credenziali TLS di Cassandra nel secondo data center di quelli forniti nel data center originale. Le credenziali impostate nel file delle sostituzioni nel primo data center devono corrispondere a quelle specificate nel file delle sostituzioni nel secondo data center. Per maggiori dettagli, consulta Configurazione di TLS per Cassandra.

Configurare la nuova regione

Dopo aver configurato l'host seed, puoi configurare la nuova regione.

Per configurare la nuova regione:

1. Copia il certificato dal cluster esistente al nuovo cluster. La nuova CA principale viene utilizzata da Cassandra e da altri componenti ibride per mTLS. Pertanto, è essenziale avere certificati coerenti in tutto il cluster.
   1. Imposta il contesto sullo spazio dei nomi originale:

      kubectl config use-context original-cluster-name

   2. Esporta la configurazione dello spazio dei nomi attuale in un file:

      kubectl get namespace namespace -o yaml > apigee-namespace.yaml

   3. Esporta il secret apigee-ca in un file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml

   4. Imposta il contesto sul nome del cluster della nuova regione:

      kubectl config use-context new-cluster-name

   5. Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare il valore "namespace" nel file se utilizzi uno spazio dei nomi diverso nella nuova regione:

      kubectl apply -f apigee-namespace.yaml

   6. Importa il secret nel nuovo cluster:

      kubectl -n cert-manager apply -f apigee-ca.yaml

2. Installa l'ambiente ibrido nella nuova regione. Assicurati che il file overrides_your_cluster_name.yaml includa gli stessi certificati TLS configurati nella prima regione, come spiegato nella sezione precedente.

   Esegui i seguenti due comandi per installare la versione ibrida nella nuova regione:

   Importante: quando espandi Apigee Hybrid a un nuovo datacenter regionale, assicurati di installare la stessa versione di Hybrid che hai nel tuo datacenter esistente. Evita di eseguire versioni diverse di ibrida in più data center.

   apigeectl init -f overrides_your_cluster_name.yaml

   apigeectl apply -f overrides_your_cluster_name.yaml

3. Verifica che l'installazione ibrida sia andata a buon fine eseguendo il seguente comando:

   apigeectl check-ready -f overrides_your_cluster_name.yaml

4. Verifica la configurazione del cluster Cassandra eseguendo il seguente comando. L'output dovrebbe mostrare sia i data center esistenti che quelli nuovi.
   Avviso: se l'output di questo comando non mostra entrambi i datacenter esistenti e nuovi, la configurazione non è riuscita. In questo caso, non procedere oltre.

   Per risolvere il problema, l'installazione ibrida nella nuova regione deve essere eliminata e ricreata. Consulta Disinstallare il runtime di hybrid. Se la configurazione non va a buon fine, non tentare di procedere o di partecipare al cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
     -- nodetool -u JMX_user -pw JMX_password status

   Esempio che mostra una configurazione riuscita:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

5. Configura Cassandra su tutti i pod nei nuovi data center.
   1. Recupera apigeeorg dal cluster con il seguente comando:

      kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name
      

      Ad esempio:

      Ex: kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name
      "rg-hybrid-b7d3b9c"
      

   2. Crea un file della risorsa personalizzata (YAML) per la replica dei dati di Cassandra. Il file può avere un nome qualsiasi. Nei seguenti esempi il file avrà il nome datareplication.yaml.

      Il file deve contenere quanto segue:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: REGION_EXPANSION
        namespace: NAMESPACE
      spec:
        organizationRef: APIGEEORG_VALUE
        force: false
        source:
          region: SOURCE_REGION

      Dove:

      • REGION_EXPANSION è il nome che assegni a questi metadati. Puoi utilizzare qualsiasi nome.
      • NAMESPACE è lo stesso spazio dei nomi fornito in overrides.yaml. In genere si tratta di "apigee".
      • APIGEEORG_VALUE è il valore visualizzato dal comando kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name nel passaggio precedente. Ad esempio, rg-hybrid-b7d3b9c
      • SOURCE_REGION è il nome del data center nella regione di origine. Si tratta del valore impostato per cassandra:datacenter: in overrides.yaml.

      Ad esempio:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: region-expansion
        namespace: apigee
      spec:
        organizationRef: rg-hybrid-b7d3b9c
        force: false
        source:
          region: "dc-1"

   3. Applica il CassandraDataReplication con il seguente comando:

      kubectl apply -f datareplication.yaml

   4. Verifica lo stato della ricostruzione utilizzando il seguente comando.
      Nota: l'operazione di ricostruzione può richiedere fino a diverse ore, a seconda delle dimensioni dei dati.

      kubectl -n apigee get apigeeds -o json | jq .items[].status.cassandraDataReplication

      I risultati dovrebbero avere il seguente aspetto:

      {
        "rebuildDetails": {
          "apigee-cassandra-default-0": {
            "state": "complete",
            "updated": 1623105760
          },
          "apigee-cassandra-default-1": {
            "state": "complete",
            "updated": 1623105765
          },
          "apigee-cassandra-default-2": {
            "state": "complete",
            "updated": 1623105770
          }
        },
        "state": "complete",
        "updated": 1623105770
      }

6. Verifica le procedure di ricostruzione dai log. Inoltre, verifica le dimensioni dei dati utilizzando il comando nodetool status:

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status

   L'esempio seguente mostra voci di log di esempio:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

7. Aggiorna gli host seed. Rimuovi multiRegionSeedHost: 10.0.0.11 da overrides-DC_name.yaml e richiedi di nuovo.
   Nota: gli host di seed sono membri del cluster locale. Per avviare una nuova regione è necessario un host seed esterno. Una volta avviata una regione, devi ripristinare gli host seed nei rispettivi cluster locali in overrides.yaml e poi applicare nuovamente la configurazione.

   apigeectl apply -f overrides/overrides-DC_name.yaml

Controlla lo stato del cluster Cassandra

Il seguente comando è utile per verificare se la configurazione del cluster è andata a buon fine in due datacenter. Il comando controlla lo stato di nodetool per le due regioni.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status


Datacenter: dc-1
================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: dc-1
================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          0.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          0.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          0.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

EKS

Importante: quando espandi Apigee Hybrid a un nuovo datacenter regionale, assicurati di installare la stessa versione di Hybrid che hai nel tuo datacenter esistente. Evita di eseguire versioni diverse di ibrida in più data center. Questa limitazione non si applica quando esegui l'upgrade di più data center a una nuova versione.

Crea una rete virtuale in ogni regione

Segui i consigli di AWS per stabilire la comunicazione tra regioni come descritto in: Che cos'è il peering VPC?. Il termine AWS per l'utilizzo di regioni diverse è peering VPC interregione.

Creare cluster multiregionali

Configura i cluster Kubernetes in più regioni con blocchi CIDR diversi. Vedi anche Passaggio 1: crea un cluster. Utilizza le località e i nomi delle reti virtuali che hai creato in precedenza.

Apri le porte Cassandra tra i cluster Kubernetes in tutte le regioni per consentire ai nodi worker di comunicare tra regioni e data center. Consulta Configurare le porte per i numeri di porta Cassandra.

Configura l'host seed multi-region

Questa sezione descrive come espandere il cluster Cassandra esistente in una nuova regione. Questa configurazione consente alla nuova regione di avviare il cluster e di partecipare al data center esistente. Senza questa configurazione, i cluster Kubernetes multiregione non si conoscerebbero.

1. Nel file overrides.yaml del cluster originale, assicurati che cassandra:hostNetwork sia impostato su true. Ad esempio:

   cassandra:
     hostNetwork: true

   Per ulteriori informazioni su quando impostare hostNetwork: true, consulta Prerequisiti.

2. Se cassandra:hostNetwork non è impostato su true, procedi nel seguente modo:
   1. cassandra.hostNetwork modificato in true.
   2. Applica il file di configurazione overrides.yaml con il comando:

      apigeectl apply -f overrides.yaml --datastore
      

   3. Attendi il completamento di un riavvio graduale dei pod Cassandra.

   4. Verifica che il cluster Cassandra sia in stato di salute con i seguenti comandi:

      kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
      

      nodetool -u $APIGEE_JMX_USER -pw $APIGEE_JMX_PASSWORD status
      

      Assicurati che tutti i nodi Cassandra nell'output siano nello stato UN (Up/Normal):

      nodetool -u $APIGEE_JMX_USER -pw $APIGEE_JMX_PASSWORD describecluster
      

      Assicurati che non siano presenti nodi non raggiungibili nell'output.

3. Imposta il contesto kubectl sul cluster originale prima di recuperare il nome del seme:

   kubectl config use-context original-cluster-name

4. Esegui il seguente comando kubectl per identificare un indirizzo host iniziale per Cassandra nella regione corrente.

   Un indirizzo host iniziale consente a una nuova istanza regionale di trovare il cluster originale alla prima accensione per apprenderne la topologia. L'indirizzo host del seed viene designato come punto di contatto nel cluster.

   kubectl get pods -o wide -n apigee | grep apigee-cassandra

   apigee-cassandra-default-0  1/1   Running   0   4d17h   120.38.1.9  aks-agentpool-21207753-vmss000000

5. Decidi quale degli IP restituiti dal comando precedente sarà l'host iniziale con più regioni. In questo esempio, in cui è in esecuzione un solo cluster Cassandra a un nodo, l'host iniziale è 120.38.1.9.
6. Nel data center 2, copia il file delle sostituzioni in un nuovo file il cui nome include il nome del cluster. Ad esempio, overrides_your_cluster_name.yaml.
7. Nel data center 2, configura cassandra.multiRegionSeedHost e cassandra.datacenter in overrides_your_cluster_name.yaml, dove multiRegionSeedHost è uno degli IP restituiti dal comando precedente:

   cassandra:
        multiRegionSeedHost: seed_host_IP
        datacenter: data_center_name
        rack: rack_name
        hostNetwork: true

   Ad esempio:

   cassandra:
     multiRegionSeedHost: 120.38.1.9
     datacenter: "dc-1"
     rack: "ra-1"
     hostNetwork: true

8. Nel nuovo data center/nella nuova regione, prima di installare la versione ibrida, imposta gli stessi certificati TLS e le stesse credenziali in overrides_your_cluster_name.yaml come hai fatto nella prima regione.
   Nota: assicurati di utilizzare gli stessi certificati e le stesse credenziali TLS di Cassandra nel secondo data center di quelli forniti nel data center originale. Le credenziali impostate nel file delle sostituzioni nel primo data center devono corrispondere a quelle specificate nel file delle sostituzioni nel secondo data center. Per maggiori dettagli, consulta Configurazione di TLS per Cassandra.

Configurare la nuova regione

Dopo aver configurato l'host seed, puoi configurare la nuova regione.

Per configurare la nuova regione:

1. Copia il certificato dal cluster esistente al nuovo cluster. La nuova CA principale viene utilizzata da Cassandra e da altri componenti ibride per mTLS. Pertanto, è essenziale avere certificati coerenti in tutto il cluster.
   1. Imposta il contesto sullo spazio dei nomi originale:

      kubectl config use-context original-cluster-name

   2. Esporta la configurazione dello spazio dei nomi attuale in un file:

      kubectl get namespace namespace -o yaml > apigee-namespace.yaml

   3. Esporta il secret apigee-ca in un file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml

   4. Imposta il contesto sul nome del cluster della nuova regione:

      kubectl config use-context new-cluster-name

   5. Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare il valore "namespace" nel file se utilizzi uno spazio dei nomi diverso nella nuova regione:

      kubectl apply -f apigee-namespace.yaml

   6. Importa il secret nel nuovo cluster:

      kubectl -n cert-manager apply -f apigee-ca.yaml

2. Installa l'ambiente ibrido nella nuova regione. Assicurati che il file overrides_your_cluster_name.yaml includa gli stessi certificati TLS configurati nella prima regione, come spiegato nella sezione precedente.

   Esegui i seguenti due comandi per installare la versione ibrida nella nuova regione:

   Importante: quando espandi Apigee Hybrid a un nuovo datacenter regionale, assicurati di installare la stessa versione di Hybrid che hai nel tuo datacenter esistente. Evita di eseguire versioni diverse di ibrida in più data center.

   apigeectl init -f overrides_your_cluster_name.yaml

   apigeectl apply -f overrides_your_cluster_name.yaml

3. Verifica che l'installazione ibrida sia andata a buon fine eseguendo il seguente comando:

   apigeectl check-ready -f overrides_your_cluster_name.yaml

4. Verifica la configurazione del cluster Cassandra eseguendo il seguente comando. L'output dovrebbe mostrare sia i data center esistenti che quelli nuovi.
   Avviso: se l'output di questo comando non mostra entrambi i datacenter esistenti e nuovi, la configurazione non è riuscita. In questo caso, non procedere oltre.

   Per risolvere il problema, l'installazione ibrida nella nuova regione deve essere eliminata e ricreata. Consulta Disinstallare il runtime di hybrid. Se la configurazione non va a buon fine, non tentare di procedere o di partecipare al cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
     -- nodetool -u JMX_user -pw JMX_password status

   Esempio che mostra una configurazione riuscita:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

5. Configura Cassandra su tutti i pod nei nuovi data center.
   1. Recupera apigeeorg dal cluster con il seguente comando:

      kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name
      

      Ad esempio:

      Ex: kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name
      "rg-hybrid-b7d3b9c"
      

   2. Crea un file della risorsa personalizzata (YAML) per la replica dei dati di Cassandra. Il file può avere un nome qualsiasi. Nei seguenti esempi il file avrà il nome datareplication.yaml.

      Il file deve contenere quanto segue:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: REGION_EXPANSION
        namespace: NAMESPACE
      spec:
        organizationRef: APIGEEORG_VALUE
        force: false
        source:
          region: SOURCE_REGION

      Dove:

      • REGION_EXPANSION è il nome che assegni a questi metadati. Puoi utilizzare qualsiasi nome.
      • NAMESPACE è lo stesso spazio dei nomi fornito in overrides.yaml. In genere si tratta di "apigee".
      • APIGEEORG_VALUE è il valore visualizzato dal comando kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name nel passaggio precedente. Ad esempio, rg-hybrid-b7d3b9c
      • SOURCE_REGION è il nome del data center nella regione di origine. Si tratta del valore impostato per cassandra:datacenter: in overrides.yaml.

      Ad esempio:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: region-expansion
        namespace: apigee
      spec:
        organizationRef: rg-hybrid-b7d3b9c
        force: false
        source:
          region: "dc-1"

   3. Applica il CassandraDataReplication con il seguente comando:

      kubectl apply -f datareplication.yaml

   4. Verifica lo stato della ricostruzione utilizzando il seguente comando.
      Nota: l'operazione di ricostruzione può richiedere fino a diverse ore, a seconda delle dimensioni dei dati.

      kubectl -n apigee get apigeeds -o json | jq .items[].status.cassandraDataReplication

      I risultati dovrebbero avere il seguente aspetto:

      {
        "rebuildDetails": {
          "apigee-cassandra-default-0": {
            "state": "complete",
            "updated": 1623105760
          },
          "apigee-cassandra-default-1": {
            "state": "complete",
            "updated": 1623105765
          },
          "apigee-cassandra-default-2": {
            "state": "complete",
            "updated": 1623105770
          }
        },
        "state": "complete",
        "updated": 1623105770
      }

6. Verifica le procedure di ricostruzione dai log. Inoltre, verifica le dimensioni dei dati utilizzando il comando nodetool status:

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status

   L'esempio seguente mostra voci di log di esempio:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

7. Aggiorna gli host seed. Rimuovi multiRegionSeedHost: 10.0.0.11 da overrides-DC_name.yaml e richiedi di nuovo.
   Nota: gli host di seed sono membri del cluster locale. Per avviare una nuova regione è necessario un host seed esterno. Una volta avviata una regione, devi ripristinare gli host seed nei rispettivi cluster locali in overrides.yaml e poi applicare nuovamente la configurazione.

   apigeectl apply -f overrides/overrides-DC_name.yaml

Controlla lo stato del cluster Cassandra

Il seguente comando è utile per verificare se la configurazione del cluster è andata a buon fine in due datacenter. Il comando controlla lo stato di nodetool per le due regioni.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status


Datacenter: dc-1
================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: dc-1
================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          0.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          0.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          0.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

OpenShift

Importante: quando espandi Apigee Hybrid a un nuovo datacenter regionale, assicurati di installare la stessa versione di Hybrid che hai nel tuo datacenter esistente. Evita di eseguire versioni diverse di ibrida in più data center. Questa limitazione non si applica quando esegui l'upgrade di più data center a una nuova versione.

Configura l'host seed multi-region

Questa sezione descrive come espandere il cluster Cassandra esistente in una nuova regione. Questa configurazione consente alla nuova regione di avviare il cluster e di partecipare al data center esistente. Senza questa configurazione, i cluster Kubernetes multiregione non si conoscerebbero.

1. Nel file overrides.yaml del cluster originale, assicurati che cassandra:hostNetwork sia impostato su true. Ad esempio:

   cassandra:
     hostNetwork: true

   Per ulteriori informazioni su quando impostare hostNetwork: true, consulta Prerequisiti.

2. Se cassandra:hostNetwork non è impostato su true, procedi nel seguente modo:
   1. cassandra.hostNetwork modificato in true.
   2. Applica il file di configurazione overrides.yaml con il comando:

      apigeectl apply -f overrides.yaml --datastore
      

   3. Attendi il completamento di un riavvio graduale dei pod Cassandra.

   4. Verifica che il cluster Cassandra sia in stato di salute con i seguenti comandi:

      kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
      

      nodetool -u $APIGEE_JMX_USER -pw $APIGEE_JMX_PASSWORD status
      

      Assicurati che tutti i nodi Cassandra nell'output siano nello stato UN (Up/Normal):

      nodetool -u $APIGEE_JMX_USER -pw $APIGEE_JMX_PASSWORD describecluster
      

      Assicurati che non siano presenti nodi non raggiungibili nell'output.

3. Imposta il contesto kubectl sul cluster originale prima di recuperare il nome del seme:

   kubectl config use-context original-cluster-name

4. Esegui il seguente comando kubectl per identificare un indirizzo host iniziale per Cassandra nella regione corrente.

   Un indirizzo host iniziale consente a una nuova istanza regionale di trovare il cluster originale alla prima accensione per apprenderne la topologia. L'indirizzo host del seed viene designato come punto di contatto nel cluster.

   kubectl get pods -o wide -n apigee

   NAME                      READY   STATUS      RESTARTS   AGE   IP          NODE                                          NOMINATED NODE
   apigee-cassandra-default-0        1/1     Running     0          5d    10.0.0.11   gke-k8s-dc-1-default-pool-a2206492-p55d
   apigee-cassandra-default-1        1/1     Running     0          5d    10.0.2.4    gke-k8s-dc-1-default-pool-e9daaab3-tjmz
   apigee-cassandra-default-2        1/1     Running     0          5d    10.0.3.5    gke-k8s-dc-1-default-pool-e589awq3-kjch

5. Seleziona l'indirizzo IP dell'host Cassandra di origine da utilizzare come host seed multi-regione. In questo esempio, il apigee-cassandra-default-0cluster è in esecuzione, l'host seed è 10.0.0.11.
6. Nel data center 2, copia il file delle sostituzioni in un nuovo file il cui nome include il nome del cluster. Ad esempio, overrides_your_cluster_name.yaml.
7. Nel data center 2, configura cassandra.multiRegionSeedHost e cassandra.datacenter in overrides_your_cluster_name.yaml, dove multiRegionSeedHost è uno degli IP restituiti dal comando precedente:

   cassandra:
        hostNetwork: true
        multiRegionSeedHost: seed_host_IP # Cassandra pod IP address from the source region.
        datacenter: data_center_name

   Ad esempio:

   cassandra:
     hostNetwork: true
     multiRegionSeedHost: 10.0.0.11
     datacenter: "dc-1"

8. Nel nuovo data center/nella nuova regione, prima di installare la versione ibrida, imposta gli stessi certificati TLS e le stesse credenziali in overrides_your_cluster_name.yaml come hai fatto nella prima regione.
   Nota: assicurati di utilizzare gli stessi certificati e le stesse credenziali TLS di Cassandra nel secondo data center di quelli forniti nel data center originale. Le credenziali impostate nel file delle sostituzioni nel primo data center devono corrispondere a quelle specificate nel file delle sostituzioni nel secondo data center. Per maggiori dettagli, consulta Configurazione di TLS per Cassandra.

Configurare la nuova regione

Dopo aver configurato l'host seed, puoi configurare la nuova regione.

Per configurare la nuova regione:

1. Copia il certificato dal cluster esistente al nuovo cluster. La nuova CA principale viene utilizzata da Cassandra e da altri componenti ibride per mTLS. Pertanto, è essenziale avere certificati coerenti in tutto il cluster.
   1. Imposta il contesto sullo spazio dei nomi originale:

      kubectl config use-context original-cluster-name

   2. Esporta la configurazione dello spazio dei nomi attuale in un file:

      kubectl get namespace namespace -o yaml > apigee-namespace.yaml

   3. Esporta il secret apigee-ca in un file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml

   4. Imposta il contesto sul nome del cluster della nuova regione:

      kubectl config use-context new-cluster-name

   5. Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare il valore "namespace" nel file se utilizzi uno spazio dei nomi diverso nella nuova regione:

      kubectl apply -f apigee-namespace.yaml

   6. Importa il secret nel nuovo cluster:

      kubectl -n cert-manager apply -f apigee-ca.yaml

2. Installa l'ambiente ibrido nella nuova regione. Assicurati che il file overrides_your_cluster_name.yaml includa gli stessi certificati TLS configurati nella prima regione, come spiegato nella sezione precedente.

   Esegui i seguenti due comandi per installare la versione ibrida nella nuova regione:

   Importante: quando espandi Apigee Hybrid a un nuovo datacenter regionale, assicurati di installare la stessa versione di Hybrid che hai nel tuo datacenter esistente. Evita di eseguire versioni diverse di ibrida in più data center.

   apigeectl init -f overrides_your_cluster_name.yaml

   apigeectl apply -f overrides_your_cluster_name.yaml

3. Verifica che l'installazione ibrida sia andata a buon fine eseguendo il seguente comando:

   apigeectl check-ready -f overrides_your_cluster_name.yaml

4. Verifica la configurazione del cluster Cassandra eseguendo il seguente comando. L'output dovrebbe mostrare sia i data center esistenti che quelli nuovi.
   Avviso: se l'output di questo comando non mostra entrambi i datacenter esistenti e nuovi, la configurazione non è riuscita. In questo caso, non procedere oltre.

   Per risolvere il problema, l'installazione ibrida nella nuova regione deve essere eliminata e ricreata. Consulta Disinstallare il runtime di hybrid. Se la configurazione non va a buon fine, non tentare di procedere o di partecipare al cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
     -- nodetool -u JMX_user -pw JMX_password status

   Esempio che mostra una configurazione riuscita:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

5. Configura Cassandra su tutti i pod nei nuovi data center.
   1. Recupera apigeeorg dal cluster con il seguente comando:

      kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name
      

      Ad esempio:

      Ex: kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name
      "rg-hybrid-b7d3b9c"
      

   2. Crea un file della risorsa personalizzata (YAML) per la replica dei dati di Cassandra. Il file può avere un nome qualsiasi. Nei seguenti esempi il file avrà il nome datareplication.yaml.

      Il file deve contenere quanto segue:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: REGION_EXPANSION
        namespace: NAMESPACE
      spec:
        organizationRef: APIGEEORG_VALUE
        force: false
        source:
          region: SOURCE_REGION

      Dove:

      • REGION_EXPANSION è il nome che assegni a questi metadati. Puoi utilizzare qualsiasi nome.
      • NAMESPACE è lo stesso spazio dei nomi fornito in overrides.yaml. In genere si tratta di "apigee".
      • APIGEEORG_VALUE è il valore visualizzato dal comando kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name nel passaggio precedente. Ad esempio, rg-hybrid-b7d3b9c
      • SOURCE_REGION è il nome del data center nella regione di origine. Si tratta del valore impostato per cassandra:datacenter: in overrides.yaml.

      Ad esempio:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: region-expansion
        namespace: apigee
      spec:
        organizationRef: rg-hybrid-b7d3b9c
        force: false
        source:
          region: "dc-1"

   3. Applica il CassandraDataReplication con il seguente comando:

      kubectl apply -f datareplication.yaml

   4. Verifica lo stato della ricostruzione utilizzando il seguente comando.
      Nota: l'operazione di ricostruzione può richiedere fino a diverse ore, a seconda delle dimensioni dei dati.

      kubectl -n apigee get apigeeds -o json | jq .items[].status.cassandraDataReplication

      I risultati dovrebbero avere il seguente aspetto:

      {
        "rebuildDetails": {
          "apigee-cassandra-default-0": {
            "state": "complete",
            "updated": 1623105760
          },
          "apigee-cassandra-default-1": {
            "state": "complete",
            "updated": 1623105765
          },
          "apigee-cassandra-default-2": {
            "state": "complete",
            "updated": 1623105770
          }
        },
        "state": "complete",
        "updated": 1623105770
      }

6. Verifica le procedure di ricostruzione dai log. Inoltre, verifica le dimensioni dei dati utilizzando il comando nodetool status:

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status

   L'esempio seguente mostra voci di log di esempio:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

7. Aggiorna gli host seed. Rimuovi multiRegionSeedHost: 10.0.0.11 da overrides-DC_name.yaml e richiedi di nuovo.
   Nota: gli host di seed sono membri del cluster locale. Per avviare una nuova regione è necessario un host seed esterno. Una volta avviata una regione, devi ripristinare gli host seed nei rispettivi cluster locali in overrides.yaml e poi applicare nuovamente la configurazione.

   apigeectl apply -f overrides/overrides-DC_name.yaml

Controlla lo stato del cluster Cassandra

Il seguente comando è utile per verificare se la configurazione del cluster è andata a buon fine in due datacenter. Il comando controlla lo stato di nodetool per le due regioni.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status


Datacenter: dc-1
================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: dc-1
================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          0.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          0.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          0.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

Risoluzione dei problemi

Consulta Errore di replica dei dati di Cassandra.