Deployment multiregionale

Questo argomento descrive un deployment multi-regione per Apigee Hybrid su GKE, Anthos GKE di cui è stato eseguito il deployment on-premise, Microsoft® Azure Kubernetes Service (AKS), Amazon Elastic Kubernetes Service (EKS) e RedHat OpenShift. Seleziona la tua piattaforma nei prerequisiti e nelle procedure.

Le topologie per il deployment multiregionale includono:

  • Attivo-Attivo: quando è stato eseguito il deployment delle applicazioni in più aree geografiche da più località e hai bisogno di una risposta API a bassa latenza per i tuoi deployment. Puoi eseguire il deployment di ambienti ibridi dalle sedi più vicine ai tuoi clienti. Ad esempio: costa occidentale degli Stati Uniti, costa orientale degli Stati Uniti, Europa, APAC.
  • Attivo-passivo: quando hai una regione principale e una regione di failover o di ripristino di emergenza.

Le regioni in un deployment ibrido multiregionale comunicano tramite Cassandra, come nell'immagine seguente mostra:

Architettura di deployment multiregionale di Apigee hybrid

Prerequisiti

Prima di configurare il servizio ibrido per più regioni, devi completare seguenti prerequisiti:

GKE

  • Quando installi deployment Apigee multiregionali tra diversi (ad es. provider cloud diversi, reti VPC diverse, servizi on-prem e così via), devi fornire connettività interna tra questi reti separate che Cassandra può utilizzare per comunicare tra i nodi. Questo può essere fatto con le VPN o la connettività specifica per il cloud. soluzioni.
  • Se utilizzi Workload Identity in un cluster per autenticare gli account di servizio, ogni cluster a cui esegui l'espansione deve utilizzare anche Workload Identity. Consulta Attivare Workload Identity con Apigee hybrid.
  • Configurare cluster Kubernetes in più regioni con blocchi CIDR diversi
  • Assicurati che cert-manager sia installato in ogni cluster
  • Configurare la comunicazione tra regioni
  • Assicurati che tutti i pod Cassandra siano in grado di risolvere i propri nomi host. Se hostNetwork è impostato su false, il nome host è il nome del pod Cassandra. Se hostNetwork è impostato su true, il nome host è il nome host del nodo Kubernetes in cui è in esecuzione il pod Cassandra.
  • Requisiti di Cassandra per più regioni:
    • Assicurati che lo spazio dei nomi della rete di pod disponga della connettività tra le regioni, tra cui firewall, VPN, peering VPC e peering vNet. Questo è il caso della maggior parte delle installazioni di GKE.
    • Se lo spazio dei nomi di rete del pod non ha connettività tra i cluster (i cluster sono in esecuzione in "modalità di rete isolata"), abilita la funzionalità hostNetwork di Kubernetes impostando cassandra.hostNetwork: true nel file delle sostituzioni per tutte le regioni dell'installazione Apigee ibrida multi-regione.

      Per ulteriori informazioni sulla necessità di hostNetwork, consulta Cluster in modalità Isola e hostNetwork di seguito.

    • Attiva hostNetwork sui cluster esistenti prima di estendere la configurazione multiregione a nuove regioni.
    • Se hostNetwork è abilitato, assicurati che i nodi worker possano eseguire l'inoltro Ricerca DNS dei rispettivi nomi host. Apigee Cassandra utilizza la ricerca DNS in avanti per ottenere l'indirizzo IP dell'host durante l'avvio.
    • Porta TCP 7001 aperta tra i cluster Kubernetes su regioni e data center in modo da consentire ai nodi worker tra regioni e data center di comunicare. Per informazioni sui numeri di porta Cassandra, consulta Configurare le porte.

Per informazioni dettagliate, consulta la documentazione di Kubernetes.

GKE On-Prem

  • Quando installi deployment Apigee multiregionali tra diversi (ad es. provider cloud diversi, reti VPC diverse, servizi on-prem e così via), devi fornire connettività interna tra questi reti separate che Cassandra può utilizzare per comunicare tra i nodi. Questo può essere fatto con le VPN o la connettività specifica per il cloud. soluzioni.
  • Configurare cluster Kubernetes in più regioni con blocchi CIDR diversi
  • Assicurati che cert-manager sia installato in ogni cluster
  • Configura la comunicazione tra regioni
  • Assicurati che tutti i pod Cassandra siano in grado di risolvere i propri nomi host. Se hostNetwork è impostato su false, il nome host è il nome del pod Cassandra. Se hostNetwork è impostato su true, allora il nome host è il nome host del nodo Kubernetes che esegue il pod Cassandra.
  • Requisiti di Cassandra per più regioni:
    • Se lo spazio dei nomi della rete dei pod non dispone di connettività tra i cluster (i cluster sono in esecuzione in "modalità Island network", il caso predefinito nelle installazioni GKE On-Prem), abilita la funzionalità hostNetwork di Kubernetes impostando cassandra.hostNetwork: true nel file degli override per tutte le regioni in la tua installazione ibrida di Apigee in più regioni.

      Per ulteriori informazioni sulla necessità di hostNetwork, vedi Cluster in modalità Isola e hostNetwork di seguito.

    • Abilita hostNetwork sui cluster esistenti prima di espandere da più regioni a nuove regioni.
    • Se hostNetwork è abilitato, assicurati che i nodi worker possano eseguire l'inoltro Ricerca DNS dei rispettivi nomi host. Apigee Cassandra utilizza la ricerca DNS in avanti per ottenere l'indirizzo IP dell'host durante l'avvio.
    • Apri le porte Cassandra tra i cluster Kubernetes in tutte le regioni per consentire ai nodi worker di comunicare tra regioni e data center. Consulta Configurare le porte per Numeri di porta di Cassandra.

Per informazioni dettagliate, consulta la documentazione di Kubernetes.

AKS

  • Quando installi i deployment Apigee multiregione tra reti diverse (ad es. diversi provider cloud, reti VPC diverse, cloud e on-premise e così via), devi fornire la connettività interna tra queste reti separate che Cassandra può utilizzare per comunicare tra i nodi. Questo può essere ottenuto con VPN o soluzioni di connettività specifiche per il cloud.
  • Segui la guida all'installazione ibrida per eventuali prerequisiti come la configurazione di Google Cloud e dell'organizzazione prima di passare ai passaggi di configurazione del cluster.
  • Assicurati che cert-manager sia installato in ogni cluster
  • Assicurati che tutti i pod Cassandra siano in grado di risolvere i propri nomi host. Se hostNetwork è impostato su false, il nome host è il nome del pod Cassandra. Se hostNetwork è impostato su true, il nome host è il nome host del nodo Kubernetes in cui è in esecuzione il pod Cassandra.
  • Requisiti di Cassandra per più regioni:
    • Se lo spazio dei nomi della rete dei pod non dispone di connettività tra i cluster (i cluster sono in esecuzione in "modalità Island Network", il caso predefinito nelle installazioni AKS), abilita la funzionalità hostNetwork di Kubernetes impostando cassandra.hostNetwork: true nel file degli override per tutte le regioni in la tua installazione ibrida di Apigee in più regioni.

      Per ulteriori informazioni sulla necessità di hostNetwork, vedi Cluster in modalità Isola e hostNetwork di seguito.

    • Abilita hostNetwork sui cluster esistenti prima di espandere da più regioni a nuove regioni.
    • Se hostNetwork è abilitato, assicurati che i nodi worker possano eseguire l'inoltro Ricerca DNS dei rispettivi nomi host. Apigee Cassandra utilizza la ricerca DNS in avanti per ottenere l'indirizzo IP dell'host durante l'avvio.
    • Apri le porte Cassandra tra i cluster Kubernetes su tutti regioni e data center in modo da consentire ai nodi worker tra regioni e data center di comunicare. Consulta Configurare le porte per i numeri di porta Cassandra.

Per informazioni dettagliate, consulta la documentazione di Kubernetes.

EKS

  • Quando installi i deployment Apigee multiregione tra reti diverse (ad es. diversi provider cloud, reti VPC diverse, cloud e on-premise e così via), devi fornire la connettività interna tra queste reti separate che Cassandra può utilizzare per comunicare tra i nodi. Questo può essere ottenuto con VPN o soluzioni di connettività specifiche per il cloud.
  • Segui l'installazione ibrida guida per eventuali prerequisiti, come Google Cloud e la configurazione dell'organizzazione. prima di andare ai passaggi di configurazione del cluster.
  • Assicurati che cert-manager sia installato in ogni cluster
  • Assicurati che tutti i pod Cassandra siano in grado di risolvere i propri nomi host. Se hostNetwork è impostato su false, il nome host è il nome del pod Cassandra. Se hostNetwork è impostato su true, allora il nome host è il nome host del nodo Kubernetes che esegue il pod Cassandra.
  • Requisiti di Cassandra Multi Region:
    • Se lo spazio dei nomi della rete dei pod non dispone di connettività tra i cluster (i cluster sono in esecuzione in "modalità Isola Network"), abilita la funzionalità hostNetwork di Kubernetes impostando cassandra.hostNetwork: true nel file degli override per tutte le regioni in la tua installazione ibrida di Apigee in più regioni. Amazon EKS utilizza completamente integrato per impostazione predefinita.

      Per ulteriori informazioni sulla necessità di hostNetwork, consulta Cluster in modalità Isola e hostNetwork di seguito.

    • Abilita hostNetwork sui cluster esistenti prima di espandere da più regioni a nuove regioni.
    • Se hostNetwork è abilitato, assicurati che i nodi worker possano eseguire l'inoltro Ricerca DNS dei rispettivi nomi host. Apigee Cassandra utilizza la ricerca DNS in avanti per ottenere l'indirizzo IP dell'host durante l'avvio.
    • Apri le porte Cassandra tra i cluster Kubernetes su tutti regioni e data center in modo da consentire ai nodi worker tra regioni e data center di comunicare. Consulta Configurare le porte per Numeri di porta di Cassandra.

Per informazioni dettagliate, consulta la documentazione di Kubernetes.

OpenShift

  • Quando installi deployment Apigee multiregionali tra diversi (ad es. provider cloud diversi, reti VPC diverse, servizi on-prem e così via), devi fornire connettività interna tra questi reti separate che Cassandra può utilizzare per comunicare tra i nodi. Questo può essere fatto con le VPN o la connettività specifica per il cloud. soluzioni.
  • Segui la guida all'installazione ibrida per eventuali prerequisiti come la configurazione di Google Cloud e dell'organizzazione prima di passare ai passaggi di configurazione del cluster.
  • Assicurati che cert-manager sia installato in ogni cluster
  • Assicurati che tutti i pod Cassandra siano in grado di risolvere i propri nomi host. Se hostNetwork è impostato su false, il nome host è Nome pod Cassandra. Se hostNetwork è impostato su true, allora il nome host è il nome host del nodo Kubernetes che esegue il pod Cassandra.
  • Requisiti di Cassandra Multi Region:
    • Se lo spazio dei nomi della rete dei pod non dispone di connettività tra i cluster (i cluster sono in esecuzione in "modalità Island network", impostazione predefinita nelle installazioni OpenShift), abilita la funzionalità hostNetwork di Kubernetes impostando cassandra.hostNetwork: true nel file degli override per tutte le regioni in la tua installazione ibrida di Apigee in più regioni.

      Per ulteriori informazioni sulla necessità di hostNetwork, vedi Cluster in modalità Isola e hostNetwork di seguito.

    • Attiva hostNetwork sui cluster esistenti prima di estendere la configurazione multiregione a nuove regioni.
    • Se hostNetwork è abilitato, assicurati che i nodi worker possano eseguire l'inoltro Ricerca DNS dei rispettivi nomi host. Apigee Cassandra utilizza la ricerca DNS in avanti per ottenere l'indirizzo IP dell'host durante l'avvio.
    • Apri le porte Cassandra tra i cluster Kubernetes su tutti regioni e data center in modo da consentire ai nodi worker tra regioni e data center di comunicare. Consulta Configurare le porte per i numeri di porta Cassandra.

Per informazioni dettagliate, consulta la documentazione di Kubernetes.

Cluster in modalità Isola e hostNetwork

Esistono due modelli di rete principali per i cluster Kubernetes: completamente integrato (o piatto) e modalità isola. Apigee consiglia di utilizzare il modello a rete piatta ove possibile, in quanto la connettività Cassandra multiregionale. Quando un cluster Kubernetes è configurato nell'isola automatica, la rete dei pod è isolata. I pod non possono comunicare direttamente con i pod in esecuzione in altri cluster utilizzando l'indirizzo IP del pod. Consulta Implementazioni di modelli di rete tipici per ulteriori informazioni sulle differenze tra questi due modelli di rete e su esempi di ciascuno.

Quando Apigee Hybrid è in esecuzione su due o più cluster Kubernetes utilizzando un networking in modalità isola è necessario abilitare l'impostazione hostNetwork per Cassandra tramite cassandra.hostNetwork proprietà. Per impostazione predefinita, i pod Kubernetes sono isolati in singoli spazi dei nomi di rete che impediscono loro di utilizzare l'IP del nodo worker Kubernetes. Quando hostNetwork è impostato su true, il pod non è isolato all'interno del proprio spazio dei nomi di rete e utilizza invece l'indirizzo IP e il nome host del nodo di lavoro Kubernetes su cui è pianificato il pod. Ciò consente Cassandra di utilizzare in modo nativo l'IP del nodo worker di Kubernetes come IP, fornendo un mezzo per Cassandra per stabilire un mesh completo tra tutti i pod di Cassandra in più cluster in esecuzione modalità isola.

Risoluzione del nome host Cassandra

Sebbene un pod Cassandra non risolva altri pod Cassandra in base al nome host, all'avvio verifica che il proprio nome host sia risolvibile dal DNS. Poiché il nome host del pod è uguale al Il nome host del nodo worker Kubernetes quando hostNetwork è impostato su true, il nodo worker il nome host deve essere risolvibile in un indirizzo IP tramite il servizio DNS del cluster. Se la classe il nome host del nodo worker non è risolvibile. Non sarà possibile avviare completamente il pod Cassandra. Pertanto, è importante che i nomi host dei nodi worker Kubernetes siano risolvibili dai pod nel cluster quando imposti hostNetwork su true.

Configura Apigee hybrid per più regioni

Questa sezione descrive come configurare Apigee hybrid per più regioni.

GKE

Configura l'host seed multi-region

Questa sezione descrive come espandere il cluster Cassandra esistente in una nuova regione. Questa configurazione consente alla nuova regione di avviare il cluster e di partecipare al data center esistente. Senza questa configurazione, i cluster Kubernetes multiregione non si conoscerebbero.

  1. Imposta il contesto kubectl sul cluster originale prima di recuperare il nome seed:
    kubectl config use-context original-cluster-name
  2. Esegui questo comando kubectl per identificare un indirizzo host di origine per Cassandra in la regione corrente.

    Un indirizzo host di origine consente a una nuova istanza regionale di trovare originale alla primissima startup a scoprire la topologia del cluster. L'indirizzo host di origine è designato come punto di contatto nel cluster.

    kubectl get pods -o wide -n apigee -l app=apigee-cassandra --field-selector status.phase=Running
    NAME                      READY   STATUS      RESTARTS   AGE   IP          NODE                                          NOMINATED NODE
    apigee-cassandra-default-0        1/1     Running     0          5d    10.0.0.11   gke-k8s-dc-2-default-pool-a2206492-p55d
    apigee-cassandra-default-1        1/1     Running     0          5d    10.0.2.4    gke-k8s-dc-2-default-pool-e9daaab3-tjmz
    apigee-cassandra-default-2        1/1     Running     0          5d    10.0.3.5    gke-k8s-dc-2-default-pool-e589awq3-kjch
  3. Decidi quale IP restituito dal comando precedente sarà il seed multiregionale .
  4. Nel data center 2, configura cassandra.multiRegionSeedHost e cassandra.datacenter in Gestire i componenti del piano di runtime, dove multiRegionSeedHost è uno degli IP restituiti dalla comando precedente:
    cassandra:
      multiRegionSeedHost: seed_host_IP
      datacenter: data_center_name
      rack: rack_name
      hostNetwork: false
      clusterName: cluster_name # must be the same for all regions

    Ad esempio:

    cassandra:
      multiRegionSeedHost: 10.0.0.11
      datacenter: "dc-2"
      rack: "ra-1"
      hostNetwork: false
      clusterName: my-apigee-cluster
  5. Nel nuovo data center/nella nuova regione, prima di installare la versione ibrida, imposta gli stessi certificati TLS e le stesse credenziali in overrides.yaml come hai fatto nella prima regione.

Configura la nuova regione

Dopo aver configurato l'host seed, puoi configurare la nuova regione.

Per configurare la nuova regione:

  1. Copia il tuo certificato dal cluster esistente a quello nuovo. La nuova radice dell'autorità di certificazione è utilizzata da Cassandra e da altri componenti ibridi per mTLS. Pertanto, è essenziale avere certificati coerenti in tutto il cluster.
    1. Imposta il contesto sullo spazio dei nomi originale:
      kubectl config use-context original-cluster-name
    2. Esporta la configurazione attuale dello spazio dei nomi in un file:
      kubectl get namespace namespace -o yaml > apigee-namespace.yaml
    3. Esporta il secret apigee-ca in un file:
      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
    4. Imposta il contesto sul nome del cluster della nuova regione:
      kubectl config use-context new-cluster-name
    5. Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare "spazio dei nomi" nel file se utilizzi uno spazio dei nomi diverso nella nuova regione:
      kubectl apply -f apigee-namespace.yaml
    6. Importa il secret nel nuovo cluster:

      kubectl -n cert-manager apply -f apigee-ca.yaml
  2. Installa il modello ibrido nella nuova regione. Assicurati che overrides-DC_name.yaml include gli stessi certificati TLS configurati nella prima regione, come spiegate nella sezione precedente.

    Esegui questi due comandi per installare il modello ibrido nella nuova regione:

    apigeectl init -f overrides/overrides-DC_name.yaml
    apigeectl apply -f overrides/overrides-DC_name.yaml
  3. Verifica che l'installazione ibrida sia riuscita eseguendo questo comando:
    apigeectl check-ready -f overrides_DC_name.yaml
  4. Verifica la configurazione del cluster Cassandra eseguendo il seguente comando. L'output dovrebbe mostrare sia i data center esistenti che quelli nuovi.
    kubectl exec apigee-cassandra-default-0 -n apigee  \
      -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

    Esempio di configurazione corretta:

    Datacenter: dc-1
    ====================
    Status=Up/Down
    |/ State=Normal/Leaving/Joining/Moving
    --  Address        Load       Tokens  Owns  Host ID                               Rack
    UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
    UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
    UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
    
    Datacenter: dc-2
    ====================
    Status=Up/Down
    |/ State=Normal/Leaving/Joining/Moving
    --  Address        Load       Tokens  Owns  Host ID                               Rack
    UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
    UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
    UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b
  5. Configura Cassandra su tutti i pod nei nuovi data center.
    1. Recupera apigeeorg dal cluster con il seguente comando:
      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Ad esempio:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      
    2. Crea un file di risorse personalizzate di replica dei dati Cassandra (YAML). Il file può avere un nome qualsiasi. Negli esempi seguenti il file avrà il nome datareplication.yaml.

      Il file deve contenere quanto segue:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: REGION_EXPANSION
        namespace: NAMESPACE
      spec:
        organizationRef: APIGEEORG_VALUE
        force: false
        source:
          region: SOURCE_REGION

      Dove:

      • REGION_EXPANSION è il nome che stai assegnando a questi metadati. Puoi puoi usare un nome qualsiasi.
      • NAMESPACE è lo stesso spazio dei nomi fornito in overrides.yaml. In genere si tratta di "apigee".
      • APIGEEORG_VALUE è il valore visualizzato dall'output del comando kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" nel passaggio precedente. Ad esempio, rg-hybrid-b7d3b9c
      • SOURCE_REGION è la regione di origine, il valore del data center nella sezione Cassandra della regione di origine override.yaml

      Ad esempio:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: region-expansion
        namespace: apigee
      spec:
        organizationRef: rg-hybrid-b7d3b9c
        force: false
        source:
          region: "dc-1"
    3. Applica il CassandraDataReplication con il seguente comando:
      kubectl apply -f datareplication.yaml
    4. Verifica lo stato della ricompilazione utilizzando il comando seguente.
      kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

      I risultati dovrebbero avere il seguente aspetto:

      {
        "rebuildDetails": {
          "apigee-cassandra-default-0": {
            "state": "complete",
            "updated": 1623105760
          },
          "apigee-cassandra-default-1": {
            "state": "complete",
            "updated": 1623105765
          },
          "apigee-cassandra-default-2": {
            "state": "complete",
            "updated": 1623105770
          }
        },
        "state": "complete",
        "updated": 1623105770
      }
  6. Verifica i processi di ricreazione dai log. Verifica inoltre le dimensioni dei dati usando il comando nodetool status.
    kubectl logs apigee-cassandra-default-0 -f -n apigee
    kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

    L'esempio seguente mostra esempi di voci di log:

    INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
    INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
    INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
  7. Aggiorna gli host seed. Rimuovi multiRegionSeedHost: 10.0.0.11 da overrides-DC_name.yaml e invia di nuovo la richiesta.
    apigeectl apply -f overrides/overrides-DC_name.yaml

Controlla lo stato del cluster Cassandra

Il seguente comando è utile per vedere se la configurazione del cluster ha esito positivo in due data center on-premise. Il comando controlla lo stato di nodetool per le due regioni.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status


Datacenter: dc-1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          100.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          100.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          100.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

GKE On-Prem

Configura l'host seed multi-region

Questa sezione descrive come espandere il cluster Cassandra esistente in una nuova regione. Questa configurazione consente alla nuova regione di eseguire il bootstrap del cluster e di unire la regione esistente data center. Senza questa configurazione, i cluster Kubernetes multiregione non si conoscerebbero.

  1. Nel file overrides.yaml del cluster originale, assicurati che cassandra:hostNetwork sia impostato su true. Ad esempio:
    cassandra:
      hostNetwork: true

    Consulta la sezione Prerequisiti per ulteriori informazioni su quando eseguire l'impostazione hostNetwork: true.

  2. Se cassandra:hostNetwork non è impostato su true, procedi nel seguente modo:
    1. cassandra.hostNetwork modificato in true.
    2. Applica il file di configurazione overrides.yaml con il comando:
        apigeectl apply -f overrides.yaml --datastore
        
    3. Attendi che i pod Cassandra completino un riavvio in sequenza.
    4. Verifica che il cluster Cassandra sia in stato di salute con i seguenti comandi:

        kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
        
        nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
        

      Assicurati che tutti i nodi Cassandra nell'output siano in formato UN (Up/Normal) stato:

        nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD describecluster
        

      Assicurati che nell'output non siano elencati nodi non raggiungibili.

  3. Imposta il contesto kubectl sul cluster originale prima di recuperare il nome seed:
    kubectl config use-context original-cluster-name
  4. Esegui il seguente comando kubectl per identificare un indirizzo host iniziale per Cassandra nella regione corrente.

    Un indirizzo host di origine consente a una nuova istanza regionale di trovare originale alla primissima startup a scoprire la topologia del cluster. L'indirizzo host del seed viene designato come punto di contatto nel cluster.

    kubectl get pods -o wide -n apigee -l app=apigee-cassandra --field-selector status.phase=Running
    NAME                      READY   STATUS      RESTARTS   AGE   IP          NODE                                          NOMINATED NODE
    apigee-cassandra-default-0        1/1     Running     0          5d    10.0.0.11   gke-k8s-dc-2-default-pool-a2206492-p55d
    apigee-cassandra-default-1        1/1     Running     0          5d    10.0.2.4    gke-k8s-dc-2-default-pool-e9daaab3-tjmz
    apigee-cassandra-default-2        1/1     Running     0          5d    10.0.3.5    gke-k8s-dc-2-default-pool-e589awq3-kjch
  5. Decidi quale degli IP restituiti dal comando precedente sarà l'host iniziale con più regioni.
  6. Nel data center 2, configura cassandra.multiRegionSeedHost nel file degli override, dove multiRegionSeedHost è uno degli IP restituiti dal comando precedente:
    cassandra:
      hostNetwork: true
      multiRegionSeedHost: seed_host_IP
      datacenter: data_center_name
      rack: rack_name
        clusterName: cluster_name # must be the same for all regions

    Ad esempio:

    cassandra:
      hostNetwork: true
      multiRegionSeedHost: 10.0.0.11
      datacenter: "dc-2"
      rack: "ra-1"
      clusterName: my-apigee-cluster
  7. Nel nuovo data center/nella nuova regione, prima di installare la versione ibrida, imposta gli stessi certificati TLS e le stesse credenziali in overrides.yaml come hai fatto nella prima regione.

Configura la nuova regione

Dopo aver configurato l'host seed, puoi configurare la nuova regione.

Per configurare la nuova regione:

  1. Copia il tuo certificato dal cluster esistente a quello nuovo. La nuova radice dell'autorità di certificazione è utilizzata da Cassandra e da altri componenti ibridi per mTLS. Pertanto, è essenziale avere certificati coerenti in tutto il cluster.
    1. Imposta il contesto sullo spazio dei nomi originale:
      kubectl config use-context original-cluster-name
    2. Esporta la configurazione attuale dello spazio dei nomi in un file:
      kubectl get namespace namespace -o yaml > apigee-namespace.yaml
    3. Esporta il secret apigee-ca in un file:
      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
    4. Imposta il contesto sul nome del cluster della nuova regione:
      kubectl config use-context new-cluster-name
    5. Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare "spazio dei nomi" nel file se utilizzi uno spazio dei nomi diverso nella nuova regione:
      kubectl apply -f apigee-namespace.yaml
    6. Importa il secret nel nuovo cluster:

      kubectl -n cert-manager apply -f apigee-ca.yaml
  2. Installa il modello ibrido nella nuova regione. Assicurati che overrides-DC_name.yaml include gli stessi certificati TLS configurati nella prima regione, come spiegate nella sezione precedente.

    Esegui questi due comandi per installare il modello ibrido nella nuova regione:

    apigeectl init -f overrides/overrides-DC_name.yaml
    apigeectl apply -f overrides/overrides-DC_name.yaml
  3. Verifica che l'installazione ibrida sia riuscita eseguendo questo comando:
    apigeectl check-ready -f overrides_DC_name.yaml
  4. Verifica la configurazione del cluster Cassandra eseguendo il seguente comando. L'output dovrebbe mostrare sia i data center esistenti che quelli nuovi.
    kubectl exec apigee-cassandra-default-0 -n apigee  \
      -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

    Esempio di configurazione corretta:

    Datacenter: dc-1
    ====================
    Status=Up/Down
    |/ State=Normal/Leaving/Joining/Moving
    --  Address        Load       Tokens  Owns  Host ID                               Rack
    UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
    UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
    UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
    
    Datacenter: dc-2
    ====================
    Status=Up/Down
    |/ State=Normal/Leaving/Joining/Moving
    --  Address        Load       Tokens  Owns  Host ID                               Rack
    UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
    UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
    UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b
  5. Configura Cassandra su tutti i pod nei nuovi data center.
    1. Recupera apigeeorg dal cluster con il seguente comando:
      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Ad esempio:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      
    2. Crea un file di risorse personalizzate di replica dei dati Cassandra (YAML). Il file può avere un nome qualsiasi. Negli esempi seguenti il file avrà il nome datareplication.yaml.

      Il file deve contenere quanto segue:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: REGION_EXPANSION
        namespace: NAMESPACE
      spec:
        organizationRef: APIGEEORG_VALUE
        force: false
        source:
          region: SOURCE_REGION

      Dove:

      • REGION_EXPANSION è il nome che stai assegnando a questi metadati. Puoi puoi usare un nome qualsiasi.
      • NAMESPACE è lo stesso spazio dei nomi fornito in overrides.yaml. In genere si tratta di "apigee".
      • APIGEEORG_VALUE è il valore visualizzato dall'output del comando kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" nel passaggio precedente. Ad esempio, rg-hybrid-b7d3b9c
      • SOURCE_REGION è la regione di origine, il valore del data center nella sezione Cassandra della regione di origine override.yaml

      Ad esempio:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: region-expansion
        namespace: apigee
      spec:
        organizationRef: rg-hybrid-b7d3b9c
        force: false
        source:
          region: "dc-1"
    3. Applica il CassandraDataReplication con il seguente comando:
      kubectl apply -f datareplication.yaml
    4. Verifica lo stato della ricompilazione utilizzando il comando seguente.
      kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

      I risultati dovrebbero avere il seguente aspetto:

      {
        "rebuildDetails": {
          "apigee-cassandra-default-0": {
            "state": "complete",
            "updated": 1623105760
          },
          "apigee-cassandra-default-1": {
            "state": "complete",
            "updated": 1623105765
          },
          "apigee-cassandra-default-2": {
            "state": "complete",
            "updated": 1623105770
          }
        },
        "state": "complete",
        "updated": 1623105770
      }
  6. Verifica i processi di ricreazione dai log. Verifica inoltre le dimensioni dei dati usando il comando nodetool status.
    kubectl logs apigee-cassandra-default-0 -f -n apigee
    kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

    L'esempio seguente mostra esempi di voci di log:

    INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
    INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
    INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
  7. Aggiorna gli host seed. Rimuovi multiRegionSeedHost: 10.0.0.11 da overrides-DC_name.yaml e invia di nuovo la richiesta.
    apigeectl apply -f overrides/overrides-DC_name.yaml

Controlla lo stato del cluster Cassandra

Il seguente comando è utile per vedere se la configurazione del cluster ha esito positivo in due data center on-premise. Il comando verifica lo stato nodetool per le due regioni.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status


Datacenter: dc-1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          100.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          100.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          100.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

AKS

Crea una rete virtuale in ogni regione

Segui i suggerimenti di Azure per stabilire la comunicazione tra regioni qui: VNet-to-VNet: Connessione di reti virtuali in Azure in regioni diverse.

Creare cluster multiregionali

Configurare cluster Kubernetes in più regioni con blocchi CIDR diversi. Consulta: Consulta anche il Passaggio 1: crea un cluster. Utilizza la di località e nomi di reti virtuali creati in precedenza.

Apri le porte Cassandra tra i cluster Kubernetes su tutti regioni e data center in modo da consentire ai nodi worker tra regioni e data center di comunicare. Consulta Configurare le porte per Numeri di porta di Cassandra.

Configura l'host seed per più regioni

Questa sezione descrive come espandere il cluster Cassandra esistente in una nuova regione. Questa configurazione consente alla nuova regione di eseguire il bootstrap del cluster e di unire la regione esistente data center. Senza questa configurazione, i cluster Kubernetes multiregione non si conoscerebbero.

  1. Nel file overrides.yaml del cluster originale, assicurati che cassandra:hostNetwork sia impostato su true. Ad esempio:
    cassandra:
      hostNetwork: true

    Per ulteriori informazioni su quando impostare hostNetwork: true, consulta Prerequisiti.

  2. Se cassandra:hostNetwork non è impostato su true, procedi nel seguente modo:
    1. cassandra.hostNetwork modificato in true.
    2. Applica il file di configurazione overrides.yaml con il comando:
        apigeectl apply -f overrides.yaml --datastore
        
    3. Attendi che i pod Cassandra completino un riavvio in sequenza.
    4. Verifica che il cluster Cassandra sia in stato di salute con i seguenti comandi:

        kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
        
        nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
        

      Assicurati che tutti i nodi Cassandra nell'output siano in stato UN (Up/Normal):

        nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD describecluster
        

      Assicurati che non siano presenti nodi non raggiungibili nell'output.

  3. Imposta il contesto kubectl sul cluster originale prima di recuperare il nome del seme:
    kubectl config use-context original-cluster-name
  4. Esegui il seguente comando kubectl per identificare un indirizzo host iniziale per Cassandra nella regione corrente.

    Un indirizzo host iniziale consente a una nuova istanza regionale di trovare il cluster originale alla prima accensione per apprendere la topologia del cluster. L'indirizzo host di origine è designato come punto di contatto nel cluster.

    kubectl get pods -o wide -n apigee -l app=apigee-cassandra --field-selector status.phase=Running
    apigee-cassandra-default-0  1/1   Running   0   4d17h   120.38.1.9  aks-agentpool-21207753-vmss000000
  5. Decidi quale IP restituito dal comando precedente sarà il seed multiregionale . In questo esempio, in cui è in esecuzione un solo cluster Cassandra a un nodo, l'host iniziale è 120.38.1.9.
  6. Nel data center 2, copia il file delle sostituzioni in un nuovo file il cui nome include il nome del cluster. Ad esempio, overrides_your_cluster_name.yaml.
  7. Nel data center 2, configura cassandra.multiRegionSeedHost e cassandra.datacenter in overrides_your_cluster_name.yaml, dove multiRegionSeedHost è uno degli IP restituiti dal comando precedente:
    cassandra:
         multiRegionSeedHost: seed_host_IP
         datacenter: data_center_name
         rack: rack_name
         hostNetwork: true
         clusterName: cluster_name # must be the same for all regions

    Ad esempio:

    cassandra:
      multiRegionSeedHost: 120.38.1.9
      datacenter: "centralus"
      rack: "ra-1"
      hostNetwork: true
      clusterName: my-apigee-cluster
  8. Nel nuovo data center/nella nuova regione, prima di installare la versione ibrida, imposta gli stessi certificati TLS e le stesse credenziali in overrides_your_cluster_name.yaml come hai fatto nella prima regione.

Configurare la nuova regione

Dopo aver configurato l'host seed, puoi configurare la nuova regione.

Per configurare la nuova regione:

  1. Copia il tuo certificato dal cluster esistente a quello nuovo. La nuova radice dell'autorità di certificazione è utilizzata da Cassandra e da altri componenti ibridi per mTLS. Pertanto, è essenziale avere certificati coerenti in tutto il cluster.
    1. Imposta il contesto sullo spazio dei nomi originale:
      kubectl config use-context original-cluster-name
    2. Esporta la configurazione attuale dello spazio dei nomi in un file:
      kubectl get namespace namespace -o yaml > apigee-namespace.yaml
    3. Esporta il secret apigee-ca in un file:
      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
    4. Imposta il contesto sul nome del cluster della nuova regione:
      kubectl config use-context new-cluster-name
    5. Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare "spazio dei nomi" nel file se utilizzi uno spazio dei nomi diverso nella nuova regione:
      kubectl apply -f apigee-namespace.yaml
    6. Importa il secret nel nuovo cluster:

      kubectl -n cert-manager apply -f apigee-ca.yaml
  2. Installa l'ambiente ibrido nella nuova regione. Assicurati che overrides_your_cluster_name.yaml include gli stessi certificati TLS configurati nella prima regione, come spiegate nella sezione precedente.

    Esegui i seguenti due comandi per installare la versione ibrida nella nuova regione:

    apigeectl init -f overrides_your_cluster_name.yaml
    apigeectl apply -f overrides_your_cluster_name.yaml
  3. Verifica che l'installazione ibrida sia riuscita eseguendo questo comando:
    apigeectl check-ready -f overrides_your_cluster_name.yaml
  4. Verifica la configurazione del cluster Cassandra eseguendo il seguente comando. L'output dovrebbe mostrare sia i data center esistenti che quelli nuovi.
    kubectl exec apigee-cassandra-default-0 -n apigee  \
      -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

    Esempio di configurazione corretta:

    Datacenter: dc-1
    ====================
    Status=Up/Down
    |/ State=Normal/Leaving/Joining/Moving
    --  Address        Load       Tokens  Owns  Host ID                               Rack
    UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
    UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
    UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
    
    Datacenter: dc-2
    ====================
    Status=Up/Down
    |/ State=Normal/Leaving/Joining/Moving
    --  Address        Load       Tokens  Owns  Host ID                               Rack
    UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
    UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
    UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b
  5. Configura Cassandra su tutti i pod nei nuovi data center.
    1. Recupera apigeeorg dal cluster con il seguente comando:
      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Ad esempio:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      
    2. Crea un file di risorse personalizzate di replica dei dati Cassandra (YAML). Il file può avere un nome qualsiasi. Negli esempi seguenti il file avrà il nome datareplication.yaml.

      Il file deve contenere quanto segue:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: REGION_EXPANSION
        namespace: NAMESPACE
      spec:
        organizationRef: APIGEEORG_VALUE
        force: false
        source:
          region: SOURCE_REGION

      Dove:

      • REGION_EXPANSION è il nome che stai assegnando a questi metadati. Puoi puoi usare un nome qualsiasi.
      • NAMESPACE è lo stesso spazio dei nomi fornito in overrides.yaml. In genere si tratta di "apigee".
      • APIGEEORG_VALUE è il valore visualizzato dall'output del comando kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" nel passaggio precedente. Ad esempio, rg-hybrid-b7d3b9c
      • SOURCE_REGION è la regione di origine, il valore del data center nella sezione Cassandra della regione di origine override.yaml

      Ad esempio:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: region-expansion
        namespace: apigee
      spec:
        organizationRef: rg-hybrid-b7d3b9c
        force: false
        source:
          region: "dc-1"
    3. Applica il CassandraDataReplication con il seguente comando:
      kubectl apply -f datareplication.yaml
    4. Verifica lo stato della ricompilazione utilizzando il comando seguente.
      kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

      I risultati dovrebbero avere il seguente aspetto:

      {
        "rebuildDetails": {
          "apigee-cassandra-default-0": {
            "state": "complete",
            "updated": 1623105760
          },
          "apigee-cassandra-default-1": {
            "state": "complete",
            "updated": 1623105765
          },
          "apigee-cassandra-default-2": {
            "state": "complete",
            "updated": 1623105770
          }
        },
        "state": "complete",
        "updated": 1623105770
      }
  6. Verifica i processi di ricreazione dai log. Verifica inoltre le dimensioni dei dati usando il comando nodetool status.
    kubectl logs apigee-cassandra-default-0 -f -n apigee
    kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

    L'esempio seguente mostra esempi di voci di log:

    INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
    INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
    INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
  7. Aggiorna gli host seed. Rimuovi multiRegionSeedHost: 10.0.0.11 da overrides-DC_name.yaml e invia di nuovo la richiesta.
    apigeectl apply -f overrides/overrides-DC_name.yaml

Controlla lo stato del cluster Cassandra

Il seguente comando è utile per vedere se la configurazione del cluster ha esito positivo in due data center on-premise. Il comando verifica lo stato nodetool per le due regioni.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status


Datacenter: dc-1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          100.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          100.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          100.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

EKS

Crea una rete virtuale in ogni regione

Segui i suggerimenti di AWS per stabilire una comunicazione tra regioni come descritto in: Che cos'è il peering VPC? Il termine AWS per l'utilizzo di regioni diverse è Peering VPC tra regioni.

Creare cluster multiregionali

Configurare cluster Kubernetes in più regioni con blocchi CIDR diversi. Consulta: Consulta anche il Passaggio 1: crea un cluster. Utilizza le località e i nomi delle reti virtuali che hai creato in precedenza.

Apri le porte Cassandra tra i cluster Kubernetes in tutte le regioni per consentire ai nodi worker di comunicare tra regioni e data center. Consulta Configurare le porte per Numeri di porta di Cassandra.

Configura l'host seed multi-region

Questa sezione descrive come espandere il cluster Cassandra esistente in una nuova regione. Questa configurazione consente alla nuova regione di eseguire il bootstrap del cluster e di unire la regione esistente data center. Senza questa configurazione, i cluster Kubernetes multiregione non si conoscerebbero.

  1. Nel file overrides.yaml del cluster originale, assicurati che cassandra:hostNetwork impostato su true. Ad esempio:
    cassandra:
      hostNetwork: true

    Consulta la sezione Prerequisiti per ulteriori informazioni su quando eseguire l'impostazione hostNetwork: true.

  2. Se cassandra:hostNetwork non è impostato su true, procedi nel seguente modo:
    1. cassandra.hostNetwork modificato in true.
    2. Applica il file di configurazione overrides.yaml con il comando:
        apigeectl apply -f overrides.yaml --datastore
        
    3. Attendi che i pod Cassandra completino un riavvio in sequenza.
    4. Verifica che il cluster Cassandra sia in stato di salute con i seguenti comandi:

        kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
        
        nodetool -u $APIGEE_JMX_USER -pw $APIGEE_JMX_PASSWORD status
        

      Assicurati che tutti i nodi Cassandra nell'output siano in stato UN (Up/Normal):

        nodetool -u $APIGEE_JMX_USER -pw $APIGEE_JMX_PASSWORD describecluster
        

      Assicurati che non siano presenti nodi non raggiungibili nell'output.

  3. Imposta il contesto kubectl sul cluster originale prima di recuperare il nome seed:
    kubectl config use-context original-cluster-name
  4. Esegui il seguente comando kubectl per identificare un indirizzo host iniziale per Cassandra nella regione corrente.

    Un indirizzo host di origine consente a una nuova istanza regionale di trovare originale alla primissima startup a scoprire la topologia del cluster. L'indirizzo host del seed viene designato come punto di contatto nel cluster.

    kubectl get pods -o wide -n apigee | grep apigee-cassandra
    apigee-cassandra-default-0  1/1   Running   0   4d17h   120.38.1.9  aks-agentpool-21207753-vmss000000
  5. Decidi quale IP restituito dal comando precedente sarà il seed multiregionale . In questo esempio, in cui è in esecuzione un solo cluster Cassandra a un nodo, l'host iniziale è 120.38.1.9.
  6. Nel data center 2, copia il file delle sostituzioni in un nuovo file il cui nome include il nome del cluster. Ad esempio, overrides_your_cluster_name.yaml.
  7. Nel data center 2, configura cassandra.multiRegionSeedHost e cassandra.datacenter in overrides_your_cluster_name.yaml, dove multiRegionSeedHost è uno degli IP restituiti dal comando precedente:
    cassandra:
         multiRegionSeedHost: seed_host_IP
         datacenter: data_center_name
         rack: rack_name
         hostNetwork: true
         clusterName: cluster_name # must be the same for all regions

    Ad esempio:

    cassandra:
      multiRegionSeedHost: 120.38.1.9
      datacenter: "centralus"
      rack: "ra-1"
      hostNetwork: true
      clusterName: my-apigee-cluster
  8. Nel nuovo data center/nella nuova regione, prima di installare la versione ibrida, imposta gli stessi certificati TLS e le stesse credenziali in overrides_your_cluster_name.yaml come hai fatto nella prima regione.

Configurare la nuova regione

Dopo aver configurato l'host seed, puoi configurare la nuova regione.

Per configurare la nuova regione:

  1. Copia il tuo certificato dal cluster esistente a quello nuovo. La nuova radice dell'autorità di certificazione è utilizzata da Cassandra e da altri componenti ibridi per mTLS. Pertanto, è essenziale avere certificati coerenti in tutto il cluster.
    1. Imposta il contesto sullo spazio dei nomi originale:
      kubectl config use-context original-cluster-name
    2. Esporta la configurazione attuale dello spazio dei nomi in un file:
      kubectl get namespace namespace -o yaml > apigee-namespace.yaml
    3. Esporta il secret apigee-ca in un file:
      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
    4. Imposta il contesto sul nome del cluster della nuova regione:
      kubectl config use-context new-cluster-name
    5. Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare "spazio dei nomi" nel file se utilizzi uno spazio dei nomi diverso nella nuova regione:
      kubectl apply -f apigee-namespace.yaml
    6. Importa il secret nel nuovo cluster:

      kubectl -n cert-manager apply -f apigee-ca.yaml
  2. Installa l'ambiente ibrido nella nuova regione. Assicurati che overrides_your_cluster_name.yaml include gli stessi certificati TLS configurati nella prima regione, come spiegate nella sezione precedente.

    Esegui i seguenti due comandi per installare la versione ibrida nella nuova regione:

    apigeectl init -f overrides_your_cluster_name.yaml
    apigeectl apply -f overrides_your_cluster_name.yaml
  3. Verifica che l'installazione ibrida sia riuscita eseguendo questo comando:
    apigeectl check-ready -f overrides_your_cluster_name.yaml
  4. Verifica la configurazione del cluster Cassandra eseguendo il seguente comando. L'output dovrebbe mostrare sia i data center esistenti che quelli nuovi.
    kubectl exec apigee-cassandra-default-0 -n apigee  \
      -- nodetool -u JMX_user -pw JMX_password status

    Esempio di configurazione corretta:

    Datacenter: dc-1
    ====================
    Status=Up/Down
    |/ State=Normal/Leaving/Joining/Moving
    --  Address        Load       Tokens  Owns  Host ID                               Rack
    UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
    UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
    UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
    
    Datacenter: dc-2
    ====================
    Status=Up/Down
    |/ State=Normal/Leaving/Joining/Moving
    --  Address        Load       Tokens  Owns  Host ID                               Rack
    UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
    UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
    UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b
  5. Configura Cassandra su tutti i pod nei nuovi data center.
    1. Recupera apigeeorg dal cluster con il seguente comando:
      kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name
      

      Ad esempio:

      Ex: kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name
      "rg-hybrid-b7d3b9c"
      
    2. Crea un file di risorse personalizzate di replica dei dati Cassandra (YAML). Il file può avere un nome qualsiasi. Negli esempi seguenti il file avrà il nome datareplication.yaml.

      Il file deve contenere quanto segue:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: REGION_EXPANSION
        namespace: NAMESPACE
      spec:
        organizationRef: APIGEEORG_VALUE
        force: false
        source:
          region: SOURCE_REGION

      Dove:

      • REGION_EXPANSION è il nome che stai assegnando a questi metadati. Puoi puoi usare un nome qualsiasi.
      • NAMESPACE è lo stesso spazio dei nomi fornito in overrides.yaml. Solitamente, è "apigee".
      • APIGEEORG_VALUE è il valore visualizzato dall'output del comando kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name nel passaggio precedente. Ad esempio, rg-hybrid-b7d3b9c
      • SOURCE_REGION è la regione di origine, il valore del data center nella sezione Cassandra della regione di origine override.yaml

      Ad esempio:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: region-expansion
        namespace: apigee
      spec:
        organizationRef: rg-hybrid-b7d3b9c
        force: false
        source:
          region: "dc-1"
    3. Applica il CassandraDataReplication con il seguente comando:
      kubectl apply -f datareplication.yaml
    4. Verifica lo stato della ricompilazione utilizzando il comando seguente.
      kubectl -n apigee get apigeeds -o json | jq .items[].status.cassandraDataReplication

      I risultati dovrebbero avere il seguente aspetto:

      {
        "rebuildDetails": {
          "apigee-cassandra-default-0": {
            "state": "complete",
            "updated": 1623105760
          },
          "apigee-cassandra-default-1": {
            "state": "complete",
            "updated": 1623105765
          },
          "apigee-cassandra-default-2": {
            "state": "complete",
            "updated": 1623105770
          }
        },
        "state": "complete",
        "updated": 1623105770
      }
  6. Verifica le procedure di ricostruzione dai log. Inoltre, verifica le dimensioni dei dati utilizzando il comando nodetool status:
    kubectl logs apigee-cassandra-default-0 -f -n apigee
    kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status

    L'esempio seguente mostra esempi di voci di log:

    INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
    INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
    INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
  7. Aggiorna gli host di origine. Rimuovi multiRegionSeedHost: 10.0.0.11 da overrides-DC_name.yaml e richiedi di nuovo.
    apigeectl apply -f overrides/overrides-DC_name.yaml

Controlla lo stato del cluster Cassandra

Il seguente comando è utile per verificare se la configurazione del cluster è andata a buon fine in due datacenter. Il comando verifica lo stato nodetool per le due regioni.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status


Datacenter: dc-1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          0.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          0.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          0.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

OpenShift

Configura l'host seed multi-region

Questa sezione descrive come espandere il cluster Cassandra esistente in una nuova regione. Questa configurazione consente alla nuova regione di eseguire il bootstrap del cluster e di unire la regione esistente data center. Senza questa configurazione, i cluster Kubernetes multiregione non si conoscerebbero.

  1. Nel file overrides.yaml del cluster originale, assicurati che cassandra:hostNetwork sia impostato su true. Ad esempio:
    cassandra:
      hostNetwork: true

    Consulta la sezione Prerequisiti per ulteriori informazioni su quando eseguire l'impostazione hostNetwork: true.

  2. Se cassandra:hostNetwork non è impostato su true, procedi nel seguente modo:
    1. cassandra.hostNetwork modificato in true.
    2. Applica il file di configurazione overrides.yaml con il comando:
        apigeectl apply -f overrides.yaml --datastore
        
    3. Attendi che i pod Cassandra completino un riavvio in sequenza.
    4. Verifica che il cluster Cassandra sia in stato di salute con i seguenti comandi:

        kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
        
        nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
        

      Assicurati che tutti i nodi Cassandra nell'output siano in formato UN (Up/Normal) stato:

        nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD describecluster
        

      Assicurati che non siano presenti nodi non raggiungibili nell'output.

  3. Imposta il contesto kubectl sul cluster originale prima di recuperare il nome del seme:
    kubectl config use-context original-cluster-name
  4. Esegui questo comando kubectl per identificare un indirizzo host di origine per Cassandra in la regione corrente.

    Un indirizzo host di origine consente a una nuova istanza regionale di trovare originale alla primissima startup a scoprire la topologia del cluster. L'indirizzo host di origine è designato come punto di contatto nel cluster.

    kubectl get pods -o wide -n apigee -l app=apigee-cassandra --field-selector status.phase=Running
    NAME                      READY   STATUS      RESTARTS   AGE   IP          NODE                                          NOMINATED NODE
    apigee-cassandra-default-0        1/1     Running     0          5d    10.0.0.11   gke-k8s-dc-2-default-pool-a2206492-p55d
    apigee-cassandra-default-1        1/1     Running     0          5d    10.0.2.4    gke-k8s-dc-2-default-pool-e9daaab3-tjmz
    apigee-cassandra-default-2        1/1     Running     0          5d    10.0.3.5    gke-k8s-dc-2-default-pool-e589awq3-kjch
  5. Seleziona l'indirizzo IP dell'host Cassandra di origine da utilizzare come host seed multi-regione. In questo esempio, il apigee-cassandra-default-0cluster è in esecuzione, l'host seed è 10.0.0.11.
  6. Nel data center 2, copia il file delle sostituzioni in un nuovo file il cui nome include il nome del cluster. Ad esempio, overrides_your_cluster_name.yaml.
  7. Nel data center 2, configura cassandra.multiRegionSeedHost e cassandra.datacenter in overrides_your_cluster_name.yaml, dove multiRegionSeedHost è uno degli IP restituiti dal comando precedente:
    cassandra:
         hostNetwork: true
         multiRegionSeedHost: seed_host_IP # Cassandra pod IP address from the source region.
         datacenter: data_center_name
         rack: rack_name
         clusterName: cluster_name # must be the same for all regions

    Ad esempio:

    cassandra:
      hostNetwork: true
      multiRegionSeedHost: 10.0.0.11
      datacenter: "dc-2"
      rack: "ra-1"
      clusterName: my-apigee-cluster
  8. Nel nuovo data center/nella nuova regione, prima di installare la versione ibrida, imposta gli stessi certificati TLS e le stesse credenziali in overrides_your_cluster_name.yaml come hai fatto nella prima regione.

Configurare la nuova regione

Dopo aver configurato l'host seed, puoi configurare la nuova regione.

Per configurare la nuova regione:

  1. Copia il tuo certificato dal cluster esistente a quello nuovo. La nuova radice dell'autorità di certificazione è utilizzata da Cassandra e da altri componenti ibridi per mTLS. Pertanto, è essenziale avere certificati coerenti in tutto il cluster.
    1. Imposta il contesto sullo spazio dei nomi originale:
      kubectl config use-context original-cluster-name
    2. Esporta la configurazione attuale dello spazio dei nomi in un file:
      kubectl get namespace namespace -o yaml > apigee-namespace.yaml
    3. Esporta il secret apigee-ca in un file:
      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
    4. Imposta il contesto sul nome del cluster della nuova regione:
      kubectl config use-context new-cluster-name
    5. Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare "spazio dei nomi" nel file se utilizzi uno spazio dei nomi diverso nella nuova regione:
      kubectl apply -f apigee-namespace.yaml
    6. Importa il secret nel nuovo cluster:

      kubectl -n cert-manager apply -f apigee-ca.yaml
  2. Installa l'ambiente ibrido nella nuova regione. Assicurati che overrides_your_cluster_name.yaml include gli stessi certificati TLS configurati nella prima regione, come spiegate nella sezione precedente.

    Esegui i seguenti due comandi per installare la versione ibrida nella nuova regione:

    apigeectl init -f overrides_your_cluster_name.yaml
    apigeectl apply -f overrides_your_cluster_name.yaml
  3. Verifica che l'installazione ibrida sia riuscita eseguendo questo comando:
    apigeectl check-ready -f overrides_your_cluster_name.yaml
  4. Verifica la configurazione del cluster Cassandra eseguendo il seguente comando. L'output dovrebbe mostrare sia i data center esistenti che quelli nuovi.
    kubectl exec apigee-cassandra-default-0 -n apigee  \
      -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

    Esempio di configurazione corretta:

    Datacenter: dc-1
    ====================
    Status=Up/Down
    |/ State=Normal/Leaving/Joining/Moving
    --  Address        Load       Tokens  Owns  Host ID                               Rack
    UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
    UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
    UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
    
    Datacenter: dc-2
    ====================
    Status=Up/Down
    |/ State=Normal/Leaving/Joining/Moving
    --  Address        Load       Tokens  Owns  Host ID                               Rack
    UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
    UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
    UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b
  5. Configura Cassandra su tutti i pod nei nuovi data center.
    1. Recupera apigeeorg dal cluster con il seguente comando:
      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Ad esempio:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      
    2. Crea un file di risorse personalizzate di replica dei dati Cassandra (YAML). Il file può avere un nome qualsiasi. Negli esempi seguenti il file avrà il nome datareplication.yaml.

      Il file deve contenere quanto segue:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: REGION_EXPANSION
        namespace: NAMESPACE
      spec:
        organizationRef: APIGEEORG_VALUE
        force: false
        source:
          region: SOURCE_REGION

      Dove:

      • REGION_EXPANSION è il nome che stai assegnando a questi metadati. Puoi puoi usare un nome qualsiasi.
      • NAMESPACE è lo stesso spazio dei nomi fornito in overrides.yaml. In genere si tratta di "apigee".
      • APIGEEORG_VALUE è il valore visualizzato dall'output del comando kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" nel passaggio precedente. Ad esempio, rg-hybrid-b7d3b9c
      • SOURCE_REGION è la regione di origine, il valore del data center nella sezione Cassandra della regione di origine override.yaml

      Ad esempio:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: region-expansion
        namespace: apigee
      spec:
        organizationRef: rg-hybrid-b7d3b9c
        force: false
        source:
          region: "dc-1"
    3. Applica il CassandraDataReplication con il seguente comando:
      kubectl apply -f datareplication.yaml
    4. Verifica lo stato della ricompilazione utilizzando il comando seguente.
      kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

      I risultati dovrebbero avere il seguente aspetto:

      {
        "rebuildDetails": {
          "apigee-cassandra-default-0": {
            "state": "complete",
            "updated": 1623105760
          },
          "apigee-cassandra-default-1": {
            "state": "complete",
            "updated": 1623105765
          },
          "apigee-cassandra-default-2": {
            "state": "complete",
            "updated": 1623105770
          }
        },
        "state": "complete",
        "updated": 1623105770
      }
  6. Verifica i processi di ricreazione dai log. Verifica inoltre le dimensioni dei dati usando il comando nodetool status.
    kubectl logs apigee-cassandra-default-0 -f -n apigee
    kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

    L'esempio seguente mostra esempi di voci di log:

    INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
    INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
    INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
  7. Aggiorna gli host seed. Rimuovi multiRegionSeedHost: 10.0.0.11 da overrides-DC_name.yaml e invia di nuovo la richiesta.
    apigeectl apply -f overrides/overrides-DC_name.yaml

Controlla lo stato del cluster Cassandra

Il seguente comando è utile per vedere se la configurazione del cluster ha esito positivo in due data center on-premise. Il comando verifica lo stato nodetool per le due regioni.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status


Datacenter: dc-1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          100.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          100.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          100.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

Risoluzione dei problemi

Vedi Errore di replica dei dati Cassandra.