Deployment multiregionale

Version 1.12 (latest)

Versioni supportate:

• v1.12 (più recente)                        
• v1.11                         
• v1.10                                        
• Elenco delle versioni supportate

Versioni non supportate:

• v1.9                                         
• v1.8                                         
• v1.7                                         
• v1.6                                         
• v1.5                                         
• v1.4                                         
• v1.3                                         
• v1.2                                         
• v1.1                                         

Questo argomento descrive un deployment multiregionale per Apigee hybrid su GKE, Anthos GKE con deployment on-prem, Microsoft® Azure Kubernetes Service (AKS), Amazon Elastic Kubernetes Service (EKS) e su RedHat OpenShift. Seleziona la tua piattaforma nei prerequisiti e nelle procedure.

Le topologie per il deployment in più regioni includono quanto segue:

• Attivo-Attivo: quando è stato eseguito il deployment delle applicazioni in più aree geografiche da più località e hai bisogno di una risposta API a bassa latenza per i tuoi deployment. Puoi eseguire il deployment di ambienti ibridi dalle sedi più vicine ai tuoi clienti. Ad esempio: costa occidentale degli Stati Uniti, costa orientale degli Stati Uniti, Europa, APAC.
• Attivo-passivo: in presenza di una regione principale e di un failover o un'emergenza regione di ripristino.

Le regioni in un deployment ibrido multiregionale comunicano tramite Cassandra, come nell'immagine seguente mostra:

Prerequisiti

Prima di configurare il servizio ibrido per più regioni, devi completare la seguenti prerequisiti:

GKE

• Quando installi deployment Apigee multiregionali tra diversi (ad es. provider cloud diversi, reti VPC diverse, servizi on-prem e così via), devi fornire connettività interna tra questi reti separate che Cassandra può utilizzare per comunicare tra i nodi. Questo può essere fatto con le VPN o la connettività specifica per il cloud. soluzioni.
• Se utilizzi Workload Identity in un cluster per autenticare gli account di servizio, ti consigliamo vivamente di utilizzare Workload Identity per ogni cluster in cui espandi. Consulta Abilitazione di Workload Identity su GKE o Abilitazione della federazione delle identità per i carichi di lavoro su AKS ed EKS.
• Configurare cluster Kubernetes in più regioni con blocchi CIDR diversi.
• Assicurati che cert-manager sia installato in ogni cluster.
• Configura la comunicazione tra regioni.
• Assicurati che tutti i pod Cassandra siano in grado di risolvere i propri nomi host. Se hostNetwork è impostato su false, il nome host è Nome pod Cassandra. Se hostNetwork è impostato su true, allora il nome host è il nome host del nodo Kubernetes che esegue il pod Cassandra.
  Suggerimento:per verificare se la risoluzione dei nomi host funziona, utilizza questi comandi.
  
  Se hostNetwork è impostato su false, utilizza Comando 1. Se hostNetwork è impostato su true, utilizza Comando 2.
  
  Se La risoluzione del nome host funziona, l'output mostrerà un indirizzo IP. Se il nome host non è un errore, l'output includerà "Host non trovato".
  
  Comando 1:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee -- hostname -i

  
  Comando 2:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee --overrides='{"kind":"Pod", "apiVersion":"v1", "spec": {"hostNetwork":true}}' -- hostname -i

• Requisiti di Cassandra per più regioni:
  • Assicurati che lo spazio dei nomi della rete dei pod disponga della connettività tra le regioni, tra cui firewall, VPN, peering VPC e peering vNet. Questo è il caso della maggior parte delle installazioni GKE.
  • Se lo spazio dei nomi della rete dei pod non dispone di connettività tra i cluster (i cluster sono in esecuzione in "modalità di rete dell'isola"), abilita hostNetwork caratteristica impostando cassandra.hostNetwork: true nel file degli override per tutti gli attributi nelle regioni nella tua installazione ibrida di più regioni di Apigee.

    Per ulteriori informazioni sulla necessità di hostNetwork, vedi Cluster in modalità Isola e hostNetwork di seguito.

  • Abilita hostNetwork sui cluster esistenti prima di espandere da più regioni a nuove regioni.
  • Se hostNetwork è abilitato, assicurati che i nodi worker possano eseguire l'inoltro Ricerca DNS dei rispettivi nomi host. Apigee Cassandra utilizza una ricerca DNS diretta per ottenere l'host IP all'avvio.
    Suggerimento: se la risoluzione DNS non funziona, prova questa soluzione alternativa.

    Aggiungi una voce host statica nel file /etc/hosts di ciascun nodo worker Cassandra simile al seguente:

    echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"

    o

    "\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"

  • Porta TCP 7001 aperta tra i cluster Kubernetes su regioni e data center in modo da consentire ai nodi worker tra regioni e data center di comunicare. Per informazioni, consulta Configurare le porte sui numeri di porta di Cassandra.

Per informazioni dettagliate, consulta la documentazione di Kubernetes.

Nota: Apigee consiglia di assicurarti che i tuoi server gli orari sono sincronizzati.

Diverse funzionalità, come la scadenza e la revoca del token si basano su orari di sistema precisi. Se i componenti di runtime sono ospitati in diversi data center, assicurati che gli orari del sistema siano sincronizzati.

Puoi utilizzare uno strumento come ntpdate per verificare il server gli orari sono sincronizzati.

GKE On-Prem

• Quando installi deployment Apigee multiregionali tra diversi (ad es. provider cloud diversi, reti VPC diverse, servizi on-prem e così via), devi fornire connettività interna tra questi reti separate che Cassandra può utilizzare per comunicare tra i nodi. Questo può essere fatto con le VPN o la connettività specifica per il cloud. soluzioni.
• Configurare cluster Kubernetes in più regioni con blocchi CIDR diversi.
• Assicurati che cert-manager sia installato in ogni cluster.
• Configura la comunicazione tra regioni.
• Assicurati che tutti i pod Cassandra siano in grado di risolvere i propri nomi host. Se hostNetwork è impostato su false, il nome host è Nome pod Cassandra. Se hostNetwork è impostato su true, allora il nome host è il nome host del nodo Kubernetes che esegue il pod Cassandra.
  Suggerimento:per verificare se la risoluzione dei nomi host funziona, utilizza questi comandi.
  
  Se hostNetwork è impostato su false, utilizza Comando 1. Se hostNetwork è impostato su true, utilizza Comando 2.
  
  Se La risoluzione del nome host funziona, l'output mostrerà un indirizzo IP. Se il nome host non è un errore, l'output includerà "Host non trovato".
  
  Comando 1:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee -- hostname -i

  
  Comando 2:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee --overrides='{"kind":"Pod", "apiVersion":"v1", "spec": {"hostNetwork":true}}' -- hostname -i

• Requisiti di Cassandra per più regioni:
  • Se lo spazio dei nomi della rete dei pod non dispone di connettività tra i cluster (i cluster sono in esecuzione in "modalità Island network", il caso predefinito nelle installazioni GKE On-Prem), abilita la funzionalità hostNetwork di Kubernetes impostando cassandra.hostNetwork: true nel file degli override per tutte le regioni in la tua installazione ibrida di Apigee in più regioni.

    Per ulteriori informazioni sulla necessità di hostNetwork, vedi Cluster in modalità Isola e hostNetwork di seguito.

  • Abilita hostNetwork sui cluster esistenti prima di espandere da più regioni a nuove regioni.
  • Se hostNetwork è abilitato, assicurati che i nodi worker possano eseguire l'inoltro Ricerca DNS dei rispettivi nomi host. Apigee Cassandra utilizza una ricerca DNS diretta per ottenere l'host IP all'avvio.
    Suggerimento: se la risoluzione DNS non funziona, prova questa soluzione alternativa.

    Aggiungi una voce host statica nel file /etc/hosts di ciascun nodo worker Cassandra simile al seguente:

    echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"

    o

    "\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"

  • Apri le porte Cassandra tra i cluster Kubernetes su tutti regioni e data center in modo da consentire ai nodi worker tra regioni e data center di comunicare. Consulta Configurare le porte per Numeri di porta di Cassandra.

Per informazioni dettagliate, consulta la documentazione di Kubernetes.

Nota: Apigee consiglia di assicurarti che i tuoi server gli orari sono sincronizzati.

Diverse funzionalità, come la scadenza e la revoca del token si basano su orari di sistema precisi. Se i componenti di runtime sono ospitati in diversi data center, quindi assicurati di sincronizzare gli orari di sistema.

Puoi utilizzare uno strumento come ntpdate per verificare il server gli orari sono sincronizzati.

AKS

• Quando installi deployment Apigee multiregionali tra diversi (ad es. provider cloud diversi, reti VPC diverse, servizi on-prem e così via), devi fornire connettività interna tra questi reti separate che Cassandra può utilizzare per comunicare tra i nodi. Questo può essere fatto con le VPN o la connettività specifica per il cloud. soluzioni.
• Segui l'installazione ibrida guida per eventuali prerequisiti, come Google Cloud e la configurazione dell'organizzazione. prima di andare ai passaggi di configurazione del cluster.
• Assicurati che cert-manager sia installato in ogni cluster.
• Assicurati che tutti i pod Cassandra siano in grado di risolvere i propri nomi host. Se hostNetwork è impostato su false, il nome host è Nome pod Cassandra. Se hostNetwork è impostato su true, allora il nome host è il nome host del nodo Kubernetes che esegue il pod Cassandra.
  Suggerimento:per verificare se la risoluzione dei nomi host funziona, utilizza questi comandi.
  
  Se hostNetwork è impostato su false, utilizza Comando 1. Se hostNetwork è impostato su true, utilizza Comando 2.
  
  Se La risoluzione del nome host funziona, l'output mostrerà un indirizzo IP. Se il nome host non è un errore, l'output includerà "Host non trovato".
  
  Comando 1:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee -- hostname -i

  
  Comando 2:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee --overrides='{"kind":"Pod", "apiVersion":"v1", "spec": {"hostNetwork":true}}' -- hostname -i

• Requisiti di Cassandra per più regioni:
  • Se lo spazio dei nomi della rete dei pod non dispone di connettività tra i cluster (i cluster sono in esecuzione in "in modalità Island network", il caso predefinito nelle installazioni AKS), abilita la funzionalità hostNetwork di Kubernetes impostando cassandra.hostNetwork: true nel file degli override per tutte le regioni in la tua installazione ibrida di Apigee in più regioni.

    Per ulteriori informazioni sulla necessità di hostNetwork, vedi Cluster in modalità Isola e hostNetwork di seguito.

  • Abilita hostNetwork sui cluster esistenti prima di espandere da più regioni a nuove regioni.
  • Se hostNetwork è abilitato, assicurati che i nodi worker possano eseguire l'inoltro Ricerca DNS dei rispettivi nomi host. Apigee Cassandra utilizza una ricerca DNS diretta per ottenere l'host IP all'avvio.
    Suggerimento: se la risoluzione DNS non funziona, prova questa soluzione alternativa.

    Aggiungi una voce host statica nel file /etc/hosts di ciascun nodo worker Cassandra simile al seguente:

    echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"

    o

    "\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"

  • Apri le porte Cassandra tra i cluster Kubernetes su tutti regioni e data center in modo da consentire ai nodi worker tra regioni e data center di comunicare. Consulta Configurare le porte per Numeri di porta di Cassandra.

Per informazioni dettagliate, consulta la documentazione di Kubernetes.

Nota: Apigee consiglia di assicurarti che i tuoi server gli orari sono sincronizzati.

Diverse funzionalità, come la scadenza e la revoca del token si basano su orari di sistema precisi. Se i componenti di runtime sono ospitati in diversi data center, assicurati che gli orari del sistema siano sincronizzati.

Puoi utilizzare uno strumento come ntpdate per verificare il server gli orari sono sincronizzati.

EKS

• Quando installi deployment Apigee multiregionali tra diversi (ad es. provider cloud diversi, reti VPC diverse, servizi on-prem e così via), devi fornire connettività interna tra questi reti separate che Cassandra può utilizzare per comunicare tra i nodi. Questo può essere fatto con le VPN o la connettività specifica per il cloud. soluzioni.
• Segui l'installazione ibrida guida per eventuali prerequisiti, come Google Cloud e la configurazione dell'organizzazione. prima di andare ai passaggi di configurazione del cluster.
• Assicurati che cert-manager sia installato in ogni cluster.
• Assicurati che tutti i pod Cassandra siano in grado di risolvere i propri nomi host. Se hostNetwork è impostato su false, il nome host è Nome pod Cassandra. Se hostNetwork è impostato su true, allora il nome host è il nome host del nodo Kubernetes che esegue il pod Cassandra.
  Suggerimento:per verificare se la risoluzione dei nomi host funziona, utilizza questi comandi.
  
  Se hostNetwork è impostato su false, utilizza Comando 1. Se hostNetwork è impostato su true, utilizza Comando 2.
  
  Se La risoluzione del nome host funziona, l'output mostrerà un indirizzo IP. Se il nome host non è un errore, l'output includerà "Host non trovato".
  
  Comando 1:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee -- hostname -i

  
  Comando 2:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee --overrides='{"kind":"Pod", "apiVersion":"v1", "spec": {"hostNetwork":true}}' -- hostname -i

• Requisiti di Cassandra per più regioni:
  • Se lo spazio dei nomi della rete dei pod non dispone di connettività tra i cluster (i cluster sono in esecuzione in "modalità Island Network"), abilita la funzionalità hostNetwork di Kubernetes impostando cassandra.hostNetwork: true nel file degli override per tutte le regioni in la tua installazione ibrida di Apigee in più regioni. Amazon EKS utilizza completamente integrato per impostazione predefinita.

    Per ulteriori informazioni sulla necessità di hostNetwork, vedi Cluster in modalità Isola e hostNetwork di seguito.

  • Abilita hostNetwork sui cluster esistenti prima di espandere da più regioni a nuove regioni.
  • Se hostNetwork è abilitato, assicurati che i nodi worker possano eseguire l'inoltro Ricerca DNS dei rispettivi nomi host. Apigee Cassandra utilizza una ricerca DNS diretta per ottenere l'host IP all'avvio.
    Suggerimento: se la risoluzione DNS non funziona, prova questa soluzione alternativa.

    Aggiungi una voce host statica nel file /etc/hosts di ciascun nodo worker Cassandra simile al seguente:

    echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"

    o

    "\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"

  • Apri le porte Cassandra tra i cluster Kubernetes su tutti regioni e data center in modo da consentire ai nodi worker tra regioni e data center di comunicare. Consulta Configurare le porte per Numeri di porta di Cassandra.

Per informazioni dettagliate, consulta la documentazione di Kubernetes.

Nota: Apigee consiglia di assicurarti che i tuoi server gli orari sono sincronizzati.

Diverse funzionalità, come la scadenza e la revoca del token si basano su orari di sistema precisi. Se i componenti di runtime sono ospitati in diversi data center, assicurati che gli orari del sistema siano sincronizzati.

Puoi utilizzare uno strumento come ntpdate per verificare il server gli orari sono sincronizzati.

OpenShift

• Quando installi deployment Apigee multiregionali tra diversi (ad es. provider cloud diversi, reti VPC diverse, servizi on-prem e così via), devi fornire connettività interna tra questi reti separate che Cassandra può utilizzare per comunicare tra i nodi. Questo può essere fatto con le VPN o la connettività specifica per il cloud. soluzioni.
• Segui l'installazione ibrida guida per eventuali prerequisiti, come Google Cloud e la configurazione dell'organizzazione. prima di andare ai passaggi di configurazione del cluster.
• Assicurati che cert-manager sia installato in ogni cluster.
• Assicurati che tutti i pod Cassandra siano in grado di risolvere i propri nomi host. Se hostNetwork è impostato su false, il nome host è Nome pod Cassandra. Se hostNetwork è impostato su true, allora il nome host è il nome host del nodo Kubernetes che esegue il pod Cassandra.
  Suggerimento:per verificare se la risoluzione dei nomi host funziona, utilizza questi comandi.
  
  Se hostNetwork è impostato su false, utilizza Comando 1. Se hostNetwork è impostato su true, utilizza Comando 2.
  
  Se La risoluzione del nome host funziona, l'output mostrerà un indirizzo IP. Se il nome host non è un errore, l'output includerà "Host non trovato".
  
  Comando 1:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee -- hostname -i

  
  Comando 2:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee --overrides='{"kind":"Pod", "apiVersion":"v1", "spec": {"hostNetwork":true}}' -- hostname -i

• Requisiti di Cassandra per più regioni:
  • Se lo spazio dei nomi della rete dei pod non dispone di connettività tra i cluster (i cluster sono in esecuzione in "modalità Island network", impostazione predefinita nelle installazioni OpenShift), abilita la funzionalità hostNetwork di Kubernetes impostando cassandra.hostNetwork: true nel file degli override per tutte le regioni in la tua installazione ibrida di Apigee in più regioni.

    Per ulteriori informazioni sulla necessità di hostNetwork, vedi Cluster in modalità Isola e hostNetwork di seguito.

  • Abilita hostNetwork sui cluster esistenti prima di espandere da più regioni a nuove regioni.
  • Se hostNetwork è abilitato, assicurati che i nodi worker possano eseguire l'inoltro Ricerca DNS dei rispettivi nomi host. Apigee Cassandra utilizza una ricerca DNS diretta per ottenere l'host IP all'avvio.
    Suggerimento: se la risoluzione DNS non funziona, prova questa soluzione alternativa.

    Aggiungi una voce host statica nel file /etc/hosts di ciascun nodo worker Cassandra simile al seguente:

    echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"

    o

    "\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"

  • Apri le porte Cassandra tra i cluster Kubernetes su tutti regioni e data center in modo da consentire ai nodi worker tra regioni e data center di comunicare. Consulta Configurare le porte per Numeri di porta di Cassandra.

Per informazioni dettagliate, consulta la documentazione di Kubernetes.

Nota: Apigee consiglia di assicurarti che i tuoi server gli orari sono sincronizzati.

Diverse funzionalità, come la scadenza e la revoca del token si basano su orari di sistema precisi. Se i componenti di runtime sono ospitati in diversi data center, assicurati che gli orari del sistema siano sincronizzati.

Puoi utilizzare uno strumento come ntpdate per verificare il server gli orari sono sincronizzati.

Cluster in modalità isola e hostNetwork

Esistono due modelli di rete principali per i cluster Kubernetes: completamente integrato (o flat) e modalità isola. Apigee consiglia di utilizzare il modello a rete piatta ove possibile, in quanto la connettività Cassandra in più regioni. Quando un cluster Kubernetes è configurato nell'isola la rete dei pod è isolata. I pod non possono comunicare direttamente con i pod in esecuzione in altri cluster utilizzando l'indirizzo IP del pod. Consulta Implementazioni tipiche dei modelli di rete per ulteriori informazioni sulle differenze tra questi due modelli di rete ed esempi di ciascuna.

Quando Apigee Hybrid è in esecuzione su due o più cluster Kubernetes utilizzando un networking in modalità isola è necessario abilitare l'impostazione hostNetwork per Cassandra tramite cassandra.hostNetwork proprietà. Per impostazione predefinita, i pod Kubernetes sono isolati in singoli spazi dei nomi di rete, impedisce di usare l'IP del nodo worker di Kubernetes. Quando il criterio hostNetwork è impostato su true, il pod non è isolato all'interno del proprio spazio dei nomi di rete, l'indirizzo IP e il nome host del nodo worker Kubernetes su cui è pianificato il pod. Ciò consente Cassandra di utilizzare in modo nativo l'IP del nodo worker di Kubernetes come IP, fornendo un mezzo per Cassandra per stabilire un mesh completo tra tutti i pod Cassandra in più cluster in esecuzione modalità isola.

Risoluzione del nome host Cassandra

Sebbene un pod Cassandra non risolva altri pod Cassandra in base al nome host, all'avvio verifica che il proprio nome host sia risolvibile dal DNS. Poiché il nome host del pod è uguale al Il nome host del nodo worker Kubernetes quando hostNetwork è impostato su true, il nodo worker il nome host deve essere risolvibile in un indirizzo IP tramite il servizio DNS del cluster. Se la classe il nome host del nodo worker non è risolvibile. Non sarà possibile avviare completamente il pod Cassandra. Pertanto, è importante che i nomi host dei nodi worker di Kubernetes siano risolvibili dai pod nel cluster quando imposti hostNetwork su true.

Configura Apigee hybrid per più regioni

Questa sezione descrive come configurare Apigee hybrid per più regioni.

GKE

Importante: quando espandi Apigee hybrid a un nuovo data center regionale, assicurati di installare la stessa versione di ibrido che hai nella di un data center. Evita di eseguire versioni diverse dell'ibrido in più data center.

Avviso:se l'installazione non riesce per una nuova regione, non continuare l'installazione della regione. Elimina e ricrea l'installazione ibrida nella regione che non è riuscita.

Configura l'host seed per più regioni

Questa sezione descrive come espandere il cluster Cassandra esistente a una nuova regione. Questa configurazione consente alla nuova regione di eseguire il bootstrap del cluster e di unire la regione esistente data center. Senza questa configurazione, i cluster Kubernetes multiregionali che non conoscerebbero.

1. Per la prima regione creata, recupera i pod nel tuo spazio dei nomi apigee:

   kubectl get pods -o wide -n apigee
   

2. Identifica l'indirizzo host di origine multiregionale per Cassandra in questa regione, ad esempio 10.0.0.11.

3. Prepara il file overrides.yaml per la seconda regione e aggiungi l'indirizzo IP dell'host di origine come segue:

   cassandra:
     multiRegionSeedHost: "SEED_HOST_IP_ADDRESS"
     datacenter: "DATACENTER_NAME"
     rack: "RACK_NAME"
     hostNetwork: false
     clusterName: CLUSTER_NAME
   

   Sostituisci quanto segue:

   • SEED_HOST_IP_ADDRESS con l'indirizzo IP dell'host originale, ad esempio 10.0.0.11.
   • DATACENTER_NAME con il nome del data center, ad esempio dc-2.
   • RACK_NAME con il nome del rack, ad esempio ra-1.
   • CLUSTER_NAME con il nome del tuo cluster Cassandra. Per impostazione predefinita, è apigeecluster. Se utilizzi un nome di cluster diverso, devi specificare un per cassandra.clusterName. Puoi scegliere liberamente il valore che preferisci, ma deve essere uguale in tutte le regioni.

Configura la seconda regione

Per configurare la nuova regione:

1. Installa cert-manager nella seconda regione.

2. Copia il tuo certificato dal cluster esistente a quello nuovo. La nuova radice dell'autorità di certificazione viene utilizzata da Cassandra e da altri componenti ibridi per mTLS. Pertanto, è essenziale disporre di certificati coerenti in tutto il cluster.

   1. Imposta il contesto sullo spazio dei nomi originale:

      kubectl config use-context ORIGINAL_CLUSTER_NAME
      

   2. Esporta la configurazione attuale dello spazio dei nomi in un file:

      kubectl get namespace apigee -o yaml > apigee-namespace.yaml
      

   3. Esporta il secret apigee-ca in un file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
      

   4. Imposta il contesto sul nome del cluster della nuova regione:

      kubectl config use-context NEW_CLUSTER_NAME
      

   5. Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiorna lo spazio dei nomi nel file se utilizzi un'interfaccia nella nuova regione:

      kubectl apply -f apigee-namespace.yaml
      

   6. Importa il secret nel nuovo cluster:

      kubectl -n cert-manager apply -f apigee-ca.yaml
      

3. Segui i passaggi per Installa i CRD ibridi di Apigee nella nuova regione.

4. Ora utilizza i grafici Helm per installare Apigee hybrid nella nuova regione con i seguenti comandi di grafico Helm (come per la regione 1):

   Nota: puoi usare gli stessi CRD per coerenza usando il nella stessa cartella in cui hai scaricato i grafici, puoi anche il tuo file di override univoco tra la regione 1 e la regione 2 assegnando il nome sostituisce qualcosa di univoco, ad esempio overrides-region_name.yaml e così via.
   Importante: ometti il flag ‑‑atomic per di cui è stata eseguita la migrazione.

   helm upgrade operator apigee-operator \
     --install \
     --create-namespace \
     --namespace apigee-system \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade datastore apigee-datastore \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade telemetry apigee-telemetry \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade redis apigee-redis \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade ingress-manager apigee-ingress-manager \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade ORG_NAME apigee-org \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   # repeat the below command for each env mentioned on the overrides
   helm upgrade ENV_NAME apigee-env/ \
     --install \
     --namespace apigee \
     --atomic \
     --set env=ENV_NAME \
     -f overrides-DATACENTER_NAME.yaml
   # repeat the below command for each env group mentioned on the overrides
   helm upgrade apigee-virtualhost-ENV_GROUP_NAME apigee-virtualhost/ \
     --install \
     --namespace apigee \
     --atomic \
     --set envgroup=ENV_GROUP_NAME \
     -f overrides-DATACENTER_NAME.yaml
   

5. Verifica la configurazione del cluster Cassandra eseguendo questo comando. L'output dovrebbe mostrare sia i data center esistenti che quelli nuovi.
   Avviso: se l'output di questo comando non mostra entrambi data center nuovi ed esistenti, la configurazione non è riuscita. In tal caso, non proseguire più avanti.

   Per risolvere il problema, l'installazione ibrida nella nuova regione deve essere eliminati e ricreati. Vedi Disinstallare il runtime ibrido. Se Se la configurazione non va a buon fine, non tentare di andare avanti né tentare di unirsi al cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
   -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Esempio di configurazione corretta:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-2
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

6. Configurare Cassandra su tutti i pod nei nuovi data center.
   1. Recupera apigeeorg dal cluster con il comando seguente:

      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Ad esempio:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      

   2. Crea un file di risorse personalizzate di replica dei dati Cassandra (YAML). La il file può avere qualsiasi nome. Negli esempi seguenti il file avrà il nome datareplication.yaml.

      Il file deve contenere quanto segue:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
      name: REGION_EXPANSION
      namespace: NAMESPACE
      spec:
      organizationRef: APIGEEORG_VALUE
      force: false
      source:
      region: SOURCE_REGION

      Dove:

      • REGION_EXPANSION è il nome che stai assegnando a questi metadati. Puoi puoi usare un nome qualsiasi.
      • NAMESPACE è lo stesso spazio dei nomi fornito in overrides.yaml. Solitamente, è "apigee".
      • APIGEEORG_VALUE è il valore di output dal kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" nel passaggio precedente. Ad esempio, rg-hybrid-b7d3b9c
      • SOURCE_REGION è la regione di origine, il valore del data center nella sezione Cassandra della regione di origine override.yaml

      Ad esempio:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
      name: region-expansion
      namespace: apigee
      spec:
      organizationRef: rg-hybrid-b7d3b9c
      force: false
      source:
      region: "dc-1"

   3. Applica CassandraDataReplication con il seguente comando:

      kubectl apply -f datareplication.yaml

7. Verifica lo stato della ricompilazione utilizzando il comando seguente.
   Nota: l'operazione di ristrutturazione può richiedere diverse ore a seconda della dimensione dei dati.

   kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

   I risultati dovrebbero essere simili ai seguenti:

   {
   "rebuildDetails": {
   "apigee-cassandra-default-0": {
   "state": "complete",
   "updated": 1623105760
   },
   "apigee-cassandra-default-1": {
   "state": "complete",
   "updated": 1623105765
   },
   "apigee-cassandra-default-2": {
   "state": "complete",
   "updated": 1623105770
   }
   },
   "state": "complete",
   "updated": 1623105770
   }

8. Una volta completata e verificata la replica dei dati, aggiorna gli host di origine:
   1. Rimuovi multiRegionSeedHost: 10.0.0.11 da overrides-DATACENTER_NAME.yaml.

   2. Riapplica la modifica per aggiornare la RP del datastore apigee:

      Importante: ometti il flag ‑‑atomic per di cui è stata eseguita la migrazione.

      helm upgrade datastore apigee-datastore/ \
        --install \
        --namespace apigee \
        --atomic \
        -f overrides-DATACENTER_NAME.yaml
      

9. Verifica i processi di ricreazione dai log. Verifica inoltre le dimensioni dei dati usando il comando nodetool status.
   Nota: se l'operazione di ricompilazione mostra lo stato completato e i log dei processi di ricreazione contengono "Tutte le sessioni completate" tutti i dati sono stati copiata correttamente nella nuova regione.

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Suggerimento: APIGEE_JMX_USER e APIGEE_JMX_PASSWORD sono generalmente definiti nelle variabili di ambiente $APIGEE_JMX_USER e $APIGEE_JMX_PASSWORD.

   L'esempio seguente mostra esempi di voci di log:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

Controlla lo stato del cluster Cassandra

Il seguente comando è utile per vedere se la configurazione del cluster ha esito positivo in due data center on-premise. Il comando verifica lo stato nodetool per le due regioni.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status


Datacenter: dc-1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          100.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          100.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          100.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

GKE On-Prem

Importante: quando espandi Apigee hybrid a un nuovo data center regionale, assicurati di installare la stessa versione di ibrido che hai nella di un data center. Evita di eseguire versioni diverse dell'ibrido in più data center.

Avviso:se l'installazione non riesce per una nuova regione, non continuare l'installazione della regione. Elimina e ricrea l'installazione ibrida nella regione che non è riuscita.

Configura l'host seed per più regioni

Questa sezione descrive come espandere il cluster Cassandra esistente a una nuova regione. Questa configurazione consente alla nuova regione di eseguire il bootstrap del cluster e di unire la regione esistente data center. Senza questa configurazione, i cluster Kubernetes multiregionali che non conoscerebbero.

1. Per la prima regione creata, recupera i pod nel tuo spazio dei nomi apigee:

   kubectl get pods -o wide -n apigee
   

2. Identifica l'indirizzo host di origine multiregionale per Cassandra in questa regione, ad esempio 10.0.0.11.

3. Prepara il file overrides.yaml per la seconda regione e aggiungi l'indirizzo IP dell'host di origine come segue:

   cassandra:
     multiRegionSeedHost: "SEED_HOST_IP_ADDRESS"
     datacenter: "DATACENTER_NAME"
     rack: "RACK_NAME"
     hostNetwork: false
     clusterName: CLUSTER_NAME
   

   Sostituisci quanto segue:

   • SEED_HOST_IP_ADDRESS con l'indirizzo IP dell'host originale, ad esempio 10.0.0.11.
   • DATACENTER_NAME con il nome del data center, ad esempio dc-2.
   • RACK_NAME con il nome del rack, ad esempio ra-1.
   • CLUSTER_NAME con il nome del tuo cluster Cassandra. Per impostazione predefinita, è apigeecluster. Se utilizzi un nome di cluster diverso, devi specificare un per cassandra.clusterName. Puoi scegliere liberamente il valore che preferisci, ma deve essere uguale in tutte le regioni.

Configura la seconda regione

Per configurare la nuova regione:

1. Installa cert-manager nella seconda regione.

2. Copia il tuo certificato dal cluster esistente a quello nuovo. La nuova radice dell'autorità di certificazione viene utilizzata da Cassandra e da altri componenti ibridi per mTLS. Pertanto, è essenziale disporre di certificati coerenti in tutto il cluster.

   1. Imposta il contesto sullo spazio dei nomi originale:

      kubectl config use-context ORIGINAL_CLUSTER_NAME
      

   2. Esporta la configurazione attuale dello spazio dei nomi in un file:

      kubectl get namespace apigee -o yaml > apigee-namespace.yaml
      

   3. Esporta il secret apigee-ca in un file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
      

   4. Imposta il contesto sul nome del cluster della nuova regione:

      kubectl config use-context NEW_CLUSTER_NAME
      

   5. Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiorna lo spazio dei nomi nel file se utilizzi un'interfaccia nella nuova regione:

      kubectl apply -f apigee-namespace.yaml
      

   6. Importa il secret nel nuovo cluster:

      kubectl -n cert-manager apply -f apigee-ca.yaml
      

3. Segui i passaggi per Installa i CRD ibridi di Apigee nella nuova regione.

4. Ora utilizza i grafici Helm per installare Apigee hybrid nella nuova regione con i seguenti comandi di grafico Helm (come per la regione 1):

   Nota: puoi usare gli stessi CRD per coerenza usando il nella stessa cartella in cui hai scaricato i grafici, puoi anche il tuo file di override univoco tra la regione 1 e la regione 2 assegnando il nome sostituisce qualcosa di univoco, ad esempio overrides-region_name.yaml e così via.
   Importante: ometti il flag ‑‑atomic per di cui è stata eseguita la migrazione.

   helm upgrade operator apigee-operator \
     --install \
     --create-namespace \
     --namespace apigee-system \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade datastore apigee-datastore \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade telemetry apigee-telemetry \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade redis apigee-redis \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade ingress-manager apigee-ingress-manager \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade ORG_NAME apigee-org \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   # repeat the below command for each env mentioned on the overrides
   helm upgrade ENV_NAME apigee-env/ \
     --install \
     --namespace apigee \
     --atomic \
     --set env=ENV_NAME \
     -f overrides-DATACENTER_NAME.yaml
   # repeat the below command for each env group mentioned on the overrides
   helm upgrade apigee-virtualhost-ENV_GROUP_NAME apigee-virtualhost/ \
     --install \
     --namespace apigee \
     --atomic \
     --set envgroup=ENV_GROUP_NAME \
     -f overrides-DATACENTER_NAME.yaml
   

5. Verifica la configurazione del cluster Cassandra eseguendo questo comando. L'output dovrebbe mostrare sia i data center esistenti che quelli nuovi.
   Avviso: se l'output di questo comando non mostra entrambi data center nuovi ed esistenti, la configurazione non è riuscita. In tal caso, non proseguire più avanti.

   Per risolvere il problema, l'installazione ibrida nella nuova regione deve essere eliminati e ricreati. Vedi Disinstallare il runtime ibrido. Se Se la configurazione non va a buon fine, non tentare di andare avanti né tentare di unirsi al cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
   -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Esempio di configurazione corretta:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-2
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

6. Configurare Cassandra su tutti i pod nei nuovi data center.
   1. Recupera apigeeorg dal cluster con il comando seguente:

      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Ad esempio:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      

   2. Crea un file di risorse personalizzate di replica dei dati Cassandra (YAML). La il file può avere qualsiasi nome. Negli esempi seguenti il file avrà il nome datareplication.yaml.

      Il file deve contenere quanto segue:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
      name: REGION_EXPANSION
      namespace: NAMESPACE
      spec:
      organizationRef: APIGEEORG_VALUE
      force: false
      source:
      region: SOURCE_REGION

      Dove:

      • REGION_EXPANSION è il nome che stai assegnando a questi metadati. Puoi puoi usare un nome qualsiasi.
      • NAMESPACE è lo stesso spazio dei nomi fornito in overrides.yaml. Solitamente, è "apigee".
      • APIGEEORG_VALUE è il valore di output dal kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" nel passaggio precedente. Ad esempio, rg-hybrid-b7d3b9c
      • SOURCE_REGION è la regione di origine, il valore del data center nella sezione Cassandra della regione di origine override.yaml

      Ad esempio:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
      name: region-expansion
      namespace: apigee
      spec:
      organizationRef: rg-hybrid-b7d3b9c
      force: false
      source:
      region: "dc-1"

   3. Applica CassandraDataReplication con il seguente comando:

      kubectl apply -f datareplication.yaml

7. Verifica lo stato della ricompilazione utilizzando il comando seguente.
   Nota: l'operazione di ristrutturazione può richiedere diverse ore a seconda della dimensione dei dati.

   kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

   I risultati dovrebbero essere simili ai seguenti:

   {
   "rebuildDetails": {
   "apigee-cassandra-default-0": {
   "state": "complete",
   "updated": 1623105760
   },
   "apigee-cassandra-default-1": {
   "state": "complete",
   "updated": 1623105765
   },
   "apigee-cassandra-default-2": {
   "state": "complete",
   "updated": 1623105770
   }
   },
   "state": "complete",
   "updated": 1623105770
   }

8. Una volta completata e verificata la replica dei dati, aggiorna gli host di origine:
   1. Rimuovi multiRegionSeedHost: 10.0.0.11 da overrides-DATACENTER_NAME.yaml.

   2. Riapplica la modifica per aggiornare la RP del datastore apigee:

      Importante: ometti il flag ‑‑atomic per di cui è stata eseguita la migrazione.

      helm upgrade datastore apigee-datastore/ \
        --install \
        --namespace apigee \
        --atomic \
        -f overrides-DATACENTER_NAME.yaml
      

9. Verifica i processi di ricreazione dai log. Verifica inoltre le dimensioni dei dati usando il comando nodetool status.
   Nota: se l'operazione di ricompilazione mostra lo stato completato e i log dei processi di ricreazione contengono "Tutte le sessioni completate" tutti i dati sono stati copiata correttamente nella nuova regione.

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Suggerimento: APIGEE_JMX_USER e APIGEE_JMX_PASSWORD sono generalmente definiti nelle variabili di ambiente $APIGEE_JMX_USER e $APIGEE_JMX_PASSWORD.

   L'esempio seguente mostra esempi di voci di log:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

Controlla lo stato del cluster Cassandra

Il seguente comando è utile per vedere se la configurazione del cluster ha esito positivo in due data center on-premise. Il comando verifica lo stato nodetool per le due regioni.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status


Datacenter: dc-1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          100.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          100.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          100.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

AKS

Importante: quando espandi Apigee hybrid a un nuovo data center regionale, assicurati di installare la stessa versione di ibrido che hai nella di un data center. Evita di eseguire versioni diverse dell'ibrido in più data center.

Avviso:se l'installazione non riesce per una nuova regione, non continuare l'installazione della regione. Elimina e ricrea l'installazione ibrida nella regione che non è riuscita.

Crea una rete virtuale in ogni regione

Segui i suggerimenti di Azure per stabilire la comunicazione tra regioni qui: VNet-to-VNet: Connessione di reti virtuali in Azure in regioni diverse.

Crea cluster multiregionali

Configurare cluster Kubernetes in più regioni con blocchi CIDR diversi. Consulta Consulta anche il Passaggio 1: crea un cluster. Utilizza la di località e nomi di reti virtuali creati in precedenza.

Apri le porte Cassandra tra i cluster Kubernetes su tutti regioni e data center in modo da consentire ai nodi worker tra regioni e data center di comunicare. Consulta Configurare le porte per Numeri di porta di Cassandra.

Configura l'host seed per più regioni

Questa sezione descrive come espandere il cluster Cassandra esistente a una nuova regione. Questa configurazione consente alla nuova regione di eseguire il bootstrap del cluster e di unire la regione esistente data center. Senza questa configurazione, i cluster Kubernetes multiregionali che non conoscerebbero.

1. Per la prima regione creata, recupera i pod nel tuo spazio dei nomi apigee:

   kubectl get pods -o wide -n apigee
   

2. Identifica l'indirizzo host di origine multiregionale per Cassandra in questa regione, ad esempio 10.0.0.11.

3. Prepara il file overrides.yaml per la seconda regione e aggiungi l'indirizzo IP dell'host di origine come segue:

   cassandra:
     multiRegionSeedHost: "SEED_HOST_IP_ADDRESS"
     datacenter: "DATACENTER_NAME"
     rack: "RACK_NAME"
     hostNetwork: false
     clusterName: CLUSTER_NAME
   

   Sostituisci quanto segue:

   • SEED_HOST_IP_ADDRESS con l'indirizzo IP dell'host originale, ad esempio 10.0.0.11.
   • DATACENTER_NAME con il nome del data center, ad esempio dc-2.
   • RACK_NAME con il nome del rack, ad esempio ra-1.
   • CLUSTER_NAME con il nome del tuo cluster Cassandra. Per impostazione predefinita, è apigeecluster. Se utilizzi un nome di cluster diverso, devi specificare un per cassandra.clusterName. Puoi scegliere liberamente il valore che preferisci, ma deve essere uguale in tutte le regioni.

Configura la seconda regione

Per configurare la nuova regione:

1. Installa cert-manager nella seconda regione.

2. Copia il tuo certificato dal cluster esistente a quello nuovo. La nuova radice dell'autorità di certificazione viene utilizzata da Cassandra e da altri componenti ibridi per mTLS. Pertanto, è essenziale disporre di certificati coerenti in tutto il cluster.

   1. Imposta il contesto sullo spazio dei nomi originale:

      kubectl config use-context ORIGINAL_CLUSTER_NAME
      

   2. Esporta la configurazione attuale dello spazio dei nomi in un file:

      kubectl get namespace apigee -o yaml > apigee-namespace.yaml
      

   3. Esporta il secret apigee-ca in un file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
      

   4. Imposta il contesto sul nome del cluster della nuova regione:

      kubectl config use-context NEW_CLUSTER_NAME
      

   5. Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiorna lo spazio dei nomi nel file se utilizzi un'interfaccia nella nuova regione:

      kubectl apply -f apigee-namespace.yaml
      

   6. Importa il secret nel nuovo cluster:

      kubectl -n cert-manager apply -f apigee-ca.yaml
      

3. Segui i passaggi per Installa i CRD ibridi di Apigee nella nuova regione.

4. Ora utilizza i grafici Helm per installare Apigee hybrid nella nuova regione con i seguenti comandi di grafico Helm (come per la regione 1):

   Nota: puoi usare gli stessi CRD per coerenza usando il nella stessa cartella in cui hai scaricato i grafici, puoi anche il tuo file di override univoco tra la regione 1 e la regione 2 assegnando il nome sostituisce qualcosa di univoco, ad esempio overrides-region_name.yaml e così via.
   Importante: ometti il flag ‑‑atomic per di cui è stata eseguita la migrazione.

   helm upgrade operator apigee-operator \
     --install \
     --create-namespace \
     --namespace apigee-system \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade datastore apigee-datastore \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade telemetry apigee-telemetry \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade redis apigee-redis \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade ingress-manager apigee-ingress-manager \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade ORG_NAME apigee-org \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   # repeat the below command for each env mentioned on the overrides
   helm upgrade ENV_NAME apigee-env/ \
     --install \
     --namespace apigee \
     --atomic \
     --set env=ENV_NAME \
     -f overrides-DATACENTER_NAME.yaml
   # repeat the below command for each env group mentioned on the overrides
   helm upgrade apigee-virtualhost-ENV_GROUP_NAME apigee-virtualhost/ \
     --install \
     --namespace apigee \
     --atomic \
     --set envgroup=ENV_GROUP_NAME \
     -f overrides-DATACENTER_NAME.yaml
   

5. Verifica la configurazione del cluster Cassandra eseguendo questo comando. L'output dovrebbe mostrare sia i data center esistenti che quelli nuovi.
   Avviso: se l'output di questo comando non mostra entrambi data center nuovi ed esistenti, la configurazione non è riuscita. In tal caso, non proseguire più avanti.

   Per risolvere il problema, l'installazione ibrida nella nuova regione deve essere eliminati e ricreati. Vedi Disinstallare il runtime ibrido. Se Se la configurazione non va a buon fine, non tentare di andare avanti né tentare di unirsi al cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
   -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Esempio di configurazione corretta:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-2
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

6. Configurare Cassandra su tutti i pod nei nuovi data center.
   1. Recupera apigeeorg dal cluster con il comando seguente:

      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Ad esempio:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      

   2. Crea un file di risorse personalizzate di replica dei dati Cassandra (YAML). La il file può avere qualsiasi nome. Negli esempi seguenti il file avrà il nome datareplication.yaml.

      Il file deve contenere quanto segue:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
      name: REGION_EXPANSION
      namespace: NAMESPACE
      spec:
      organizationRef: APIGEEORG_VALUE
      force: false
      source:
      region: SOURCE_REGION

      Dove:

      • REGION_EXPANSION è il nome che stai assegnando a questi metadati. Puoi puoi usare un nome qualsiasi.
      • NAMESPACE è lo stesso spazio dei nomi fornito in overrides.yaml. Solitamente, è "apigee".
      • APIGEEORG_VALUE è il valore di output dal kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" nel passaggio precedente. Ad esempio, rg-hybrid-b7d3b9c
      • SOURCE_REGION è la regione di origine, il valore del data center nella sezione Cassandra della regione di origine override.yaml

      Ad esempio:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
      name: region-expansion
      namespace: apigee
      spec:
      organizationRef: rg-hybrid-b7d3b9c
      force: false
      source:
      region: "dc-1"

   3. Applica CassandraDataReplication con il seguente comando:

      kubectl apply -f datareplication.yaml

7. Verifica lo stato della ricompilazione utilizzando il comando seguente.
   Nota: l'operazione di ristrutturazione può richiedere diverse ore a seconda della dimensione dei dati.

   kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

   I risultati dovrebbero essere simili ai seguenti:

   {
   "rebuildDetails": {
   "apigee-cassandra-default-0": {
   "state": "complete",
   "updated": 1623105760
   },
   "apigee-cassandra-default-1": {
   "state": "complete",
   "updated": 1623105765
   },
   "apigee-cassandra-default-2": {
   "state": "complete",
   "updated": 1623105770
   }
   },
   "state": "complete",
   "updated": 1623105770
   }

8. Una volta completata e verificata la replica dei dati, aggiorna gli host di origine:
   1. Rimuovi multiRegionSeedHost: 10.0.0.11 da overrides-DATACENTER_NAME.yaml.

   2. Riapplica la modifica per aggiornare la RP del datastore apigee:

      Importante: ometti il flag ‑‑atomic per di cui è stata eseguita la migrazione.

      helm upgrade datastore apigee-datastore/ \
        --install \
        --namespace apigee \
        --atomic \
        -f overrides-DATACENTER_NAME.yaml
      

9. Verifica i processi di ricreazione dai log. Verifica inoltre le dimensioni dei dati usando il comando nodetool status.
   Nota: se l'operazione di ricompilazione mostra lo stato completato e i log dei processi di ricreazione contengono "Tutte le sessioni completate" tutti i dati sono stati copiata correttamente nella nuova regione.

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Suggerimento: APIGEE_JMX_USER e APIGEE_JMX_PASSWORD sono generalmente definiti nelle variabili di ambiente $APIGEE_JMX_USER e $APIGEE_JMX_PASSWORD.

   L'esempio seguente mostra esempi di voci di log:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

Controlla lo stato del cluster Cassandra

Il seguente comando è utile per vedere se la configurazione del cluster ha esito positivo in due data center on-premise. Il comando verifica lo stato nodetool per le due regioni.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status


Datacenter: dc-1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          100.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          100.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          100.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

EKS

Importante: quando espandi Apigee hybrid a un nuovo data center regionale, assicurati di installare la stessa versione di ibrido che hai nella di un data center. Evita di eseguire versioni diverse dell'ibrido in più data center. Questa limitazione non si applica quando si esegue l'upgrade di più data center a un nuova versione.

Avviso:se l'installazione non riesce per una nuova regione, non continuare l'installazione della regione. Elimina e ricrea l'installazione ibrida nella regione che non è riuscita.

Crea una rete virtuale in ogni regione

Segui i suggerimenti di AWS per stabilire una comunicazione tra regioni come descritto in: Che cos'è il peering VPC? Il termine AWS per l'utilizzo di regioni diverse è Peering VPC tra regioni.

Crea cluster multiregionali

Configurare cluster Kubernetes in più regioni con blocchi CIDR diversi. Consulta Consulta anche il Passaggio 1: crea un cluster. Utilizza la di località e nomi di reti virtuali creati in precedenza.

Apri le porte Cassandra tra i cluster Kubernetes su tutti regioni e data center in modo da consentire ai nodi worker tra regioni e data center di comunicare. Consulta Configurare le porte per Numeri di porta di Cassandra.

Configura l'host seed per più regioni

Questa sezione descrive come espandere il cluster Cassandra esistente a una nuova regione. Questa configurazione consente alla nuova regione di eseguire il bootstrap del cluster e di unire la regione esistente data center. Senza questa configurazione, i cluster Kubernetes multiregionali che non conoscerebbero.

1. Per la prima regione creata, recupera i pod nel tuo spazio dei nomi apigee:

   kubectl get pods -o wide -n apigee
   

2. Identifica l'indirizzo host di origine multiregionale per Cassandra in questa regione, ad esempio 10.0.0.11.

3. Prepara il file overrides.yaml per la seconda regione e aggiungi l'indirizzo IP dell'host di origine come segue:

   cassandra:
     multiRegionSeedHost: "SEED_HOST_IP_ADDRESS"
     datacenter: "DATACENTER_NAME"
     rack: "RACK_NAME"
     hostNetwork: false
     clusterName: CLUSTER_NAME
   

   Sostituisci quanto segue:

   • SEED_HOST_IP_ADDRESS con l'indirizzo IP dell'host originale, ad esempio 10.0.0.11.
   • DATACENTER_NAME con il nome del data center, ad esempio dc-2.
   • RACK_NAME con il nome del rack, ad esempio ra-1.
   • CLUSTER_NAME con il nome del tuo cluster Cassandra. Per impostazione predefinita, è apigeecluster. Se utilizzi un nome di cluster diverso, devi specificare un per cassandra.clusterName. Puoi scegliere liberamente il valore che preferisci, ma deve essere uguale in tutte le regioni.

Configura la seconda regione

Per configurare la nuova regione:

1. Installa cert-manager nella seconda regione.

2. Copia il tuo certificato dal cluster esistente a quello nuovo. La nuova radice dell'autorità di certificazione viene utilizzata da Cassandra e da altri componenti ibridi per mTLS. Pertanto, è essenziale disporre di certificati coerenti in tutto il cluster.

   1. Imposta il contesto sullo spazio dei nomi originale:

      kubectl config use-context ORIGINAL_CLUSTER_NAME
      

   2. Esporta la configurazione attuale dello spazio dei nomi in un file:

      kubectl get namespace apigee -o yaml > apigee-namespace.yaml
      

   3. Esporta il secret apigee-ca in un file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
      

   4. Imposta il contesto sul nome del cluster della nuova regione:

      kubectl config use-context NEW_CLUSTER_NAME
      

   5. Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiorna lo spazio dei nomi nel file se utilizzi un'interfaccia nella nuova regione:

      kubectl apply -f apigee-namespace.yaml
      

   6. Importa il secret nel nuovo cluster:

      kubectl -n cert-manager apply -f apigee-ca.yaml
      

3. Segui i passaggi per Installa i CRD ibridi di Apigee nella nuova regione.

4. Ora utilizza i grafici Helm per installare Apigee hybrid nella nuova regione con i seguenti comandi di grafico Helm (come per la regione 1):

   Nota: puoi usare gli stessi CRD per coerenza usando il nella stessa cartella in cui hai scaricato i grafici, puoi anche il tuo file di override univoco tra la regione 1 e la regione 2 assegnando il nome sostituisce qualcosa di univoco, ad esempio overrides-region_name.yaml e così via.
   Importante: ometti il flag ‑‑atomic per di cui è stata eseguita la migrazione.

   helm upgrade operator apigee-operator \
     --install \
     --create-namespace \
     --namespace apigee-system \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade datastore apigee-datastore \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade telemetry apigee-telemetry \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade redis apigee-redis \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade ingress-manager apigee-ingress-manager \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade ORG_NAME apigee-org \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   # repeat the below command for each env mentioned on the overrides
   helm upgrade ENV_NAME apigee-env/ \
     --install \
     --namespace apigee \
     --atomic \
     --set env=ENV_NAME \
     -f overrides-DATACENTER_NAME.yaml
   # repeat the below command for each env group mentioned on the overrides
   helm upgrade apigee-virtualhost-ENV_GROUP_NAME apigee-virtualhost/ \
     --install \
     --namespace apigee \
     --atomic \
     --set envgroup=ENV_GROUP_NAME \
     -f overrides-DATACENTER_NAME.yaml
   

5. Verifica la configurazione del cluster Cassandra eseguendo questo comando. L'output dovrebbe mostrare sia i data center esistenti che quelli nuovi.
   Avviso: se l'output di questo comando non mostra entrambi data center nuovi ed esistenti, la configurazione non è riuscita. In tal caso, non proseguire più avanti.

   Per risolvere il problema, l'installazione ibrida nella nuova regione deve essere eliminati e ricreati. Vedi Disinstallare il runtime ibrido. Se Se la configurazione non va a buon fine, non tentare di andare avanti né tentare di unirsi al cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
   -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Esempio di configurazione corretta:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-2
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

6. Configurare Cassandra su tutti i pod nei nuovi data center.
   1. Recupera apigeeorg dal cluster con il comando seguente:

      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Ad esempio:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      

   2. Crea un file di risorse personalizzate di replica dei dati Cassandra (YAML). La il file può avere qualsiasi nome. Negli esempi seguenti il file avrà il nome datareplication.yaml.

      Il file deve contenere quanto segue:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
      name: REGION_EXPANSION
      namespace: NAMESPACE
      spec:
      organizationRef: APIGEEORG_VALUE
      force: false
      source:
      region: SOURCE_REGION

      Dove:

      • REGION_EXPANSION è il nome che stai assegnando a questi metadati. Puoi puoi usare un nome qualsiasi.
      • NAMESPACE è lo stesso spazio dei nomi fornito in overrides.yaml. Solitamente, è "apigee".
      • APIGEEORG_VALUE è il valore di output dal kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" nel passaggio precedente. Ad esempio, rg-hybrid-b7d3b9c
      • SOURCE_REGION è la regione di origine, il valore del data center nella sezione Cassandra della regione di origine override.yaml

      Ad esempio:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
      name: region-expansion
      namespace: apigee
      spec:
      organizationRef: rg-hybrid-b7d3b9c
      force: false
      source:
      region: "dc-1"

   3. Applica CassandraDataReplication con il seguente comando:

      kubectl apply -f datareplication.yaml

7. Verifica lo stato della ricompilazione utilizzando il comando seguente.
   Nota: l'operazione di ristrutturazione può richiedere diverse ore a seconda della dimensione dei dati.

   kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

   I risultati dovrebbero essere simili ai seguenti:

   {
   "rebuildDetails": {
   "apigee-cassandra-default-0": {
   "state": "complete",
   "updated": 1623105760
   },
   "apigee-cassandra-default-1": {
   "state": "complete",
   "updated": 1623105765
   },
   "apigee-cassandra-default-2": {
   "state": "complete",
   "updated": 1623105770
   }
   },
   "state": "complete",
   "updated": 1623105770
   }

8. Una volta completata e verificata la replica dei dati, aggiorna gli host di origine:
   1. Rimuovi multiRegionSeedHost: 10.0.0.11 da overrides-DATACENTER_NAME.yaml.

   2. Riapplica la modifica per aggiornare la RP del datastore apigee:

      Importante: ometti il flag ‑‑atomic per di cui è stata eseguita la migrazione.

      helm upgrade datastore apigee-datastore/ \
        --install \
        --namespace apigee \
        --atomic \
        -f overrides-DATACENTER_NAME.yaml
      

9. Verifica i processi di ricreazione dai log. Verifica inoltre le dimensioni dei dati usando il comando nodetool status.
   Nota: se l'operazione di ricompilazione mostra lo stato completato e i log dei processi di ricreazione contengono "Tutte le sessioni completate" tutti i dati sono stati copiata correttamente nella nuova regione.

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Suggerimento: APIGEE_JMX_USER e APIGEE_JMX_PASSWORD sono generalmente definiti nelle variabili di ambiente $APIGEE_JMX_USER e $APIGEE_JMX_PASSWORD.

   L'esempio seguente mostra esempi di voci di log:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

Controlla lo stato del cluster Cassandra

Il seguente comando è utile per vedere se la configurazione del cluster ha esito positivo in due data center on-premise. Il comando verifica lo stato nodetool per le due regioni.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status


Datacenter: dc-1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          100.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          100.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          100.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

OpenShift

Importante: quando espandi Apigee hybrid a un nuovo data center regionale, assicurati di installare la stessa versione di ibrido che hai nella di un data center. Evita di eseguire versioni diverse dell'ibrido in più data center.

Avviso:se l'installazione non riesce per una nuova regione, non continuare l'installazione della regione. Elimina e ricrea l'installazione ibrida nella regione che non è riuscita.

Configura l'host seed per più regioni

Questa sezione descrive come espandere il cluster Cassandra esistente a una nuova regione. Questa configurazione consente alla nuova regione di eseguire il bootstrap del cluster e di unire la regione esistente data center. Senza questa configurazione, i cluster Kubernetes multiregionali che non conoscerebbero.

1. Per la prima regione creata, recupera i pod nel tuo spazio dei nomi apigee:

   kubectl get pods -o wide -n apigee
   

2. Identifica l'indirizzo host di origine multiregionale per Cassandra in questa regione, ad esempio 10.0.0.11.

3. Prepara il file overrides.yaml per la seconda regione e aggiungi l'indirizzo IP dell'host di origine come segue:

   cassandra:
     multiRegionSeedHost: "SEED_HOST_IP_ADDRESS"
     datacenter: "DATACENTER_NAME"
     rack: "RACK_NAME"
     hostNetwork: false
     clusterName: CLUSTER_NAME
   

   Sostituisci quanto segue:

   • SEED_HOST_IP_ADDRESS con l'indirizzo IP dell'host originale, ad esempio 10.0.0.11.
   • DATACENTER_NAME con il nome del data center, ad esempio dc-2.
   • RACK_NAME con il nome del rack, ad esempio ra-1.
   • CLUSTER_NAME con il nome del tuo cluster Cassandra. Per impostazione predefinita, è apigeecluster. Se utilizzi un nome di cluster diverso, devi specificare un per cassandra.clusterName. Puoi scegliere liberamente il valore che preferisci, ma deve essere uguale in tutte le regioni.

Configura la seconda regione

Per configurare la nuova regione:

1. Installa cert-manager nella seconda regione.

2. Copia il tuo certificato dal cluster esistente a quello nuovo. La nuova radice dell'autorità di certificazione viene utilizzata da Cassandra e da altri componenti ibridi per mTLS. Pertanto, è essenziale disporre di certificati coerenti in tutto il cluster.

   1. Imposta il contesto sullo spazio dei nomi originale:

      kubectl config use-context ORIGINAL_CLUSTER_NAME
      

   2. Esporta la configurazione attuale dello spazio dei nomi in un file:

      kubectl get namespace apigee -o yaml > apigee-namespace.yaml
      

   3. Esporta il secret apigee-ca in un file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
      

   4. Imposta il contesto sul nome del cluster della nuova regione:

      kubectl config use-context NEW_CLUSTER_NAME
      

   5. Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiorna lo spazio dei nomi nel file se utilizzi un'interfaccia nella nuova regione:

      kubectl apply -f apigee-namespace.yaml
      

   6. Importa il secret nel nuovo cluster:

      kubectl -n cert-manager apply -f apigee-ca.yaml
      

3. Segui i passaggi per Installa i CRD ibridi di Apigee nella nuova regione.

4. Ora utilizza i grafici Helm per installare Apigee hybrid nella nuova regione con i seguenti comandi di grafico Helm (come per la regione 1):

   Nota: puoi usare gli stessi CRD per coerenza usando il nella stessa cartella in cui hai scaricato i grafici, puoi anche il tuo file di override univoco tra la regione 1 e la regione 2 assegnando il nome sostituisce qualcosa di univoco, ad esempio overrides-region_name.yaml e così via.
   Importante: ometti il flag ‑‑atomic per di cui è stata eseguita la migrazione.

   helm upgrade operator apigee-operator \
     --install \
     --create-namespace \
     --namespace apigee-system \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade datastore apigee-datastore \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade telemetry apigee-telemetry \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade redis apigee-redis \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade ingress-manager apigee-ingress-manager \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade ORG_NAME apigee-org \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   # repeat the below command for each env mentioned on the overrides
   helm upgrade ENV_NAME apigee-env/ \
     --install \
     --namespace apigee \
     --atomic \
     --set env=ENV_NAME \
     -f overrides-DATACENTER_NAME.yaml
   # repeat the below command for each env group mentioned on the overrides
   helm upgrade apigee-virtualhost-ENV_GROUP_NAME apigee-virtualhost/ \
     --install \
     --namespace apigee \
     --atomic \
     --set envgroup=ENV_GROUP_NAME \
     -f overrides-DATACENTER_NAME.yaml
   

5. Verifica la configurazione del cluster Cassandra eseguendo questo comando. L'output dovrebbe mostrare sia i data center esistenti che quelli nuovi.
   Avviso: se l'output di questo comando non mostra entrambi data center nuovi ed esistenti, la configurazione non è riuscita. In tal caso, non proseguire più avanti.

   Per risolvere il problema, l'installazione ibrida nella nuova regione deve essere eliminati e ricreati. Vedi Disinstallare il runtime ibrido. Se Se la configurazione non va a buon fine, non tentare di andare avanti né tentare di unirsi al cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
   -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Esempio di configurazione corretta:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-2
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

6. Configurare Cassandra su tutti i pod nei nuovi data center.
   1. Recupera apigeeorg dal cluster con il comando seguente:

      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Ad esempio:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      

   2. Crea un file di risorse personalizzate di replica dei dati Cassandra (YAML). La il file può avere qualsiasi nome. Negli esempi seguenti il file avrà il nome datareplication.yaml.

      Il file deve contenere quanto segue:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
      name: REGION_EXPANSION
      namespace: NAMESPACE
      spec:
      organizationRef: APIGEEORG_VALUE
      force: false
      source:
      region: SOURCE_REGION

      Dove:

      • REGION_EXPANSION è il nome che stai assegnando a questi metadati. Puoi puoi usare un nome qualsiasi.
      • NAMESPACE è lo stesso spazio dei nomi fornito in overrides.yaml. Solitamente, è "apigee".
      • APIGEEORG_VALUE è il valore di output dal kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" nel passaggio precedente. Ad esempio, rg-hybrid-b7d3b9c
      • SOURCE_REGION è la regione di origine, il valore del data center nella sezione Cassandra della regione di origine override.yaml

      Ad esempio:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
      name: region-expansion
      namespace: apigee
      spec:
      organizationRef: rg-hybrid-b7d3b9c
      force: false
      source:
      region: "dc-1"

   3. Applica CassandraDataReplication con il seguente comando:

      kubectl apply -f datareplication.yaml

7. Verifica lo stato della ricompilazione utilizzando il comando seguente.
   Nota: l'operazione di ristrutturazione può richiedere diverse ore a seconda della dimensione dei dati.

   kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

   I risultati dovrebbero essere simili ai seguenti:

   {
   "rebuildDetails": {
   "apigee-cassandra-default-0": {
   "state": "complete",
   "updated": 1623105760
   },
   "apigee-cassandra-default-1": {
   "state": "complete",
   "updated": 1623105765
   },
   "apigee-cassandra-default-2": {
   "state": "complete",
   "updated": 1623105770
   }
   },
   "state": "complete",
   "updated": 1623105770
   }

8. Una volta completata e verificata la replica dei dati, aggiorna gli host di origine:
   1. Rimuovi multiRegionSeedHost: 10.0.0.11 da overrides-DATACENTER_NAME.yaml.

   2. Riapplica la modifica per aggiornare la RP del datastore apigee:

      Importante: ometti il flag ‑‑atomic per di cui è stata eseguita la migrazione.

      helm upgrade datastore apigee-datastore/ \
        --install \
        --namespace apigee \
        --atomic \
        -f overrides-DATACENTER_NAME.yaml
      

9. Verifica i processi di ricreazione dai log. Verifica inoltre le dimensioni dei dati usando il comando nodetool status.
   Nota: se l'operazione di ricompilazione mostra lo stato completato e i log dei processi di ricreazione contengono "Tutte le sessioni completate" tutti i dati sono stati copiata correttamente nella nuova regione.

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Suggerimento: APIGEE_JMX_USER e APIGEE_JMX_PASSWORD sono generalmente definiti nelle variabili di ambiente $APIGEE_JMX_USER e $APIGEE_JMX_PASSWORD.

   L'esempio seguente mostra esempi di voci di log:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

Controlla lo stato del cluster Cassandra

Il seguente comando è utile per vedere se la configurazione del cluster ha esito positivo in due data center on-premise. Il comando verifica lo stato nodetool per le due regioni.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status


Datacenter: dc-1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          100.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          100.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          100.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

Risoluzione dei problemi

Vedi Errore di replica dei dati Cassandra.