Questo argomento descrive un deployment in più regioni per Apigee hybrid su GKE, Anthos GKE di cui è stato eseguito il deployment on-prem, Microsoft® Azure Kubernetes Service (AKS), Amazon Elastic Kubernetes Service (EKS) e su RedHat OpenShift. Seleziona la tua piattaforma nei prerequisiti e nelle procedure.
Le topologie per il deployment in più regioni includono quanto segue:
- Attivo-Attivo: se hai eseguito il deployment delle applicazioni in più località geografiche e hai bisogno di una risposta dell'API a bassa latenza per i tuoi deployment. Puoi eseguire il deployment di un modello ibrido in più località geografiche più vicine ai tuoi clienti. Ad esempio: costa occidentale degli Stati Uniti, costa orientale degli Stati Uniti, Europa, APAC.
- Attivo-passivo: se hai una regione principale e una regione di failover o di ripristino di emergenza.
Le regioni in un deployment ibrido multiregionale comunicano tramite Cassandra, come mostra l'immagine seguente:
Prerequisiti
Prima di configurare un ibrido per più regioni, devi completare i seguenti prerequisiti:
GKE
- Quando installi deployment Apigee multiregionali tra reti diverse (ad esempio, provider cloud diversi, reti VPC diverse, cloud e on-prem e così via), devi fornire connettività interna tra queste reti separate che Cassandra può utilizzare per comunicare tra i nodi. Questo può essere fatto con VPN o soluzioni di connettività specifiche per il cloud.
- Se utilizzi Workload Identity in un cluster per autenticare gli account di servizio, ti consigliamo vivamente di utilizzare Workload Identity per ogni cluster in cui espandi. Consulta Attivazione di Workload Identity con Apigee hybrid.
- Configurare cluster Kubernetes in più regioni con blocchi CIDR diversi
- Assicurati che cert-manager sia installato in ogni cluster
- Configura la comunicazione tra regioni
- Assicurati che tutti i pod Cassandra siano in grado di risolvere i propri nomi host. Se hostNetwork è impostato su false, il nome host è il nome del pod Cassandra. Se hostNetwork è impostato su true, il nome host è quello del nodo Kubernetes che esegue il pod Cassandra.
- Requisiti di Cassandra per più regioni:
- Assicurati che lo spazio dei nomi della rete dei pod disponga di connettività tra le regioni, inclusi firewall, VPN, peering VPC e peering vNet. Questo è il caso della maggior parte delle installazioni GKE.
- Se lo spazio dei nomi della rete di pod non dispone di connettività tra i cluster (i cluster sono in esecuzione in "modalità di rete dell'isola"), abilita la funzionalità
hostNetwork
di Kubernetes impostandocassandra.hostNetwork: true
nel file degli override per tutte le regioni nell'installazione ibrida di Apigee in più regioni.Per maggiori informazioni sulla necessità di
hostNetwork
, consulta Cluster in modalità Island e hostNetwork di seguito. - Abilita
hostNetwork
sui cluster esistenti prima di espandere la configurazione multiregionale a nuove regioni. - Quando
hostNetwork
è abilitato, assicurati che i nodi worker possano eseguire una ricerca DNS anticipata dei loro nomi host. Apigee Cassandra utilizza la ricerca DNS diretta per ottenere l'IP host all'avvio. - Apri la porta TCP 7001 tra i cluster Kubernetes in tutte le regioni per consentire ai nodi worker in regioni e data center di comunicare. Per informazioni sui numeri di porte di Cassandra, consulta Configurare le porte.
Per informazioni dettagliate, consulta la documentazione di Kubernetes.
GKE On-Prem
- Quando installi deployment Apigee multiregionali tra reti diverse (ad esempio, provider cloud diversi, reti VPC diverse, cloud e on-prem e così via), devi fornire connettività interna tra queste reti separate che Cassandra può utilizzare per comunicare tra i nodi. Questo può essere fatto con VPN o soluzioni di connettività specifiche per il cloud.
- Configurare cluster Kubernetes in più regioni con blocchi CIDR diversi
- Assicurati che cert-manager sia installato in ogni cluster
- Configura la comunicazione tra regioni
- Assicurati che tutti i pod Cassandra siano in grado di risolvere i propri nomi host. Se hostNetwork è impostato su false, il nome host è il nome del pod Cassandra. Se hostNetwork è impostato su true, il nome host è quello del nodo Kubernetes che esegue il pod Cassandra.
- Requisiti di Cassandra per più regioni:
- Se lo spazio dei nomi della rete di pod non ha connettività tra i cluster (i cluster sono in esecuzione in "modalità Island Network", nel caso predefinito nelle installazioni GKE On-Prem), abilita la funzionalità
hostNetwork
di Kubernetes impostandocassandra.hostNetwork: true
nel file degli override per tutte le regioni nell'installazione ibrida di Apigee in più regioni.Per maggiori informazioni sulla necessità di
hostNetwork
, consulta Cluster in modalità Island e hostNetwork di seguito. - Abilita
hostNetwork
sui cluster esistenti prima di espandere la configurazione multiregionale a nuove regioni. - Quando
hostNetwork
è abilitato, assicurati che i nodi worker possano eseguire una ricerca DNS anticipata dei loro nomi host. Apigee Cassandra utilizza la ricerca DNS diretta per ottenere l'IP host all'avvio. - Apri le porte Cassandra tra i cluster Kubernetes in tutte le regioni per consentire ai nodi worker tra regioni e data center di comunicare. Consulta Configura le porte per i numeri di porte di Cassandra.
- Se lo spazio dei nomi della rete di pod non ha connettività tra i cluster (i cluster sono in esecuzione in "modalità Island Network", nel caso predefinito nelle installazioni GKE On-Prem), abilita la funzionalità
Per informazioni dettagliate, consulta la documentazione di Kubernetes.
AKS
- Quando installi deployment Apigee multiregionali tra reti diverse (ad esempio, provider cloud diversi, reti VPC diverse, cloud e on-prem e così via), devi fornire connettività interna tra queste reti separate che Cassandra può utilizzare per comunicare tra i nodi. Questo può essere fatto con VPN o soluzioni di connettività specifiche per il cloud.
- Segui la guida all'installazione ibrida per eventuali prerequisiti come Google Cloud e la configurazione dell'organizzazione prima di passare alla procedura di configurazione del cluster.
- Assicurati che cert-manager sia installato in ogni cluster
- Assicurati che tutti i pod Cassandra siano in grado di risolvere i propri nomi host. Se hostNetwork è impostato su false, il nome host è il nome del pod Cassandra. Se hostNetwork è impostato su true, il nome host è quello del nodo Kubernetes che esegue il pod Cassandra.
- Requisiti di Cassandra per più regioni:
- Se lo spazio dei nomi della rete di pod non ha connettività tra i cluster (i cluster
sono in esecuzione in "modalità di rete dell'isola", nel caso predefinito nelle installazioni AKS), abilita
la funzionalità
hostNetwork
di Kubernetes impostandocassandra.hostNetwork: true
nel file degli override per tutte le regioni nella tua installazione ibrida di Apigee.Per maggiori informazioni sulla necessità di
hostNetwork
, consulta Cluster in modalità Island e hostNetwork di seguito. - Abilita
hostNetwork
sui cluster esistenti prima di espandere la configurazione multiregionale a nuove regioni. - Quando
hostNetwork
è abilitato, assicurati che i nodi worker possano eseguire una ricerca DNS anticipata dei loro nomi host. Apigee Cassandra utilizza la ricerca DNS diretta per ottenere l'IP host all'avvio. - Apri le porte Cassandra tra i cluster Kubernetes in tutte le regioni per consentire ai nodi worker tra regioni e data center di comunicare. Consulta Configura le porte per i numeri di porte di Cassandra.
- Se lo spazio dei nomi della rete di pod non ha connettività tra i cluster (i cluster
sono in esecuzione in "modalità di rete dell'isola", nel caso predefinito nelle installazioni AKS), abilita
la funzionalità
Per informazioni dettagliate, consulta la documentazione di Kubernetes.
EKS
- Quando installi deployment Apigee multiregionali tra reti diverse (ad esempio, provider cloud diversi, reti VPC diverse, cloud e on-prem e così via), devi fornire connettività interna tra queste reti separate che Cassandra può utilizzare per comunicare tra i nodi. Questo può essere fatto con VPN o soluzioni di connettività specifiche per il cloud.
- Segui la guida all'installazione ibrida per eventuali prerequisiti come Google Cloud e la configurazione dell'organizzazione prima di passare alla procedura di configurazione del cluster.
- Assicurati che cert-manager sia installato in ogni cluster
- Assicurati che tutti i pod Cassandra siano in grado di risolvere i propri nomi host. Se hostNetwork è impostato su false, il nome host è il nome del pod Cassandra. Se hostNetwork è impostato su true, il nome host è quello del nodo Kubernetes che esegue il pod Cassandra.
- Requisiti di Cassandra per più regioni:
- Se lo spazio dei nomi della rete dei pod non dispone di connettività tra i cluster (i cluster sono in esecuzione in "modalità di rete dell'isola"), abilita la funzionalità
hostNetwork
di Kubernetes impostandocassandra.hostNetwork: true
nel file degli override per tutte le regioni nell'installazione multiregionale di Apigee. Amazon EKS utilizza il modello di rete completamente integrato per impostazione predefinita.Per maggiori informazioni sulla necessità di
hostNetwork
, consulta Cluster in modalità Island e hostNetwork di seguito. - Abilita
hostNetwork
sui cluster esistenti prima di espandere la configurazione multiregionale a nuove regioni. - Quando
hostNetwork
è abilitato, assicurati che i nodi worker possano eseguire una ricerca DNS anticipata dei loro nomi host. Apigee Cassandra utilizza la ricerca DNS diretta per ottenere l'IP host all'avvio. - Apri le porte Cassandra tra i cluster Kubernetes in tutte le regioni per consentire ai nodi worker tra regioni e data center di comunicare. Consulta Configura le porte per i numeri di porte di Cassandra.
- Se lo spazio dei nomi della rete dei pod non dispone di connettività tra i cluster (i cluster sono in esecuzione in "modalità di rete dell'isola"), abilita la funzionalità
Per informazioni dettagliate, consulta la documentazione di Kubernetes.
OpenShift
- Quando installi deployment Apigee multiregionali tra reti diverse (ad esempio, provider cloud diversi, reti VPC diverse, cloud e on-prem e così via), devi fornire connettività interna tra queste reti separate che Cassandra può utilizzare per comunicare tra i nodi. Questo può essere fatto con VPN o soluzioni di connettività specifiche per il cloud.
- Segui la guida all'installazione ibrida per eventuali prerequisiti come Google Cloud e la configurazione dell'organizzazione prima di passare alla procedura di configurazione del cluster.
- Assicurati che cert-manager sia installato in ogni cluster
- Assicurati che tutti i pod Cassandra siano in grado di risolvere i propri nomi host. Se hostNetwork è impostato su false, il nome host è il nome del pod Cassandra. Se hostNetwork è impostato su true, il nome host è quello del nodo Kubernetes che esegue il pod Cassandra.
- Requisiti di Cassandra per più regioni:
- Se lo spazio dei nomi della rete di pod non ha connettività tra i cluster (i cluster sono in esecuzione in "modalità di rete delle isole", come caso predefinito nelle installazioni OpenShift), abilita la funzionalità
hostNetwork
di Kubernetes impostandocassandra.hostNetwork: true
nel file degli override per tutte le regioni nell'installazione ibrida di Apigee in più regioni.Per maggiori informazioni sulla necessità di
hostNetwork
, consulta Cluster in modalità Island e hostNetwork di seguito. - Abilita
hostNetwork
sui cluster esistenti prima di espandere la configurazione multiregionale a nuove regioni. - Quando
hostNetwork
è abilitato, assicurati che i nodi worker possano eseguire una ricerca DNS anticipata dei loro nomi host. Apigee Cassandra utilizza la ricerca DNS diretta per ottenere l'IP host all'avvio. - Apri le porte Cassandra tra i cluster Kubernetes in tutte le regioni per consentire ai nodi worker tra regioni e data center di comunicare. Consulta Configura le porte per i numeri di porte di Cassandra.
- Se lo spazio dei nomi della rete di pod non ha connettività tra i cluster (i cluster sono in esecuzione in "modalità di rete delle isole", come caso predefinito nelle installazioni OpenShift), abilita la funzionalità
Per informazioni dettagliate, consulta la documentazione di Kubernetes.
Cluster in modalità isola e hostNetwork
Esistono due modelli di rete principali per i cluster Kubernetes: completamente integrato (o flat) e in modalità a isola. Apigee consiglia di utilizzare il modello di rete piatta ove possibile, poiché semplifica la connettività Cassandra tra più regioni. Quando un cluster Kubernetes viene configurato in modalità a isola, la rete dei pod è isolata. I pod non possono comunicare direttamente con i pod in esecuzione in altri cluster utilizzando l'indirizzo IP del pod. Consulta Implementazioni tipiche di modelli di rete per ulteriori informazioni sulle differenze tra questi due modelli di rete ed esempi di ognuno.
Quando Apigee Hybrid è in esecuzione su due o più cluster Kubernetes utilizzando un modello di networking
in modalità a isola, è necessario abilitare l'impostazione hostNetwork
per Cassandra tramite la
proprietà cassandra.hostNetwork. Per impostazione predefinita, i pod Kubernetes sono isolati in singoli spazi dei nomi di rete che impediscono loro di utilizzare l'IP del nodo worker di Kubernetes. Se hostNetwork
è impostato su
true
, il pod non è isolato all'interno del proprio spazio dei nomi di rete, ma utilizza
l'indirizzo IP e il nome host del nodo worker Kubernetes su cui è pianificato il pod. Ciò consente a Cassandra di utilizzare in modo nativo l'IP del nodo worker di Kubernetes come IP, fornendo un mezzo a Cassandra per stabilire un mesh completo tra tutti i pod di Cassandra in più cluster in esecuzione in modalità a isola.
Risoluzione del nome host Cassandra
Sebbene un pod Cassandra non risolva altri pod Cassandra in base al nome host, all'avvio Cassandra
controlla che il proprio nome host sia risolvibile tramite DNS. Poiché il nome host del pod è uguale al nome host del nodo worker Kubernetes quando hostNetwork
è impostato su true, il nome host del nodo worker deve essere risolvibile su un indirizzo IP tramite il servizio DNS del cluster. Se il nome host del nodo worker di Kubernetes non è risolvibile, il pod Cassandra non si avvia completamente. Di conseguenza,
è importante che i nomi host dei nodi worker di Kubernetes siano risolvibili dai pod nel cluster
quando imposti hostNetwork
su true
.
Configura Apigee hybrid per più regioni
Questa sezione descrive come configurare Apigee hybrid per più regioni.
GKE
Configura l'host seed per più regioni
Questa sezione descrive come espandere il cluster Cassandra esistente a una nuova regione. Questa configurazione consente alla nuova regione di eseguire il bootstrap del cluster e di unire il data center esistente. Senza questa configurazione, i cluster Kubernetes multiregionali non conoscerebbero gli altri.
Segui le procedure per lo strumento che stai utilizzando per gestire e installare Apigee hybrid:
Grafici Helm
-
Per la prima regione creata, recupera i pod nel tuo spazio dei nomi apigee:
kubectl get pods -o wide -n apigee
- Identifica l'indirizzo host di origine multiregionale per Cassandra in questa regione, ad esempio
10.0.0.11
. -
Prepara il file
overrides.yaml
per la seconda regione e aggiungi l'indirizzo IP dell'host di origine come segue:cassandra: multiRegionSeedHost: "SEED_HOST_IP_ADDRESS" datacenter: "DATACENTER_NAME" rack: "RACK_NAME" hostNetwork: false clusterName: CLUSTER_NAME
Sostituisci quanto segue:
- SEED_HOST_IP_ADDRESS con l'indirizzo IP dell'host originale, ad esempio
10.0.0.11
. - DATACENTER_NAME con il nome del data center, ad esempio
dc-2
. - RACK_NAME con il nome del rack, ad esempio
ra-1
. - CLUSTER_NAME con il nome del tuo cluster Cassandra. Per impostazione predefinita, il valore è
apigeecluster
. Se utilizzi un nome cluster diverso, devi specificare un valore per cassandra.clusterName. Puoi scegliere liberamente il valore che preferisci, ma deve essere uguale in tutte le regioni.
- SEED_HOST_IP_ADDRESS con l'indirizzo IP dell'host originale, ad esempio
Configura la seconda regione
Per configurare la nuova regione:
-
Installa
cert-manager
nella regione 2:kubectl apply -f https://github.com/cert-manager/cert-manager/releases/download/v1.11.1/cert-manager.yaml
- Copia il tuo certificato dal cluster esistente a quello nuovo.
La nuova radice dell'autorità di certificazione viene utilizzata da Cassandra e da altri componenti ibridi per mTLS.
Pertanto, è essenziale disporre di certificati coerenti in tutto il cluster.
-
Imposta il contesto sullo spazio dei nomi originale:
kubectl config use-context ORIGINAL_CLUSTER_NAME
-
Esporta la configurazione attuale dello spazio dei nomi in un file:
kubectl get namespace apigee -o yaml > apigee-namespace.yaml
-
Esporta il secret
apigee-ca
in un file:kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
-
Imposta il contesto sul nome del cluster della nuova regione:
kubectl config use-context NEW_CLUSTER_NAME
-
Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare lo spazio dei nomi nel file se utilizzi uno spazio dei nomi diverso nella nuova regione:
kubectl apply -f apigee-namespace.yaml
-
Importa il secret nel nuovo cluster:
kubectl -n cert-manager apply -f apigee-ca.yaml
-
-
Segui i passaggi per installare i CRD ibridi Apigee nella nuova regione.
-
Ora utilizza i grafici Helm per installare Apigee hybrid nella nuova regione con i seguenti comandi di grafico Helm (come per la regione 1):
helm upgrade operator apigee-operator \ --install \ --create-namespace \ --namespace apigee-system \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade datastore apigee-datastore \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade telemetry apigee-telemetry \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade redis apigee-redis \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade ingress-manager apigee-ingress-manager \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade ORG_NAME apigee-org \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
# repeat the below command for each env mentioned on the overrideshelm upgrade ENV_NAME apigee-env/ \ --install \ --namespace apigee \ --atomic \ --set env=ENV_NAME \ -f overrides-DATACENTER_NAME.yaml
# repeat the below command for each env group mentioned on the overrideshelm upgrade apigee-virtualhost-ENV_GROUP_NAME apigee-virtualhost/ \ --install \ --namespace apigee \ --atomic \ --set envgroup=ENV_GROUP_NAME \ -f overrides-DATACENTER_NAME.yaml
- Verifica la configurazione del cluster Cassandra eseguendo questo comando. L'output dovrebbe mostrare sia i data center esistenti sia quelli nuovi.
kubectl exec apigee-cassandra-default-0 -n apigee \ -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
Esempio di configurazione corretta:
Datacenter: dc-1 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.87.93 68.07 GiB 256 ? fb51465c-167a-42f7-98c9-b6eba1de34de c UN 10.132.84.94 69.9 GiB 256 ? f621a5ac-e7ee-48a9-9a14-73d69477c642 b UN 10.132.84.105 76.95 GiB 256 ? 0561086f-e95b-4232-ba6c-ad519ff30336 d Datacenter: dc-2 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.0.8 71.61 GiB 256 ? 8894a98b-8406-45de-99e2-f404ab10b5d6 c UN 10.132.9.204 75.1 GiB 256 ? afa0ffa3-630b-4f1e-b46f-fc3df988092e a UN 10.132.3.133 68.08 GiB 256 ? 25ae39ab-b39e-4d4f-9cb7-de095ab873db b
- Configurare Cassandra su tutti i pod nei nuovi data center.
- Ottieni
apigeeorg
dal cluster con il seguente comando:kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
Ad esempio:
Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" "rg-hybrid-b7d3b9c"
- Crea un file di risorse personalizzate di replica dei dati Cassandra (
YAML
). Il file può avere qualsiasi nome. Negli esempi seguenti il file avrà il nomedatareplication.yaml
.Il file deve contenere quanto segue:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: REGION_EXPANSION namespace: NAMESPACE spec: organizationRef: APIGEEORG_VALUE force: false source: region: SOURCE_REGION
Dove:
- REGION_EXPANSION è il nome che stai assegnando a questi metadati. Puoi utilizzare qualsiasi nome.
- NAMESPACE è lo stesso spazio dei nomi fornito in
overrides.yaml
. Solitamente, è "apigee
". - APIGEEORG_VALUE è il valore restituito dal comando
kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
nel passaggio precedente. Ad esempio,rg-hybrid-b7d3b9c
- SOURCE_REGION è la regione di origine, il valore del data center nella sezione Cassandra della regione di origine override.yaml
Ad esempio:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: region-expansion namespace: apigee spec: organizationRef: rg-hybrid-b7d3b9c force: false source: region: "dc-1"
- Applica
CassandraDataReplication
con il seguente comando:kubectl apply -f datareplication.yaml
- Ottieni
- Verifica lo stato della ricompilazione utilizzando il comando seguente.
kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"
I risultati dovrebbero essere simili ai seguenti:
{ "rebuildDetails": { "apigee-cassandra-default-0": { "state": "complete", "updated": 1623105760 }, "apigee-cassandra-default-1": { "state": "complete", "updated": 1623105765 }, "apigee-cassandra-default-2": { "state": "complete", "updated": 1623105770 } }, "state": "complete", "updated": 1623105770 }
- Una volta completata e verificata la replica dei dati, aggiorna gli host di origine:
-
Rimuovi
multiRegionSeedHost: 10.0.0.11
daoverrides-DATACENTER_NAME.yaml
. -
Riapplica la modifica per aggiornare la RP del datastore apigee:
helm upgrade datastore apigee-datastore/ \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
-
Rimuovi
- Verifica i processi di ricreazione dai log. Verifica inoltre le dimensioni dei dati
con il comando
nodetool status
.kubectl logs apigee-cassandra-default-0 -f -n apigee
kubectl exec apigee-cassandra-default-0 -n apigee -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
L'esempio seguente mostra esempi di voci di log:
INFO 01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens) INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB) INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
apigeectl
- Imposta il contesto kubectl sul cluster originale prima di recuperare il nome seed:
kubectl config use-context original-cluster-name
Esegui questo comando
kubectl
per identificare un indirizzo host di origine per Cassandra nella regione attuale.Un indirizzo host di origine consente a una nuova istanza a livello di regione di trovare il cluster originale al primo avvio in modo da apprendere la topologia del cluster. L'indirizzo host di origine è designato come punto di contatto nel cluster.
kubectl get pods -o wide -n apigee -l app=apigee-cassandra --field-selector status.phase=Running
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE apigee-cassandra-default-0 1/1 Running 0 5d 10.0.0.11 gke-k8s-dc-2-default-pool-a2206492-p55d apigee-cassandra-default-1 1/1 Running 0 5d 10.0.2.4 gke-k8s-dc-2-default-pool-e9daaab3-tjmz apigee-cassandra-default-2 1/1 Running 0 5d 10.0.3.5 gke-k8s-dc-2-default-pool-e589awq3-kjch
- Decidi quale IP restituito dal comando precedente sarà l'host seed multiregionale.
- Nel data center 2, configura
cassandra.multiRegionSeedHost
ecassandra.datacenter
in Gestisci i componenti del piano di runtime, dovemultiRegionSeedHost
è uno degli IP restituiti dal comando precedente:cassandra: multiRegionSeedHost: seed_host_IP datacenter: data_center_name rack: rack_name hostNetwork: false clusterName: cluster_name # must be the same for all regions
Ad esempio:
cassandra: multiRegionSeedHost: 10.0.0.11 datacenter: "dc-2" rack: "ra-1" hostNetwork: false clusterName: my-apigee-cluster
- Nel nuovo data center/nella nuova regione, prima di installare la versione ibrida, imposta in
overrides.yaml
gli stessi certificati TLS e credenziali che hai impostato nella prima regione.
Configura la nuova regione
Dopo aver configurato l'host di origine, puoi configurare la nuova regione.
Per configurare la nuova regione:
- Copia il tuo certificato dal cluster esistente a quello nuovo. La nuova radice CA viene utilizzata da Cassandra e da altri componenti ibridi per mTLS. Di conseguenza, è essenziale disporre di certificati coerenti in tutto il cluster.
- Imposta il contesto sullo spazio dei nomi originale:
kubectl config use-context original-cluster-name
- Esporta la configurazione attuale dello spazio dei nomi in un file:
kubectl get namespace namespace -o yaml > apigee-namespace.yaml
- Esporta il secret di
apigee-ca
in un file:kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
- Imposta il contesto sul nome del cluster della nuova regione:
kubectl config use-context new-cluster-name
- Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare lo "spazio dei nomi" nel file se utilizzi uno spazio dei nomi diverso nella nuova regione:
kubectl apply -f apigee-namespace.yaml
Importa il secret nel nuovo cluster:
kubectl -n cert-manager apply -f apigee-ca.yaml
- Imposta il contesto sullo spazio dei nomi originale:
- Installa il modello ibrido nella nuova regione. Assicurati che il file
overrides-DC_name.yaml
includa gli stessi certificati TLS configurati nella prima regione, come spiegato nella sezione precedente.Esegui questi due comandi per installare il modello ibrido nella nuova regione:
apigeectl init -f overrides/overrides-DC_name.yaml
apigeectl apply -f overrides/overrides-DC_name.yaml
- Verifica che l'installazione ibrida sia riuscita eseguendo questo comando:
apigeectl check-ready -f overrides_DC_name.yaml
- Verifica la configurazione del cluster Cassandra eseguendo questo comando. L'output dovrebbe mostrare sia i data center esistenti sia quelli nuovi.
kubectl exec apigee-cassandra-default-0 -n apigee \ -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
Esempio di configurazione corretta:
Datacenter: dc-1 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.87.93 68.07 GiB 256 ? fb51465c-167a-42f7-98c9-b6eba1de34de c UN 10.132.84.94 69.9 GiB 256 ? f621a5ac-e7ee-48a9-9a14-73d69477c642 b UN 10.132.84.105 76.95 GiB 256 ? 0561086f-e95b-4232-ba6c-ad519ff30336 d Datacenter: dc-2 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.0.8 71.61 GiB 256 ? 8894a98b-8406-45de-99e2-f404ab10b5d6 c UN 10.132.9.204 75.1 GiB 256 ? afa0ffa3-630b-4f1e-b46f-fc3df988092e a UN 10.132.3.133 68.08 GiB 256 ? 25ae39ab-b39e-4d4f-9cb7-de095ab873db b
- Configurare Cassandra su tutti i pod nei nuovi data center.
- Ottieni
apigeeorg
dal cluster con il seguente comando:kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
Ad esempio:
Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" "rg-hybrid-b7d3b9c"
- Crea un file di risorse personalizzate di replica dei dati Cassandra (
YAML
). Il file può avere qualsiasi nome. Negli esempi seguenti il file avrà il nomedatareplication.yaml
.Il file deve contenere quanto segue:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: REGION_EXPANSION namespace: NAMESPACE spec: organizationRef: APIGEEORG_VALUE force: false source: region: SOURCE_REGION
Dove:
- REGION_EXPANSION è il nome che stai assegnando a questi metadati. Puoi utilizzare qualsiasi nome.
- NAMESPACE è lo stesso spazio dei nomi fornito in
overrides.yaml
. Solitamente, è "apigee
". - APIGEEORG_VALUE è il valore restituito dal comando
kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
nel passaggio precedente. Ad esempio,rg-hybrid-b7d3b9c
- SOURCE_REGION è la regione di origine, il valore del data center nella sezione Cassandra della regione di origine override.yaml
Ad esempio:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: region-expansion namespace: apigee spec: organizationRef: rg-hybrid-b7d3b9c force: false source: region: "dc-1"
- Applica
CassandraDataReplication
con il seguente comando:kubectl apply -f datareplication.yaml
- Verifica lo stato della ricompilazione utilizzando il comando seguente.
kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"
I risultati dovrebbero essere simili ai seguenti:
{ "rebuildDetails": { "apigee-cassandra-default-0": { "state": "complete", "updated": 1623105760 }, "apigee-cassandra-default-1": { "state": "complete", "updated": 1623105765 }, "apigee-cassandra-default-2": { "state": "complete", "updated": 1623105770 } }, "state": "complete", "updated": 1623105770 }
- Ottieni
- Verifica i processi di ricreazione dai log. Verifica inoltre le dimensioni dei dati
con il comando
nodetool status
.kubectl logs apigee-cassandra-default-0 -f -n apigee
kubectl exec apigee-cassandra-default-0 -n apigee -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
L'esempio seguente mostra esempi di voci di log:
INFO 01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens) INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB) INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
- Aggiorna gli host di origine. Rimuovi
multiRegionSeedHost: 10.0.0.11
daoverrides-DC_name.yaml
e applica di nuovo la richiesta.apigeectl apply -f overrides/overrides-DC_name.yaml
Controlla lo stato del cluster Cassandra
Il comando seguente è utile per verificare se la configurazione del cluster è riuscita in due data center. Il comando verifica lo stato nodetool per le due regioni.
kubectl exec apigee-cassandra-default-0 -n apigee -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status Datacenter: dc-1 ======================= Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns (effective) Host ID Rack UN 10.12.1.45 112.09 KiB 256 100.0% 3c98c816-3f4d-48f0-9717-03d0c998637f ra-1 UN 10.12.4.36 95.27 KiB 256 100.0% 0a36383d-1d9e-41e2-924c-7b62be12d6cc ra-1 UN 10.12.5.22 88.7 KiB 256 100.0% 3561f4fa-af3d-4ea4-93b2-79ac7e938201 ra-1 Datacenter: us-west1 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns (effective) Host ID Rack UN 10.0.4.33 78.69 KiB 256 100.0% a200217d-260b-45cd-b83c-182b27ff4c99 ra-1 UN 10.0.0.21 78.68 KiB 256 100.0% 9f3364b9-a7a1-409c-9356-b7d1d312e52b ra-1 UN 10.0.1.26 15.46 KiB 256 100.0% 1666df0f-702e-4c5b-8b6e-086d0f2e47fa ra-1
GKE On-Prem
Configura l'host seed per più regioni
Questa sezione descrive come espandere il cluster Cassandra esistente a una nuova regione. Questa configurazione consente alla nuova regione di eseguire il bootstrap del cluster e di unire il data center esistente. Senza questa configurazione, i cluster Kubernetes multiregionali non conoscerebbero gli altri.
Segui le procedure per lo strumento che stai utilizzando per gestire e installare Apigee hybrid:
Grafici Helm
-
Per la prima regione creata, recupera i pod nel tuo spazio dei nomi apigee:
kubectl get pods -o wide -n apigee
- Identifica l'indirizzo host di origine multiregionale per Cassandra in questa regione, ad esempio
10.0.0.11
. -
Prepara il file
overrides.yaml
per la seconda regione e aggiungi l'indirizzo IP dell'host di origine come segue:cassandra: multiRegionSeedHost: "SEED_HOST_IP_ADDRESS" datacenter: "DATACENTER_NAME" rack: "RACK_NAME" hostNetwork: false clusterName: CLUSTER_NAME
Sostituisci quanto segue:
- SEED_HOST_IP_ADDRESS con l'indirizzo IP dell'host originale, ad esempio
10.0.0.11
. - DATACENTER_NAME con il nome del data center, ad esempio
dc-2
. - RACK_NAME con il nome del rack, ad esempio
ra-1
. - CLUSTER_NAME con il nome del tuo cluster Cassandra. Per impostazione predefinita, il valore è
apigeecluster
. Se utilizzi un nome cluster diverso, devi specificare un valore per cassandra.clusterName. Puoi scegliere liberamente il valore che preferisci, ma deve essere uguale in tutte le regioni.
- SEED_HOST_IP_ADDRESS con l'indirizzo IP dell'host originale, ad esempio
Configura la seconda regione
Per configurare la nuova regione:
-
Installa
cert-manager
nella regione 2:kubectl apply -f https://github.com/cert-manager/cert-manager/releases/download/v1.11.1/cert-manager.yaml
- Copia il tuo certificato dal cluster esistente a quello nuovo.
La nuova radice dell'autorità di certificazione viene utilizzata da Cassandra e da altri componenti ibridi per mTLS.
Pertanto, è essenziale disporre di certificati coerenti in tutto il cluster.
-
Imposta il contesto sullo spazio dei nomi originale:
kubectl config use-context ORIGINAL_CLUSTER_NAME
-
Esporta la configurazione attuale dello spazio dei nomi in un file:
kubectl get namespace apigee -o yaml > apigee-namespace.yaml
-
Esporta il secret
apigee-ca
in un file:kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
-
Imposta il contesto sul nome del cluster della nuova regione:
kubectl config use-context NEW_CLUSTER_NAME
-
Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare lo spazio dei nomi nel file se utilizzi uno spazio dei nomi diverso nella nuova regione:
kubectl apply -f apigee-namespace.yaml
-
Importa il secret nel nuovo cluster:
kubectl -n cert-manager apply -f apigee-ca.yaml
-
-
Segui i passaggi per installare i CRD ibridi Apigee nella nuova regione.
-
Ora utilizza i grafici Helm per installare Apigee hybrid nella nuova regione con i seguenti comandi di grafico Helm (come per la regione 1):
helm upgrade operator apigee-operator \ --install \ --create-namespace \ --namespace apigee-system \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade datastore apigee-datastore \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade telemetry apigee-telemetry \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade redis apigee-redis \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade ingress-manager apigee-ingress-manager \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade ORG_NAME apigee-org \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
# repeat the below command for each env mentioned on the overrideshelm upgrade ENV_NAME apigee-env/ \ --install \ --namespace apigee \ --atomic \ --set env=ENV_NAME \ -f overrides-DATACENTER_NAME.yaml
# repeat the below command for each env group mentioned on the overrideshelm upgrade apigee-virtualhost-ENV_GROUP_NAME apigee-virtualhost/ \ --install \ --namespace apigee \ --atomic \ --set envgroup=ENV_GROUP_NAME \ -f overrides-DATACENTER_NAME.yaml
- Verifica la configurazione del cluster Cassandra eseguendo questo comando. L'output dovrebbe mostrare sia i data center esistenti sia quelli nuovi.
kubectl exec apigee-cassandra-default-0 -n apigee \ -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
Esempio di configurazione corretta:
Datacenter: dc-1 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.87.93 68.07 GiB 256 ? fb51465c-167a-42f7-98c9-b6eba1de34de c UN 10.132.84.94 69.9 GiB 256 ? f621a5ac-e7ee-48a9-9a14-73d69477c642 b UN 10.132.84.105 76.95 GiB 256 ? 0561086f-e95b-4232-ba6c-ad519ff30336 d Datacenter: dc-2 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.0.8 71.61 GiB 256 ? 8894a98b-8406-45de-99e2-f404ab10b5d6 c UN 10.132.9.204 75.1 GiB 256 ? afa0ffa3-630b-4f1e-b46f-fc3df988092e a UN 10.132.3.133 68.08 GiB 256 ? 25ae39ab-b39e-4d4f-9cb7-de095ab873db b
- Configurare Cassandra su tutti i pod nei nuovi data center.
- Ottieni
apigeeorg
dal cluster con il seguente comando:kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
Ad esempio:
Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" "rg-hybrid-b7d3b9c"
- Crea un file di risorse personalizzate di replica dei dati Cassandra (
YAML
). Il file può avere qualsiasi nome. Negli esempi seguenti il file avrà il nomedatareplication.yaml
.Il file deve contenere quanto segue:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: REGION_EXPANSION namespace: NAMESPACE spec: organizationRef: APIGEEORG_VALUE force: false source: region: SOURCE_REGION
Dove:
- REGION_EXPANSION è il nome che stai assegnando a questi metadati. Puoi utilizzare qualsiasi nome.
- NAMESPACE è lo stesso spazio dei nomi fornito in
overrides.yaml
. Solitamente, è "apigee
". - APIGEEORG_VALUE è il valore restituito dal comando
kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
nel passaggio precedente. Ad esempio,rg-hybrid-b7d3b9c
- SOURCE_REGION è la regione di origine, il valore del data center nella sezione Cassandra della regione di origine override.yaml
Ad esempio:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: region-expansion namespace: apigee spec: organizationRef: rg-hybrid-b7d3b9c force: false source: region: "dc-1"
- Applica
CassandraDataReplication
con il seguente comando:kubectl apply -f datareplication.yaml
- Ottieni
- Verifica lo stato della ricompilazione utilizzando il comando seguente.
kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"
I risultati dovrebbero essere simili ai seguenti:
{ "rebuildDetails": { "apigee-cassandra-default-0": { "state": "complete", "updated": 1623105760 }, "apigee-cassandra-default-1": { "state": "complete", "updated": 1623105765 }, "apigee-cassandra-default-2": { "state": "complete", "updated": 1623105770 } }, "state": "complete", "updated": 1623105770 }
- Una volta completata e verificata la replica dei dati, aggiorna gli host di origine:
-
Rimuovi
multiRegionSeedHost: 10.0.0.11
daoverrides-DATACENTER_NAME.yaml
. -
Riapplica la modifica per aggiornare la RP del datastore apigee:
helm upgrade datastore apigee-datastore/ \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
-
Rimuovi
- Verifica i processi di ricreazione dai log. Verifica inoltre le dimensioni dei dati
con il comando
nodetool status
.kubectl logs apigee-cassandra-default-0 -f -n apigee
kubectl exec apigee-cassandra-default-0 -n apigee -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
L'esempio seguente mostra esempi di voci di log:
INFO 01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens) INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB) INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
apigeectl
- Nel file
overrides.yaml
del cluster originale, assicurati checassandra:hostNetwork
sia impostato sutrue
. Ad esempio:cassandra: hostNetwork: true
Consulta la sezione Prerequisiti per ulteriori informazioni su quando impostare
hostNetwork: true
. - Se
cassandra:hostNetwork
non è impostato sutrue
:-
Cambia
cassandra.hostNetwork
intrue
. -
Applica il file di configurazione
overrides.yaml
con il comando:apigeectl apply -f overrides.yaml --datastore
- Attendi che i pod Cassandra completino un riavvio in sequenza.
-
Verifica che il cluster Cassandra sia integro con i seguenti comandi:
kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
nodetool -u
-pw APIGEE_JMX_PASSWORD status Assicurati che tutti i nodi Cassandra nell'output siano in stato UN (Up/Normal):
nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD describecluster
Assicurati che nell'output non siano elencati nodi non raggiungibili.
-
Cambia
- Imposta il contesto kubectl sul cluster originale prima di recuperare il nome seed:
kubectl config use-context original-cluster-name
Esegui questo comando
kubectl
per identificare un indirizzo host di origine per Cassandra nella regione attuale.Un indirizzo host di origine consente a una nuova istanza a livello di regione di trovare il cluster originale al primo avvio in modo da apprendere la topologia del cluster. L'indirizzo host di origine è designato come punto di contatto nel cluster.
kubectl get pods -o wide -n apigee -l app=apigee-cassandra --field-selector status.phase=Running
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE apigee-cassandra-default-0 1/1 Running 0 5d 10.0.0.11 gke-k8s-dc-2-default-pool-a2206492-p55d apigee-cassandra-default-1 1/1 Running 0 5d 10.0.2.4 gke-k8s-dc-2-default-pool-e9daaab3-tjmz apigee-cassandra-default-2 1/1 Running 0 5d 10.0.3.5 gke-k8s-dc-2-default-pool-e589awq3-kjch
- Decidi quale IP restituito dal comando precedente sarà l'host seed multiregionale.
-
Nel data center 2, configura
cassandra.multiRegionSeedHost
nel file degli override, dovemultiRegionSeedHost
è uno degli IP restituiti dal comando precedente:cassandra: hostNetwork: true multiRegionSeedHost: seed_host_IP datacenter: data_center_name rack: rack_name clusterName: cluster_name # must be the same for all regions
Ad esempio:
cassandra: hostNetwork: true multiRegionSeedHost: 10.0.0.11 datacenter: "dc-2" rack: "ra-1" clusterName: my-apigee-cluster
- Nel nuovo data center/nella nuova regione, prima di installare la versione ibrida, imposta in
overrides.yaml
gli stessi certificati TLS e credenziali che hai impostato nella prima regione.
Configura la nuova regione
Dopo aver configurato l'host di origine, puoi configurare la nuova regione.
Per configurare la nuova regione:
- Copia il tuo certificato dal cluster esistente a quello nuovo. La nuova radice CA viene utilizzata da Cassandra e da altri componenti ibridi per mTLS. Di conseguenza, è essenziale disporre di certificati coerenti in tutto il cluster.
- Imposta il contesto sullo spazio dei nomi originale:
kubectl config use-context original-cluster-name
- Esporta la configurazione attuale dello spazio dei nomi in un file:
kubectl get namespace namespace -o yaml > apigee-namespace.yaml
- Esporta il secret di
apigee-ca
in un file:kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
- Imposta il contesto sul nome del cluster della nuova regione:
kubectl config use-context new-cluster-name
- Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare lo "spazio dei nomi" nel file se utilizzi uno spazio dei nomi diverso nella nuova regione:
kubectl apply -f apigee-namespace.yaml
Importa il secret nel nuovo cluster:
kubectl -n cert-manager apply -f apigee-ca.yaml
- Imposta il contesto sullo spazio dei nomi originale:
- Installa il modello ibrido nella nuova regione. Assicurati che il file
overrides-DC_name.yaml
includa gli stessi certificati TLS configurati nella prima regione, come spiegato nella sezione precedente.Esegui questi due comandi per installare il modello ibrido nella nuova regione:
apigeectl init -f overrides/overrides-DC_name.yaml
apigeectl apply -f overrides/overrides-DC_name.yaml
- Verifica che l'installazione ibrida sia riuscita eseguendo questo comando:
apigeectl check-ready -f overrides_DC_name.yaml
- Verifica la configurazione del cluster Cassandra eseguendo questo comando. L'output dovrebbe mostrare sia i data center esistenti sia quelli nuovi.
kubectl exec apigee-cassandra-default-0 -n apigee \ -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
Esempio di configurazione corretta:
Datacenter: dc-1 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.87.93 68.07 GiB 256 ? fb51465c-167a-42f7-98c9-b6eba1de34de c UN 10.132.84.94 69.9 GiB 256 ? f621a5ac-e7ee-48a9-9a14-73d69477c642 b UN 10.132.84.105 76.95 GiB 256 ? 0561086f-e95b-4232-ba6c-ad519ff30336 d Datacenter: dc-2 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.0.8 71.61 GiB 256 ? 8894a98b-8406-45de-99e2-f404ab10b5d6 c UN 10.132.9.204 75.1 GiB 256 ? afa0ffa3-630b-4f1e-b46f-fc3df988092e a UN 10.132.3.133 68.08 GiB 256 ? 25ae39ab-b39e-4d4f-9cb7-de095ab873db b
- Configurare Cassandra su tutti i pod nei nuovi data center.
- Ottieni
apigeeorg
dal cluster con il seguente comando:kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
Ad esempio:
Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" "rg-hybrid-b7d3b9c"
- Crea un file di risorse personalizzate di replica dei dati Cassandra (
YAML
). Il file può avere qualsiasi nome. Negli esempi seguenti il file avrà il nomedatareplication.yaml
.Il file deve contenere quanto segue:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: REGION_EXPANSION namespace: NAMESPACE spec: organizationRef: APIGEEORG_VALUE force: false source: region: SOURCE_REGION
Dove:
- REGION_EXPANSION è il nome che stai assegnando a questi metadati. Puoi utilizzare qualsiasi nome.
- NAMESPACE è lo stesso spazio dei nomi fornito in
overrides.yaml
. Solitamente, è "apigee
". - APIGEEORG_VALUE è il valore restituito dal comando
kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
nel passaggio precedente. Ad esempio,rg-hybrid-b7d3b9c
- SOURCE_REGION è la regione di origine, il valore del data center nella sezione Cassandra della regione di origine override.yaml
Ad esempio:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: region-expansion namespace: apigee spec: organizationRef: rg-hybrid-b7d3b9c force: false source: region: "dc-1"
- Applica
CassandraDataReplication
con il seguente comando:kubectl apply -f datareplication.yaml
- Verifica lo stato della ricompilazione utilizzando il comando seguente.
kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"
I risultati dovrebbero essere simili ai seguenti:
{ "rebuildDetails": { "apigee-cassandra-default-0": { "state": "complete", "updated": 1623105760 }, "apigee-cassandra-default-1": { "state": "complete", "updated": 1623105765 }, "apigee-cassandra-default-2": { "state": "complete", "updated": 1623105770 } }, "state": "complete", "updated": 1623105770 }
- Ottieni
- Verifica i processi di ricreazione dai log. Verifica inoltre le dimensioni dei dati
con il comando
nodetool status
.kubectl logs apigee-cassandra-default-0 -f -n apigee
kubectl exec apigee-cassandra-default-0 -n apigee -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
L'esempio seguente mostra esempi di voci di log:
INFO 01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens) INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB) INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
- Aggiorna gli host di origine. Rimuovi
multiRegionSeedHost: 10.0.0.11
daoverrides-DC_name.yaml
e applica di nuovo la richiesta.apigeectl apply -f overrides/overrides-DC_name.yaml
Controlla lo stato del cluster Cassandra
Il comando seguente è utile per verificare se la configurazione del cluster è riuscita in due data center. Il comando verifica lo stato nodetool per le due regioni.
kubectl exec apigee-cassandra-default-0 -n apigee -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status Datacenter: dc-1 ======================= Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns (effective) Host ID Rack UN 10.12.1.45 112.09 KiB 256 100.0% 3c98c816-3f4d-48f0-9717-03d0c998637f ra-1 UN 10.12.4.36 95.27 KiB 256 100.0% 0a36383d-1d9e-41e2-924c-7b62be12d6cc ra-1 UN 10.12.5.22 88.7 KiB 256 100.0% 3561f4fa-af3d-4ea4-93b2-79ac7e938201 ra-1 Datacenter: us-west1 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns (effective) Host ID Rack UN 10.0.4.33 78.69 KiB 256 100.0% a200217d-260b-45cd-b83c-182b27ff4c99 ra-1 UN 10.0.0.21 78.68 KiB 256 100.0% 9f3364b9-a7a1-409c-9356-b7d1d312e52b ra-1 UN 10.0.1.26 15.46 KiB 256 100.0% 1666df0f-702e-4c5b-8b6e-086d0f2e47fa ra-1
AKS
Crea una rete virtuale in ogni regione
Segui i suggerimenti di Azure per stabilire la comunicazione tra regioni qui: VNet-to-VNet: connessione di reti virtuali in Azure tra regioni diverse.
Crea cluster multiregionali
Configurare cluster Kubernetes in più regioni con blocchi CIDR diversi. Vedi anche il Passaggio 1: crea un cluster. Utilizza le località e i nomi delle reti virtuali creati in precedenza.
Apri le porte Cassandra tra i cluster Kubernetes in tutte le regioni per consentire ai nodi worker tra regioni e data center di comunicare. Consulta Configura le porte per i numeri di porte di Cassandra.
Configura l'host seed per più regioni
Questa sezione descrive come espandere il cluster Cassandra esistente a una nuova regione. Questa configurazione consente alla nuova regione di eseguire il bootstrap del cluster e di unire il data center esistente. Senza questa configurazione, i cluster Kubernetes multiregionali non conoscerebbero gli altri.
Segui le procedure per lo strumento che stai utilizzando per gestire e installare Apigee hybrid:
Grafici Helm
-
Per la prima regione creata, recupera i pod nel tuo spazio dei nomi apigee:
kubectl get pods -o wide -n apigee
- Identifica l'indirizzo host di origine multiregionale per Cassandra in questa regione, ad esempio
10.0.0.11
. -
Prepara il file
overrides.yaml
per la seconda regione e aggiungi l'indirizzo IP dell'host di origine come segue:cassandra: multiRegionSeedHost: "SEED_HOST_IP_ADDRESS" datacenter: "DATACENTER_NAME" rack: "RACK_NAME" hostNetwork: false clusterName: CLUSTER_NAME
Sostituisci quanto segue:
- SEED_HOST_IP_ADDRESS con l'indirizzo IP dell'host originale, ad esempio
10.0.0.11
. - DATACENTER_NAME con il nome del data center, ad esempio
dc-2
. - RACK_NAME con il nome del rack, ad esempio
ra-1
. - CLUSTER_NAME con il nome del tuo cluster Cassandra. Per impostazione predefinita, il valore è
apigeecluster
. Se utilizzi un nome cluster diverso, devi specificare un valore per cassandra.clusterName. Puoi scegliere liberamente il valore che preferisci, ma deve essere uguale in tutte le regioni.
- SEED_HOST_IP_ADDRESS con l'indirizzo IP dell'host originale, ad esempio
Configura la seconda regione
Per configurare la nuova regione:
-
Installa
cert-manager
nella regione 2:kubectl apply -f https://github.com/cert-manager/cert-manager/releases/download/v1.11.1/cert-manager.yaml
- Copia il tuo certificato dal cluster esistente a quello nuovo.
La nuova radice dell'autorità di certificazione viene utilizzata da Cassandra e da altri componenti ibridi per mTLS.
Pertanto, è essenziale disporre di certificati coerenti in tutto il cluster.
-
Imposta il contesto sullo spazio dei nomi originale:
kubectl config use-context ORIGINAL_CLUSTER_NAME
-
Esporta la configurazione attuale dello spazio dei nomi in un file:
kubectl get namespace apigee -o yaml > apigee-namespace.yaml
-
Esporta il secret
apigee-ca
in un file:kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
-
Imposta il contesto sul nome del cluster della nuova regione:
kubectl config use-context NEW_CLUSTER_NAME
-
Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare lo spazio dei nomi nel file se utilizzi uno spazio dei nomi diverso nella nuova regione:
kubectl apply -f apigee-namespace.yaml
-
Importa il secret nel nuovo cluster:
kubectl -n cert-manager apply -f apigee-ca.yaml
-
-
Segui i passaggi per installare i CRD ibridi Apigee nella nuova regione.
-
Ora utilizza i grafici Helm per installare Apigee hybrid nella nuova regione con i seguenti comandi di grafico Helm (come per la regione 1):
helm upgrade operator apigee-operator \ --install \ --create-namespace \ --namespace apigee-system \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade datastore apigee-datastore \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade telemetry apigee-telemetry \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade redis apigee-redis \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade ingress-manager apigee-ingress-manager \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade ORG_NAME apigee-org \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
# repeat the below command for each env mentioned on the overrideshelm upgrade ENV_NAME apigee-env/ \ --install \ --namespace apigee \ --atomic \ --set env=ENV_NAME \ -f overrides-DATACENTER_NAME.yaml
# repeat the below command for each env group mentioned on the overrideshelm upgrade apigee-virtualhost-ENV_GROUP_NAME apigee-virtualhost/ \ --install \ --namespace apigee \ --atomic \ --set envgroup=ENV_GROUP_NAME \ -f overrides-DATACENTER_NAME.yaml
- Verifica la configurazione del cluster Cassandra eseguendo questo comando. L'output dovrebbe mostrare sia i data center esistenti sia quelli nuovi.
kubectl exec apigee-cassandra-default-0 -n apigee \ -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
Esempio di configurazione corretta:
Datacenter: dc-1 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.87.93 68.07 GiB 256 ? fb51465c-167a-42f7-98c9-b6eba1de34de c UN 10.132.84.94 69.9 GiB 256 ? f621a5ac-e7ee-48a9-9a14-73d69477c642 b UN 10.132.84.105 76.95 GiB 256 ? 0561086f-e95b-4232-ba6c-ad519ff30336 d Datacenter: dc-2 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.0.8 71.61 GiB 256 ? 8894a98b-8406-45de-99e2-f404ab10b5d6 c UN 10.132.9.204 75.1 GiB 256 ? afa0ffa3-630b-4f1e-b46f-fc3df988092e a UN 10.132.3.133 68.08 GiB 256 ? 25ae39ab-b39e-4d4f-9cb7-de095ab873db b
- Configurare Cassandra su tutti i pod nei nuovi data center.
- Ottieni
apigeeorg
dal cluster con il seguente comando:kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
Ad esempio:
Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" "rg-hybrid-b7d3b9c"
- Crea un file di risorse personalizzate di replica dei dati Cassandra (
YAML
). Il file può avere qualsiasi nome. Negli esempi seguenti il file avrà il nomedatareplication.yaml
.Il file deve contenere quanto segue:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: REGION_EXPANSION namespace: NAMESPACE spec: organizationRef: APIGEEORG_VALUE force: false source: region: SOURCE_REGION
Dove:
- REGION_EXPANSION è il nome che stai assegnando a questi metadati. Puoi utilizzare qualsiasi nome.
- NAMESPACE è lo stesso spazio dei nomi fornito in
overrides.yaml
. Solitamente, è "apigee
". - APIGEEORG_VALUE è il valore restituito dal comando
kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
nel passaggio precedente. Ad esempio,rg-hybrid-b7d3b9c
- SOURCE_REGION è la regione di origine, il valore del data center nella sezione Cassandra della regione di origine override.yaml
Ad esempio:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: region-expansion namespace: apigee spec: organizationRef: rg-hybrid-b7d3b9c force: false source: region: "dc-1"
- Applica
CassandraDataReplication
con il seguente comando:kubectl apply -f datareplication.yaml
- Ottieni
- Verifica lo stato della ricompilazione utilizzando il comando seguente.
kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"
I risultati dovrebbero essere simili ai seguenti:
{ "rebuildDetails": { "apigee-cassandra-default-0": { "state": "complete", "updated": 1623105760 }, "apigee-cassandra-default-1": { "state": "complete", "updated": 1623105765 }, "apigee-cassandra-default-2": { "state": "complete", "updated": 1623105770 } }, "state": "complete", "updated": 1623105770 }
- Una volta completata e verificata la replica dei dati, aggiorna gli host di origine:
-
Rimuovi
multiRegionSeedHost: 10.0.0.11
daoverrides-DATACENTER_NAME.yaml
. -
Riapplica la modifica per aggiornare la RP del datastore apigee:
helm upgrade datastore apigee-datastore/ \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
-
Rimuovi
- Verifica i processi di ricreazione dai log. Verifica inoltre le dimensioni dei dati
con il comando
nodetool status
.kubectl logs apigee-cassandra-default-0 -f -n apigee
kubectl exec apigee-cassandra-default-0 -n apigee -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
L'esempio seguente mostra esempi di voci di log:
INFO 01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens) INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB) INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
apigeectl
- Nel file
overrides.yaml
del cluster originale, assicurati checassandra:hostNetwork
sia impostato sutrue
. Ad esempio:cassandra: hostNetwork: true
Consulta la sezione Prerequisiti per ulteriori informazioni su quando impostare
hostNetwork: true
. - Se
cassandra:hostNetwork
non è impostato sutrue
:-
Cambia
cassandra.hostNetwork
intrue
. -
Applica il file di configurazione
overrides.yaml
con il comando:apigeectl apply -f overrides.yaml --datastore
- Attendi che i pod Cassandra completino un riavvio in sequenza.
-
Verifica che il cluster Cassandra sia integro con i seguenti comandi:
kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
nodetool -u
-pw APIGEE_JMX_PASSWORD status Assicurati che tutti i nodi Cassandra nell'output siano in stato UN (Up/Normal):
nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD describecluster
Assicurati che nell'output non siano elencati nodi non raggiungibili.
-
Cambia
- Imposta il contesto kubectl sul cluster originale prima di recuperare il nome seed:
kubectl config use-context original-cluster-name
Esegui questo comando
kubectl
per identificare un indirizzo host di origine per Cassandra nella regione attuale.Un indirizzo host di origine consente a una nuova istanza a livello di regione di trovare il cluster originale al primo avvio in modo da apprendere la topologia del cluster. L'indirizzo host di origine è designato come punto di contatto nel cluster.
kubectl get pods -o wide -n apigee -l app=apigee-cassandra --field-selector status.phase=Running
apigee-cassandra-default-0 1/1 Running 0 4d17h 120.38.1.9 aks-agentpool-21207753-vmss000000
-
Decidi quale IP restituito dal comando precedente sarà l'host seed multiregionale. In questo esempio, in cui è in esecuzione un solo cluster Cassandra a nodo, l'host di origine è
120.38.1.9
. - Nel data center 2, copia il file degli override in un nuovo file il cui nome include il nome del cluster. Ad esempio,
overrides_your_cluster_name.yaml
. - Nel data center 2, configura
cassandra.multiRegionSeedHost
ecassandra.datacenter
inoverrides_your_cluster_name.yaml
, dovemultiRegionSeedHost
è uno degli IP restituiti dal comando precedente:cassandra: multiRegionSeedHost: seed_host_IP datacenter: data_center_name rack: rack_name hostNetwork: true
clusterName: cluster_name # deve essere uguale per tutte le regioniAd esempio:
cassandra: multiRegionSeedHost: 120.38.1.9 datacenter: "centralus" rack: "ra-1" hostNetwork: true clusterName: my-apigee-cluster
- Nel nuovo data center/nella nuova regione, prima di installare la versione ibrida, imposta in
overrides_your_cluster_name.yaml
gli stessi certificati TLS e credenziali che hai impostato nella prima regione.
Configura la nuova regione
Dopo aver configurato l'host di origine, puoi configurare la nuova regione.
Per configurare la nuova regione:
- Copia il tuo certificato dal cluster esistente a quello nuovo. La nuova radice CA viene utilizzata da Cassandra e da altri componenti ibridi per mTLS. Di conseguenza, è essenziale disporre di certificati coerenti in tutto il cluster.
- Imposta il contesto sullo spazio dei nomi originale:
kubectl config use-context original-cluster-name
- Esporta la configurazione attuale dello spazio dei nomi in un file:
kubectl get namespace namespace -o yaml > apigee-namespace.yaml
- Esporta il secret di
apigee-ca
in un file:kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
- Imposta il contesto sul nome del cluster della nuova regione:
kubectl config use-context new-cluster-name
- Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare lo "spazio dei nomi" nel file se utilizzi uno spazio dei nomi diverso nella nuova regione:
kubectl apply -f apigee-namespace.yaml
Importa il secret nel nuovo cluster:
kubectl -n cert-manager apply -f apigee-ca.yaml
- Imposta il contesto sullo spazio dei nomi originale:
- Installa il modello ibrido nella nuova regione. Assicurati che il file
overrides_your_cluster_name.yaml
includa gli stessi certificati TLS configurati nella prima regione, come spiegato nella sezione precedente.Esegui questi due comandi per installare il modello ibrido nella nuova regione:
apigeectl init -f overrides_your_cluster_name.yaml
apigeectl apply -f overrides_your_cluster_name.yaml
- Verifica che l'installazione ibrida sia riuscita eseguendo questo comando:
apigeectl check-ready -f overrides_your_cluster_name.yaml
- Verifica la configurazione del cluster Cassandra eseguendo questo comando. L'output dovrebbe mostrare sia i data center esistenti sia quelli nuovi.
kubectl exec apigee-cassandra-default-0 -n apigee \ -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
Esempio di configurazione corretta:
Datacenter: dc-1 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.87.93 68.07 GiB 256 ? fb51465c-167a-42f7-98c9-b6eba1de34de c UN 10.132.84.94 69.9 GiB 256 ? f621a5ac-e7ee-48a9-9a14-73d69477c642 b UN 10.132.84.105 76.95 GiB 256 ? 0561086f-e95b-4232-ba6c-ad519ff30336 d Datacenter: dc-2 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.0.8 71.61 GiB 256 ? 8894a98b-8406-45de-99e2-f404ab10b5d6 c UN 10.132.9.204 75.1 GiB 256 ? afa0ffa3-630b-4f1e-b46f-fc3df988092e a UN 10.132.3.133 68.08 GiB 256 ? 25ae39ab-b39e-4d4f-9cb7-de095ab873db b
- Configurare Cassandra su tutti i pod nei nuovi data center.
- Ottieni
apigeeorg
dal cluster con il seguente comando:kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
Ad esempio:
Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" "rg-hybrid-b7d3b9c"
- Crea un file di risorse personalizzate di replica dei dati Cassandra (
YAML
). Il file può avere qualsiasi nome. Negli esempi seguenti il file avrà il nomedatareplication.yaml
.Il file deve contenere quanto segue:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: REGION_EXPANSION namespace: NAMESPACE spec: organizationRef: APIGEEORG_VALUE force: false source: region: SOURCE_REGION
Dove:
- REGION_EXPANSION è il nome che stai assegnando a questi metadati. Puoi utilizzare qualsiasi nome.
- NAMESPACE è lo stesso spazio dei nomi fornito in
overrides.yaml
. Solitamente, è "apigee
". - APIGEEORG_VALUE è il valore restituito dal comando
kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
nel passaggio precedente. Ad esempio,rg-hybrid-b7d3b9c
- SOURCE_REGION è la regione di origine, il valore del data center nella sezione Cassandra della regione di origine override.yaml
Ad esempio:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: region-expansion namespace: apigee spec: organizationRef: rg-hybrid-b7d3b9c force: false source: region: "dc-1"
- Applica
CassandraDataReplication
con il seguente comando:kubectl apply -f datareplication.yaml
- Verifica lo stato della ricompilazione utilizzando il comando seguente.
kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"
I risultati dovrebbero essere simili ai seguenti:
{ "rebuildDetails": { "apigee-cassandra-default-0": { "state": "complete", "updated": 1623105760 }, "apigee-cassandra-default-1": { "state": "complete", "updated": 1623105765 }, "apigee-cassandra-default-2": { "state": "complete", "updated": 1623105770 } }, "state": "complete", "updated": 1623105770 }
- Ottieni
- Verifica i processi di ricreazione dai log. Verifica inoltre le dimensioni dei dati
con il comando
nodetool status
.kubectl logs apigee-cassandra-default-0 -f -n apigee
kubectl exec apigee-cassandra-default-0 -n apigee -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
L'esempio seguente mostra esempi di voci di log:
INFO 01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens) INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB) INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
- Aggiorna gli host di origine. Rimuovi
multiRegionSeedHost: 10.0.0.11
daoverrides-DC_name.yaml
e applica di nuovo la richiesta.apigeectl apply -f overrides/overrides-DC_name.yaml
Controlla lo stato del cluster Cassandra
Il comando seguente è utile per verificare se la configurazione del cluster è riuscita in due data center. Il comando verifica lo stato nodetool per le due regioni.
kubectl exec apigee-cassandra-default-0 -n apigee -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status Datacenter: dc-1 ======================= Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns (effective) Host ID Rack UN 10.12.1.45 112.09 KiB 256 100.0% 3c98c816-3f4d-48f0-9717-03d0c998637f ra-1 UN 10.12.4.36 95.27 KiB 256 100.0% 0a36383d-1d9e-41e2-924c-7b62be12d6cc ra-1 UN 10.12.5.22 88.7 KiB 256 100.0% 3561f4fa-af3d-4ea4-93b2-79ac7e938201 ra-1 Datacenter: us-west1 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns (effective) Host ID Rack UN 10.0.4.33 78.69 KiB 256 100.0% a200217d-260b-45cd-b83c-182b27ff4c99 ra-1 UN 10.0.0.21 78.68 KiB 256 100.0% 9f3364b9-a7a1-409c-9356-b7d1d312e52b ra-1 UN 10.0.1.26 15.46 KiB 256 100.0% 1666df0f-702e-4c5b-8b6e-086d0f2e47fa ra-1
EKS
Crea una rete virtuale in ogni regione
Segui i suggerimenti di AWS per stabilire la comunicazione tra regioni come descritto in: Che cos'è il peering VPC?. Il termine AWS per l'utilizzo di regioni diverse è peering VPC tra regioni.
Crea cluster multiregionali
Configurare cluster Kubernetes in più regioni con blocchi CIDR diversi. Vedi anche il Passaggio 1: crea un cluster. Utilizza le località e i nomi delle reti virtuali creati in precedenza.
Apri le porte Cassandra tra i cluster Kubernetes in tutte le regioni per consentire ai nodi worker tra regioni e data center di comunicare. Consulta Configura le porte per i numeri di porte di Cassandra.
Configura l'host seed per più regioni
Questa sezione descrive come espandere il cluster Cassandra esistente a una nuova regione. Questa configurazione consente alla nuova regione di eseguire il bootstrap del cluster e di unire il data center esistente. Senza questa configurazione, i cluster Kubernetes multiregionali non conoscerebbero gli altri.
Segui le procedure per lo strumento che stai utilizzando per gestire e installare Apigee hybrid:
Grafici Helm
-
Per la prima regione creata, recupera i pod nel tuo spazio dei nomi apigee:
kubectl get pods -o wide -n apigee
- Identifica l'indirizzo host di origine multiregionale per Cassandra in questa regione, ad esempio
10.0.0.11
. -
Prepara il file
overrides.yaml
per la seconda regione e aggiungi l'indirizzo IP dell'host di origine come segue:cassandra: multiRegionSeedHost: "SEED_HOST_IP_ADDRESS" datacenter: "DATACENTER_NAME" rack: "RACK_NAME" hostNetwork: false clusterName: CLUSTER_NAME
Sostituisci quanto segue:
- SEED_HOST_IP_ADDRESS con l'indirizzo IP dell'host originale, ad esempio
10.0.0.11
. - DATACENTER_NAME con il nome del data center, ad esempio
dc-2
. - RACK_NAME con il nome del rack, ad esempio
ra-1
. - CLUSTER_NAME con il nome del tuo cluster Cassandra. Per impostazione predefinita, il valore è
apigeecluster
. Se utilizzi un nome cluster diverso, devi specificare un valore per cassandra.clusterName. Puoi scegliere liberamente il valore che preferisci, ma deve essere uguale in tutte le regioni.
- SEED_HOST_IP_ADDRESS con l'indirizzo IP dell'host originale, ad esempio
Configura la seconda regione
Per configurare la nuova regione:
-
Installa
cert-manager
nella regione 2:kubectl apply -f https://github.com/cert-manager/cert-manager/releases/download/v1.11.1/cert-manager.yaml
- Copia il tuo certificato dal cluster esistente a quello nuovo.
La nuova radice dell'autorità di certificazione viene utilizzata da Cassandra e da altri componenti ibridi per mTLS.
Pertanto, è essenziale disporre di certificati coerenti in tutto il cluster.
-
Imposta il contesto sullo spazio dei nomi originale:
kubectl config use-context ORIGINAL_CLUSTER_NAME
-
Esporta la configurazione attuale dello spazio dei nomi in un file:
kubectl get namespace apigee -o yaml > apigee-namespace.yaml
-
Esporta il secret
apigee-ca
in un file:kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
-
Imposta il contesto sul nome del cluster della nuova regione:
kubectl config use-context NEW_CLUSTER_NAME
-
Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare lo spazio dei nomi nel file se utilizzi uno spazio dei nomi diverso nella nuova regione:
kubectl apply -f apigee-namespace.yaml
-
Importa il secret nel nuovo cluster:
kubectl -n cert-manager apply -f apigee-ca.yaml
-
-
Segui i passaggi per installare i CRD ibridi Apigee nella nuova regione.
-
Ora utilizza i grafici Helm per installare Apigee hybrid nella nuova regione con i seguenti comandi di grafico Helm (come per la regione 1):
helm upgrade operator apigee-operator \ --install \ --create-namespace \ --namespace apigee-system \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade datastore apigee-datastore \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade telemetry apigee-telemetry \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade redis apigee-redis \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade ingress-manager apigee-ingress-manager \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade ORG_NAME apigee-org \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
# repeat the below command for each env mentioned on the overrideshelm upgrade ENV_NAME apigee-env/ \ --install \ --namespace apigee \ --atomic \ --set env=ENV_NAME \ -f overrides-DATACENTER_NAME.yaml
# repeat the below command for each env group mentioned on the overrideshelm upgrade apigee-virtualhost-ENV_GROUP_NAME apigee-virtualhost/ \ --install \ --namespace apigee \ --atomic \ --set envgroup=ENV_GROUP_NAME \ -f overrides-DATACENTER_NAME.yaml
- Verifica la configurazione del cluster Cassandra eseguendo questo comando. L'output dovrebbe mostrare sia i data center esistenti sia quelli nuovi.
kubectl exec apigee-cassandra-default-0 -n apigee \ -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
Esempio di configurazione corretta:
Datacenter: dc-1 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.87.93 68.07 GiB 256 ? fb51465c-167a-42f7-98c9-b6eba1de34de c UN 10.132.84.94 69.9 GiB 256 ? f621a5ac-e7ee-48a9-9a14-73d69477c642 b UN 10.132.84.105 76.95 GiB 256 ? 0561086f-e95b-4232-ba6c-ad519ff30336 d Datacenter: dc-2 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.0.8 71.61 GiB 256 ? 8894a98b-8406-45de-99e2-f404ab10b5d6 c UN 10.132.9.204 75.1 GiB 256 ? afa0ffa3-630b-4f1e-b46f-fc3df988092e a UN 10.132.3.133 68.08 GiB 256 ? 25ae39ab-b39e-4d4f-9cb7-de095ab873db b
- Configurare Cassandra su tutti i pod nei nuovi data center.
- Ottieni
apigeeorg
dal cluster con il seguente comando:kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
Ad esempio:
Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" "rg-hybrid-b7d3b9c"
- Crea un file di risorse personalizzate di replica dei dati Cassandra (
YAML
). Il file può avere qualsiasi nome. Negli esempi seguenti il file avrà il nomedatareplication.yaml
.Il file deve contenere quanto segue:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: REGION_EXPANSION namespace: NAMESPACE spec: organizationRef: APIGEEORG_VALUE force: false source: region: SOURCE_REGION
Dove:
- REGION_EXPANSION è il nome che stai assegnando a questi metadati. Puoi utilizzare qualsiasi nome.
- NAMESPACE è lo stesso spazio dei nomi fornito in
overrides.yaml
. Solitamente, è "apigee
". - APIGEEORG_VALUE è il valore restituito dal comando
kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
nel passaggio precedente. Ad esempio,rg-hybrid-b7d3b9c
- SOURCE_REGION è la regione di origine, il valore del data center nella sezione Cassandra della regione di origine override.yaml
Ad esempio:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: region-expansion namespace: apigee spec: organizationRef: rg-hybrid-b7d3b9c force: false source: region: "dc-1"
- Applica
CassandraDataReplication
con il seguente comando:kubectl apply -f datareplication.yaml
- Ottieni
- Verifica lo stato della ricompilazione utilizzando il comando seguente.
kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"
I risultati dovrebbero essere simili ai seguenti:
{ "rebuildDetails": { "apigee-cassandra-default-0": { "state": "complete", "updated": 1623105760 }, "apigee-cassandra-default-1": { "state": "complete", "updated": 1623105765 }, "apigee-cassandra-default-2": { "state": "complete", "updated": 1623105770 } }, "state": "complete", "updated": 1623105770 }
- Una volta completata e verificata la replica dei dati, aggiorna gli host di origine:
-
Rimuovi
multiRegionSeedHost: 10.0.0.11
daoverrides-DATACENTER_NAME.yaml
. -
Riapplica la modifica per aggiornare la RP del datastore apigee:
helm upgrade datastore apigee-datastore/ \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
-
Rimuovi
- Verifica i processi di ricreazione dai log. Verifica inoltre le dimensioni dei dati
con il comando
nodetool status
.kubectl logs apigee-cassandra-default-0 -f -n apigee
kubectl exec apigee-cassandra-default-0 -n apigee -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
L'esempio seguente mostra esempi di voci di log:
INFO 01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens) INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB) INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
apigeectl
- Nel file
overrides.yaml
del cluster originale, assicurati checassandra:hostNetwork
sia impostato sutrue
. Ad esempio:cassandra: hostNetwork: true
Consulta la sezione Prerequisiti per ulteriori informazioni su quando impostare
hostNetwork: true
. - Se
cassandra:hostNetwork
non è impostato sutrue
:-
Cambia
cassandra.hostNetwork
intrue
. -
Applica il file di configurazione
overrides.yaml
con il comando:apigeectl apply -f overrides.yaml --datastore
- Attendi che i pod Cassandra completino un riavvio in sequenza.
-
Verifica che il cluster Cassandra sia integro con i seguenti comandi:
kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
nodetool -u
-pw APIGEE_JMX_PASSWORD status Assicurati che tutti i nodi Cassandra nell'output siano in stato UN (Up/Normal):
nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD describecluster
Assicurati che nell'output non siano elencati nodi non raggiungibili.
-
Cambia
- Imposta il contesto kubectl sul cluster originale prima di recuperare il nome seed:
kubectl config use-context original-cluster-name
Esegui questo comando
kubectl
per identificare un indirizzo host di origine per Cassandra nella regione attuale.Un indirizzo host di origine consente a una nuova istanza a livello di regione di trovare il cluster originale al primo avvio in modo da apprendere la topologia del cluster. L'indirizzo host di origine è designato come punto di contatto nel cluster.
kubectl get pods -o wide -n apigee -l app=apigee-cassandra --field-selector status.phase=Running
apigee-cassandra-default-0 1/1 Running 0 4d17h 120.38.1.9 aks-agentpool-21207753-vmss000000
-
Decidi quale IP restituito dal comando precedente sarà l'host seed multiregionale. In questo esempio, in cui è in esecuzione un solo cluster Cassandra a nodo, l'host di origine è
120.38.1.9
. - Nel data center 2, copia il file degli override in un nuovo file il cui nome include il nome del cluster. Ad esempio,
overrides_your_cluster_name.yaml
. - Nel data center 2, configura
cassandra.multiRegionSeedHost
ecassandra.datacenter
inoverrides_your_cluster_name.yaml
, dovemultiRegionSeedHost
è uno degli IP restituiti dal comando precedente:cassandra: multiRegionSeedHost: seed_host_IP datacenter: data_center_name rack: rack_name hostNetwork: true
clusterName: cluster_name # deve essere uguale per tutte le regioniAd esempio:
cassandra: multiRegionSeedHost: 120.38.1.9 datacenter: "centralus" rack: "ra-1" hostNetwork: true clusterName: my-apigee-cluster
- Nel nuovo data center/nella nuova regione, prima di installare la versione ibrida, imposta in
overrides_your_cluster_name.yaml
gli stessi certificati TLS e credenziali che hai impostato nella prima regione.
Configura la nuova regione
Dopo aver configurato l'host di origine, puoi configurare la nuova regione.
Per configurare la nuova regione:
- Copia il tuo certificato dal cluster esistente a quello nuovo. La nuova radice CA viene utilizzata da Cassandra e da altri componenti ibridi per mTLS. Di conseguenza, è essenziale disporre di certificati coerenti in tutto il cluster.
- Imposta il contesto sullo spazio dei nomi originale:
kubectl config use-context original-cluster-name
- Esporta la configurazione attuale dello spazio dei nomi in un file:
kubectl get namespace namespace -o yaml > apigee-namespace.yaml
- Esporta il secret di
apigee-ca
in un file:kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
- Imposta il contesto sul nome del cluster della nuova regione:
kubectl config use-context new-cluster-name
- Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare lo "spazio dei nomi" nel file se utilizzi uno spazio dei nomi diverso nella nuova regione:
kubectl apply -f apigee-namespace.yaml
Importa il secret nel nuovo cluster:
kubectl -n cert-manager apply -f apigee-ca.yaml
- Imposta il contesto sullo spazio dei nomi originale:
- Installa il modello ibrido nella nuova regione. Assicurati che il file
overrides_your_cluster_name.yaml
includa gli stessi certificati TLS configurati nella prima regione, come spiegato nella sezione precedente.Esegui questi due comandi per installare il modello ibrido nella nuova regione:
apigeectl init -f overrides_your_cluster_name.yaml
apigeectl apply -f overrides_your_cluster_name.yaml
- Verifica che l'installazione ibrida sia riuscita eseguendo questo comando:
apigeectl check-ready -f overrides_your_cluster_name.yaml
- Verifica la configurazione del cluster Cassandra eseguendo questo comando. L'output dovrebbe mostrare sia i data center esistenti sia quelli nuovi.
kubectl exec apigee-cassandra-default-0 -n apigee \ -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
Esempio di configurazione corretta:
Datacenter: dc-1 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.87.93 68.07 GiB 256 ? fb51465c-167a-42f7-98c9-b6eba1de34de c UN 10.132.84.94 69.9 GiB 256 ? f621a5ac-e7ee-48a9-9a14-73d69477c642 b UN 10.132.84.105 76.95 GiB 256 ? 0561086f-e95b-4232-ba6c-ad519ff30336 d Datacenter: dc-2 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.0.8 71.61 GiB 256 ? 8894a98b-8406-45de-99e2-f404ab10b5d6 c UN 10.132.9.204 75.1 GiB 256 ? afa0ffa3-630b-4f1e-b46f-fc3df988092e a UN 10.132.3.133 68.08 GiB 256 ? 25ae39ab-b39e-4d4f-9cb7-de095ab873db b
- Configurare Cassandra su tutti i pod nei nuovi data center.
- Ottieni
apigeeorg
dal cluster con il seguente comando:kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
Ad esempio:
Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" "rg-hybrid-b7d3b9c"
- Crea un file di risorse personalizzate di replica dei dati Cassandra (
YAML
). Il file può avere qualsiasi nome. Negli esempi seguenti il file avrà il nomedatareplication.yaml
.Il file deve contenere quanto segue:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: REGION_EXPANSION namespace: NAMESPACE spec: organizationRef: APIGEEORG_VALUE force: false source: region: SOURCE_REGION
Dove:
- REGION_EXPANSION è il nome che stai assegnando a questi metadati. Puoi utilizzare qualsiasi nome.
- NAMESPACE è lo stesso spazio dei nomi fornito in
overrides.yaml
. Solitamente, è "apigee
". - APIGEEORG_VALUE è il valore restituito dal comando
kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
nel passaggio precedente. Ad esempio,rg-hybrid-b7d3b9c
- SOURCE_REGION è la regione di origine, il valore del data center nella sezione Cassandra della regione di origine override.yaml
Ad esempio:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: region-expansion namespace: apigee spec: organizationRef: rg-hybrid-b7d3b9c force: false source: region: "dc-1"
- Applica
CassandraDataReplication
con il seguente comando:kubectl apply -f datareplication.yaml
- Verifica lo stato della ricompilazione utilizzando il comando seguente.
kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"
I risultati dovrebbero essere simili ai seguenti:
{ "rebuildDetails": { "apigee-cassandra-default-0": { "state": "complete", "updated": 1623105760 }, "apigee-cassandra-default-1": { "state": "complete", "updated": 1623105765 }, "apigee-cassandra-default-2": { "state": "complete", "updated": 1623105770 } }, "state": "complete", "updated": 1623105770 }
- Ottieni
- Verifica i processi di ricreazione dai log. Verifica inoltre le dimensioni dei dati
con il comando
nodetool status
.kubectl logs apigee-cassandra-default-0 -f -n apigee
kubectl exec apigee-cassandra-default-0 -n apigee -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
L'esempio seguente mostra esempi di voci di log:
INFO 01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens) INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB) INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
- Aggiorna gli host di origine. Rimuovi
multiRegionSeedHost: 10.0.0.11
daoverrides-DC_name.yaml
e applica di nuovo la richiesta.apigeectl apply -f overrides/overrides-DC_name.yaml
Controlla lo stato del cluster Cassandra
Il comando seguente è utile per verificare se la configurazione del cluster è riuscita in due data center. Il comando verifica lo stato nodetool per le due regioni.
kubectl exec apigee-cassandra-default-0 -n apigee -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status Datacenter: dc-1 ======================= Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns (effective) Host ID Rack UN 10.12.1.45 112.09 KiB 256 100.0% 3c98c816-3f4d-48f0-9717-03d0c998637f ra-1 UN 10.12.4.36 95.27 KiB 256 100.0% 0a36383d-1d9e-41e2-924c-7b62be12d6cc ra-1 UN 10.12.5.22 88.7 KiB 256 100.0% 3561f4fa-af3d-4ea4-93b2-79ac7e938201 ra-1 Datacenter: us-west1 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns (effective) Host ID Rack UN 10.0.4.33 78.69 KiB 256 100.0% a200217d-260b-45cd-b83c-182b27ff4c99 ra-1 UN 10.0.0.21 78.68 KiB 256 100.0% 9f3364b9-a7a1-409c-9356-b7d1d312e52b ra-1 UN 10.0.1.26 15.46 KiB 256 100.0% 1666df0f-702e-4c5b-8b6e-086d0f2e47fa ra-1
OpenShift
Configura l'host seed per più regioni
Questa sezione descrive come espandere il cluster Cassandra esistente a una nuova regione. Questa configurazione consente alla nuova regione di eseguire il bootstrap del cluster e di unire il data center esistente. Senza questa configurazione, i cluster Kubernetes multiregionali non conoscerebbero gli altri.
Segui le procedure per lo strumento che stai utilizzando per gestire e installare Apigee hybrid:
Grafici Helm
-
Per la prima regione creata, recupera i pod nel tuo spazio dei nomi apigee:
kubectl get pods -o wide -n apigee
- Identifica l'indirizzo host di origine multiregionale per Cassandra in questa regione, ad esempio
10.0.0.11
. -
Prepara il file
overrides.yaml
per la seconda regione e aggiungi l'indirizzo IP dell'host di origine come segue:cassandra: multiRegionSeedHost: "SEED_HOST_IP_ADDRESS" datacenter: "DATACENTER_NAME" rack: "RACK_NAME" hostNetwork: false clusterName: CLUSTER_NAME
Sostituisci quanto segue:
- SEED_HOST_IP_ADDRESS con l'indirizzo IP dell'host originale, ad esempio
10.0.0.11
. - DATACENTER_NAME con il nome del data center, ad esempio
dc-2
. - RACK_NAME con il nome del rack, ad esempio
ra-1
. - CLUSTER_NAME con il nome del tuo cluster Cassandra. Per impostazione predefinita, il valore è
apigeecluster
. Se utilizzi un nome cluster diverso, devi specificare un valore per cassandra.clusterName. Puoi scegliere liberamente il valore che preferisci, ma deve essere uguale in tutte le regioni.
- SEED_HOST_IP_ADDRESS con l'indirizzo IP dell'host originale, ad esempio
Configura la seconda regione
Per configurare la nuova regione:
-
Installa
cert-manager
nella regione 2:kubectl apply -f https://github.com/cert-manager/cert-manager/releases/download/v1.11.1/cert-manager.yaml
- Copia il tuo certificato dal cluster esistente a quello nuovo.
La nuova radice dell'autorità di certificazione viene utilizzata da Cassandra e da altri componenti ibridi per mTLS.
Pertanto, è essenziale disporre di certificati coerenti in tutto il cluster.
-
Imposta il contesto sullo spazio dei nomi originale:
kubectl config use-context ORIGINAL_CLUSTER_NAME
-
Esporta la configurazione attuale dello spazio dei nomi in un file:
kubectl get namespace apigee -o yaml > apigee-namespace.yaml
-
Esporta il secret
apigee-ca
in un file:kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
-
Imposta il contesto sul nome del cluster della nuova regione:
kubectl config use-context NEW_CLUSTER_NAME
-
Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare lo spazio dei nomi nel file se utilizzi uno spazio dei nomi diverso nella nuova regione:
kubectl apply -f apigee-namespace.yaml
-
Importa il secret nel nuovo cluster:
kubectl -n cert-manager apply -f apigee-ca.yaml
-
-
Segui i passaggi per installare i CRD ibridi Apigee nella nuova regione.
-
Ora utilizza i grafici Helm per installare Apigee hybrid nella nuova regione con i seguenti comandi di grafico Helm (come per la regione 1):
helm upgrade operator apigee-operator \ --install \ --create-namespace \ --namespace apigee-system \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade datastore apigee-datastore \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade telemetry apigee-telemetry \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade redis apigee-redis \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade ingress-manager apigee-ingress-manager \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
helm upgrade ORG_NAME apigee-org \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
# repeat the below command for each env mentioned on the overrideshelm upgrade ENV_NAME apigee-env/ \ --install \ --namespace apigee \ --atomic \ --set env=ENV_NAME \ -f overrides-DATACENTER_NAME.yaml
# repeat the below command for each env group mentioned on the overrideshelm upgrade apigee-virtualhost-ENV_GROUP_NAME apigee-virtualhost/ \ --install \ --namespace apigee \ --atomic \ --set envgroup=ENV_GROUP_NAME \ -f overrides-DATACENTER_NAME.yaml
- Verifica la configurazione del cluster Cassandra eseguendo questo comando. L'output dovrebbe mostrare sia i data center esistenti sia quelli nuovi.
kubectl exec apigee-cassandra-default-0 -n apigee \ -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
Esempio di configurazione corretta:
Datacenter: dc-1 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.87.93 68.07 GiB 256 ? fb51465c-167a-42f7-98c9-b6eba1de34de c UN 10.132.84.94 69.9 GiB 256 ? f621a5ac-e7ee-48a9-9a14-73d69477c642 b UN 10.132.84.105 76.95 GiB 256 ? 0561086f-e95b-4232-ba6c-ad519ff30336 d Datacenter: dc-2 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.0.8 71.61 GiB 256 ? 8894a98b-8406-45de-99e2-f404ab10b5d6 c UN 10.132.9.204 75.1 GiB 256 ? afa0ffa3-630b-4f1e-b46f-fc3df988092e a UN 10.132.3.133 68.08 GiB 256 ? 25ae39ab-b39e-4d4f-9cb7-de095ab873db b
- Configurare Cassandra su tutti i pod nei nuovi data center.
- Ottieni
apigeeorg
dal cluster con il seguente comando:kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
Ad esempio:
Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" "rg-hybrid-b7d3b9c"
- Crea un file di risorse personalizzate di replica dei dati Cassandra (
YAML
). Il file può avere qualsiasi nome. Negli esempi seguenti il file avrà il nomedatareplication.yaml
.Il file deve contenere quanto segue:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: REGION_EXPANSION namespace: NAMESPACE spec: organizationRef: APIGEEORG_VALUE force: false source: region: SOURCE_REGION
Dove:
- REGION_EXPANSION è il nome che stai assegnando a questi metadati. Puoi utilizzare qualsiasi nome.
- NAMESPACE è lo stesso spazio dei nomi fornito in
overrides.yaml
. Solitamente, è "apigee
". - APIGEEORG_VALUE è il valore restituito dal comando
kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
nel passaggio precedente. Ad esempio,rg-hybrid-b7d3b9c
- SOURCE_REGION è la regione di origine, il valore del data center nella sezione Cassandra della regione di origine override.yaml
Ad esempio:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: region-expansion namespace: apigee spec: organizationRef: rg-hybrid-b7d3b9c force: false source: region: "dc-1"
- Applica
CassandraDataReplication
con il seguente comando:kubectl apply -f datareplication.yaml
- Ottieni
- Verifica lo stato della ricompilazione utilizzando il comando seguente.
kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"
I risultati dovrebbero essere simili ai seguenti:
{ "rebuildDetails": { "apigee-cassandra-default-0": { "state": "complete", "updated": 1623105760 }, "apigee-cassandra-default-1": { "state": "complete", "updated": 1623105765 }, "apigee-cassandra-default-2": { "state": "complete", "updated": 1623105770 } }, "state": "complete", "updated": 1623105770 }
- Una volta completata e verificata la replica dei dati, aggiorna gli host di origine:
-
Rimuovi
multiRegionSeedHost: 10.0.0.11
daoverrides-DATACENTER_NAME.yaml
. -
Riapplica la modifica per aggiornare la RP del datastore apigee:
helm upgrade datastore apigee-datastore/ \ --install \ --namespace apigee \ --atomic \ -f overrides-DATACENTER_NAME.yaml
-
Rimuovi
- Verifica i processi di ricreazione dai log. Verifica inoltre le dimensioni dei dati
con il comando
nodetool status
.kubectl logs apigee-cassandra-default-0 -f -n apigee
kubectl exec apigee-cassandra-default-0 -n apigee -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
L'esempio seguente mostra esempi di voci di log:
INFO 01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens) INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB) INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
apigeectl
- Nel file
overrides.yaml
del cluster originale, assicurati checassandra:hostNetwork
sia impostato sutrue
. Ad esempio:cassandra: hostNetwork: true
Consulta la sezione Prerequisiti per ulteriori informazioni su quando impostare
hostNetwork: true
. - Se
cassandra:hostNetwork
non è impostato sutrue
:-
Cambia
cassandra.hostNetwork
intrue
. -
Applica il file di configurazione
overrides.yaml
con il comando:apigeectl apply -f overrides.yaml --datastore
- Attendi che i pod Cassandra completino un riavvio in sequenza.
-
Verifica che il cluster Cassandra sia integro con i seguenti comandi:
kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
nodetool -u
-pw APIGEE_JMX_PASSWORD status Assicurati che tutti i nodi Cassandra nell'output siano in stato UN (Up/Normal):
nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD describecluster
Assicurati che nell'output non siano elencati nodi non raggiungibili.
-
Cambia
- Imposta il contesto kubectl sul cluster originale prima di recuperare il nome seed:
kubectl config use-context original-cluster-name
Esegui questo comando
kubectl
per identificare un indirizzo host di origine per Cassandra nella regione attuale.Un indirizzo host di origine consente a una nuova istanza a livello di regione di trovare il cluster originale al primo avvio in modo da apprendere la topologia del cluster. L'indirizzo host di origine è designato come punto di contatto nel cluster.
kubectl get pods -o wide -n apigee -l app=apigee-cassandra --field-selector status.phase=Running
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE apigee-cassandra-default-0 1/1 Running 0 5d 10.0.0.11 gke-k8s-dc-2-default-pool-a2206492-p55d apigee-cassandra-default-1 1/1 Running 0 5d 10.0.2.4 gke-k8s-dc-2-default-pool-e9daaab3-tjmz apigee-cassandra-default-2 1/1 Running 0 5d 10.0.3.5 gke-k8s-dc-2-default-pool-e589awq3-kjch
-
Seleziona l'indirizzo IP dell'host Cassandra di origine da utilizzare come host di origine multiregionale. In questo esempio, questo è il cluster
apigee-cassandra-default-0
in esecuzione, l'host di origine è10.0.0.11
. - Nel data center 2, copia il file degli override in un nuovo file il cui nome include il nome del cluster. Ad esempio,
overrides_your_cluster_name.yaml
. - Nel data center 2, configura
cassandra.multiRegionSeedHost
ecassandra.datacenter
inoverrides_your_cluster_name.yaml
, dovemultiRegionSeedHost
è uno degli IP restituiti dal comando precedente:cassandra: hostNetwork: true multiRegionSeedHost: seed_host_IP # Cassandra pod IP address from the source region. datacenter: data_center_name rack: rack_name clusterName: cluster_name # must be the same for all regions
Ad esempio:
cassandra: hostNetwork: true multiRegionSeedHost: 10.0.0.11 datacenter: "dc-2" rack: "ra-1" clusterName: my-apigee-cluster
- Nel nuovo data center/nella nuova regione, prima di installare la versione ibrida, imposta in
overrides_your_cluster_name.yaml
gli stessi certificati TLS e credenziali che hai impostato nella prima regione.
Configura la nuova regione
Dopo aver configurato l'host di origine, puoi configurare la nuova regione.
Per configurare la nuova regione:
- Copia il tuo certificato dal cluster esistente a quello nuovo. La nuova radice CA viene utilizzata da Cassandra e da altri componenti ibridi per mTLS. Di conseguenza, è essenziale disporre di certificati coerenti in tutto il cluster.
- Imposta il contesto sullo spazio dei nomi originale:
kubectl config use-context original-cluster-name
- Esporta la configurazione attuale dello spazio dei nomi in un file:
kubectl get namespace namespace -o yaml > apigee-namespace.yaml
- Esporta il secret di
apigee-ca
in un file:kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
- Imposta il contesto sul nome del cluster della nuova regione:
kubectl config use-context new-cluster-name
- Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare lo "spazio dei nomi" nel file se utilizzi uno spazio dei nomi diverso nella nuova regione:
kubectl apply -f apigee-namespace.yaml
Importa il secret nel nuovo cluster:
kubectl -n cert-manager apply -f apigee-ca.yaml
- Imposta il contesto sullo spazio dei nomi originale:
- Installa il modello ibrido nella nuova regione. Assicurati che il file
overrides_your_cluster_name.yaml
includa gli stessi certificati TLS configurati nella prima regione, come spiegato nella sezione precedente.Esegui questi due comandi per installare il modello ibrido nella nuova regione:
apigeectl init -f overrides_your_cluster_name.yaml
apigeectl apply -f overrides_your_cluster_name.yaml
- Verifica che l'installazione ibrida sia riuscita eseguendo questo comando:
apigeectl check-ready -f overrides_your_cluster_name.yaml
- Verifica la configurazione del cluster Cassandra eseguendo questo comando. L'output dovrebbe mostrare sia i data center esistenti sia quelli nuovi.
kubectl exec apigee-cassandra-default-0 -n apigee \ -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
Esempio di configurazione corretta:
Datacenter: dc-1 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.87.93 68.07 GiB 256 ? fb51465c-167a-42f7-98c9-b6eba1de34de c UN 10.132.84.94 69.9 GiB 256 ? f621a5ac-e7ee-48a9-9a14-73d69477c642 b UN 10.132.84.105 76.95 GiB 256 ? 0561086f-e95b-4232-ba6c-ad519ff30336 d Datacenter: dc-2 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.0.8 71.61 GiB 256 ? 8894a98b-8406-45de-99e2-f404ab10b5d6 c UN 10.132.9.204 75.1 GiB 256 ? afa0ffa3-630b-4f1e-b46f-fc3df988092e a UN 10.132.3.133 68.08 GiB 256 ? 25ae39ab-b39e-4d4f-9cb7-de095ab873db b
- Configurare Cassandra su tutti i pod nei nuovi data center.
- Ottieni
apigeeorg
dal cluster con il seguente comando:kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
Ad esempio:
Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" "rg-hybrid-b7d3b9c"
- Crea un file di risorse personalizzate di replica dei dati Cassandra (
YAML
). Il file può avere qualsiasi nome. Negli esempi seguenti il file avrà il nomedatareplication.yaml
.Il file deve contenere quanto segue:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: REGION_EXPANSION namespace: NAMESPACE spec: organizationRef: APIGEEORG_VALUE force: false source: region: SOURCE_REGION
Dove:
- REGION_EXPANSION è il nome che stai assegnando a questi metadati. Puoi utilizzare qualsiasi nome.
- NAMESPACE è lo stesso spazio dei nomi fornito in
overrides.yaml
. Solitamente, è "apigee
". - APIGEEORG_VALUE è il valore restituito dal comando
kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
nel passaggio precedente. Ad esempio,rg-hybrid-b7d3b9c
- SOURCE_REGION è la regione di origine, il valore del data center nella sezione Cassandra della regione di origine override.yaml
Ad esempio:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: region-expansion namespace: apigee spec: organizationRef: rg-hybrid-b7d3b9c force: false source: region: "dc-1"
- Applica
CassandraDataReplication
con il seguente comando:kubectl apply -f datareplication.yaml
- Verifica lo stato della ricompilazione utilizzando il comando seguente.
kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"
I risultati dovrebbero essere simili ai seguenti:
{ "rebuildDetails": { "apigee-cassandra-default-0": { "state": "complete", "updated": 1623105760 }, "apigee-cassandra-default-1": { "state": "complete", "updated": 1623105765 }, "apigee-cassandra-default-2": { "state": "complete", "updated": 1623105770 } }, "state": "complete", "updated": 1623105770 }
- Ottieni
- Verifica i processi di ricreazione dai log. Verifica inoltre le dimensioni dei dati
con il comando
nodetool status
.kubectl logs apigee-cassandra-default-0 -f -n apigee
kubectl exec apigee-cassandra-default-0 -n apigee -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
L'esempio seguente mostra esempi di voci di log:
INFO 01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens) INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB) INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
- Aggiorna gli host di origine. Rimuovi
multiRegionSeedHost: 10.0.0.11
daoverrides-DC_name.yaml
e applica di nuovo la richiesta.apigeectl apply -f overrides/overrides-DC_name.yaml
Controlla lo stato del cluster Cassandra
Il comando seguente è utile per verificare se la configurazione del cluster è riuscita in due data center. Il comando verifica lo stato nodetool per le due regioni.
kubectl exec apigee-cassandra-default-0 -n apigee -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status Datacenter: dc-1 ======================= Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns (effective) Host ID Rack UN 10.12.1.45 112.09 KiB 256 100.0% 3c98c816-3f4d-48f0-9717-03d0c998637f ra-1 UN 10.12.4.36 95.27 KiB 256 100.0% 0a36383d-1d9e-41e2-924c-7b62be12d6cc ra-1 UN 10.12.5.22 88.7 KiB 256 100.0% 3561f4fa-af3d-4ea4-93b2-79ac7e938201 ra-1 Datacenter: us-west1 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns (effective) Host ID Rack UN 10.0.4.33 78.69 KiB 256 100.0% a200217d-260b-45cd-b83c-182b27ff4c99 ra-1 UN 10.0.0.21 78.68 KiB 256 100.0% 9f3364b9-a7a1-409c-9356-b7d1d312e52b ra-1 UN 10.0.1.26 15.46 KiB 256 100.0% 1666df0f-702e-4c5b-8b6e-086d0f2e47fa ra-1
Risoluzione dei problemi
Vedi Errore di replica dei dati Cassandra.