Questo argomento descrive un deployment multiregionale per Apigee hybrid su GKE e Anthos GKE di cui è stato eseguito il deployment on-prem.
Le topologie per il deployment in più regioni includono quanto segue:
- Attivo-Attivo: quando è stato eseguito il deployment delle applicazioni in più aree geografiche da più località e hai bisogno di una risposta API a bassa latenza per i tuoi deployment. Puoi eseguire il deployment di ambienti ibridi dalle sedi più vicine ai tuoi clienti. Ad esempio: costa occidentale degli Stati Uniti, costa orientale degli Stati Uniti, Europa, APAC.
- Attivo-passivo: in presenza di una regione principale e di un failover o un'emergenza regione di ripristino.
Le regioni in un deployment ibrido multiregionale comunicano tramite Cassandra, come nell'immagine seguente mostra:
Bilanciamento del carico della connessione MART
Ogni cluster a livello di regione deve avere il proprio IP e nome host MART. ma ti serve solo per connettere il piano di gestione a uno di questi. Cassandra propaga le informazioni a tutti dei cluster. L'opzione migliore per l'alta disponibilità per MART è il bilanciamento del carico i singoli indirizzi IP MART e configurare la tua organizzazione in modo che comunichi con il bilanciamento del carico URL MART.
Prerequisiti
Prima di configurare il servizio ibrido per più regioni, devi completare i seguenti prerequisiti:
- Configurare cluster Kubernetes in più regioni con blocchi CIDR diversi
- Configura la comunicazione tra regioni
- Apri le porte Cassandra 7000 e 7001 tra i cluster Kubernetes in tutte le regioni (7000 può essere utilizzata come opzione di backup durante la risoluzione dei problemi). Vedi anche Configurare le porte.
Per informazioni dettagliate, consulta la documentazione di Kubernetes.
Configura l'host seed per più regioni
Questa sezione descrive come espandere il cluster Cassandra esistente a una nuova regione. Questa configurazione consente alla nuova regione di eseguire il bootstrap del cluster e di unire la regione esistente data center. Senza questa configurazione, i cluster Kubernetes multiregionali che non conoscerebbero.
Esegui questo comando
kubectl
per identificare un indirizzo host di origine per Cassandra in la regione corrente.Un indirizzo host di origine consente a una nuova istanza regionale di trovare originale alla primissima startup a scoprire la topologia del cluster. L'indirizzo host di origine è designato come punto di contatto nel cluster.
kubectl get pods -o wide -n apigee NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE apigee-cassandra-0 1/1 Running 0 5d 10.0.0.11 gke-k8s-dc-2-default-pool-a2206492-p55d apigee-cassandra-1 1/1 Running 0 5d 10.0.2.4 gke-k8s-dc-2-default-pool-e9daaab3-tjmz apigee-cassandra-2 1/1 Running 0 5d 10.0.3.5 gke-k8s-dc-2-default-pool-e589awq3-kjch
- Decidi quale IP restituito dal comando precedente sarà il seed multiregionale .
La configurazione in questo passaggio dipende dal fatto che tu sia su GKE o GKE On-Prem:
Solo GKE: nel data center 2, configura
cassandra.multiRegionSeedHost
ecassandra.datacenter
in Gestisci i componenti del piano di runtime, dovemultiRegionSeedHost
è uno degli IP restituiti dal comando precedente:cassandra: multiRegionSeedHost: seed_host_IP datacenter: data_center_name rack: rack_name
Ad esempio:
cassandra: multiRegionSeedHost: 10.0.0.11 datacenter: "dc-2" rack: "ra-1"
Solo GKE on-prem: nel data center 2, configura
cassandra.multiRegionSeedHost
nel file di override, dovemultiRegionSeedHost
è uno degli IP restituiti dal comando precedente:cassandra: hostNetwork: true dnsPolicy: ClusterFirstWithHostNet multiRegionSeedHost: seed_host_IP
Ad esempio:
cassandra: hostNetwork: true dnsPolicy: ClusterFirstWithHostNet multiRegionSeedHost: 10.0.0.11
- Nel nuovo data center/nella nuova regione, prima di installare l'ibrido, imposta gli stessi certificati TLS e
credenziali in
overrides.yaml
impostate nella prima regione.
Configura la nuova regione
Dopo aver configurato l'host di origine, puoi configurare la nuova regione.
Per configurare la nuova regione:
- Copia il tuo certificato dal cluster esistente a quello nuovo. La nuova radice dell'autorità di certificazione è
utilizzata da Cassandra e da altri componenti ibridi per mTLS. Pertanto, è essenziale avere
coerenti in tutto il cluster.
- Imposta il contesto sullo spazio dei nomi originale:
kubectl config use-context original-cluster-name
- Esporta la configurazione attuale dello spazio dei nomi in un file:
$ kubectl get namespace
-o yaml > apigee-namespace.yaml - Esporta il secret
apigee-ca
in un file:kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
- Imposta il contesto sul nome del cluster della nuova regione:
kubectl config use-context new-cluster-name
- Importa la configurazione dello spazio dei nomi nel nuovo cluster. Assicurati di aggiornare
"spazio dei nomi" nel file se utilizzi uno spazio dei nomi diverso
nella nuova regione:
kubectl apply -f apigee-namespace.yaml
Importa il secret nel nuovo cluster:
kubectl -n cert-manager apply -f apigee-ca.yaml
- Imposta il contesto sullo spazio dei nomi originale:
- Installa il modello ibrido nella nuova regione. Assicurati che
overrides-DC_name.yaml
include gli stessi certificati TLS configurati nella prima regione, come spiegate nella sezione precedente.Esegui questi due comandi per installare il modello ibrido nella nuova regione:
apigeectl init -f overrides/overrides-DC_name.yaml
apigeectl apply -f overrides/overrides-DC_name.yaml
Espandi tutti gli spazi delle chiavi apigee.
I passaggi seguenti consentono di espandere i dati di Cassandra nel nuovo data center:
- Apri una shell nel pod Cassandra:
kubectl run -i --tty --restart=Never --rm --image google/apigee-hybrid-cassandra-client:1.0.0 cqlsh
- Connettiti al server Cassandra:
cqlsh apigee-cassandra-0.apigee-cassandra.apigee.svc.cluster.local -u ddl_user --ssl Password: Connected to apigeecluster at apigee-cassandra-0.apigee-cassandra.apigee.svc.cluster.local:9042. [cqlsh 5.0.1 | Cassandra 3.11.3 | CQL spec 3.4.4 | Native protocol v4] Use HELP for help.
- Ottieni gli spazi delle chiavi disponibili:
SELECT * from system_schema.keyspaces ; keyspace_name | durable_writes | replication ----------------------------+----------------+-------------------------------------------------------------------------------------------------------- rtc_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'} system_auth | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'} system_schema | True | {'class': 'org.apache.cassandra.locator.LocalStrategy'} cache_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'} kms_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'} kvm_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'} system_distributed | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'} system | True | {'class': 'org.apache.cassandra.locator.LocalStrategy'} perses | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'} quota_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'} system_traces | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'} (10 rows)
- Aggiorna/espandi gli spazi delle chiavi apigee:
ALTER KEYSPACE cache_hybrid_test_7_hybrid WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3};
ALTER KEYSPACE kms_hybrid_test_7_hybrid WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3};
ALTER KEYSPACE kvm_hybrid_test_7_hybrid WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3};
ALTER KEYSPACE perses WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3};
ALTER KEYSPACE quota_hybrid_test_7_hybrid WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3};
ALTER KEYSPACE rtc_hybrid_test_7_hybrid WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3};
- Convalida l'espansione dello spazio delle chiavi:
SELECT * from system_schema.keyspaces ; keyspace_name | durable_writes | replication ----------------------------+----------------+-------------------------------------------------------------------------------------------------------- system_auth | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'} system_schema | True | {'class': 'org.apache.cassandra.locator.LocalStrategy'} cache_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'} kms_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'} kvm_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'} system_distributed | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'} system | True | {'class': 'org.apache.cassandra.locator.LocalStrategy'} perses | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'} quota_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'} rtc_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'} system_traces | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'} (10 rows) ddl@cqlsh>
- Apri una shell nel pod Cassandra:
- Esegui
nodetool rebuild
in sequenza su tutti i pod nel nuovo data center. Questo può richiedere da pochi minuti ad alcune ore, a seconda delle dimensioni dei dati.kubectl exec apigee-cassandra-0 -n apigee -- nodetool rebuild -- dc-1
- Verifica i processi di ricreazione dai log. Verifica inoltre la dimensione dei dati
utilizzando il comando
nodetool status
:kubectl logs apigee-cassandra-0 -f -n apigee
L'esempio seguente mostra esempi di voci di log:
INFO 01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens) INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB) INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
- Aggiorna gli host di origine. Rimuovi
multiRegionSeedHost: 10.0.0.11
daoverrides-DC_name.yaml
e invia di nuovo la richiesta.apigeectl apply -f overrides/overrides-DC_name.yaml
Controlla lo stato del cluster Cassandra
Il seguente comando è utile per vedere se la configurazione del cluster ha esito positivo in due data center on-premise. Il comando verifica lo stato nodetool per le due regioni.
kubectl exec apigee-cassandra-0 -n apigee -- nodetool status Datacenter: us-central1 ======================= Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns (effective) Host ID Rack UN 10.12.1.45 112.09 KiB 256 100.0% 3c98c816-3f4d-48f0-9717-03d0c998637f ra-1 UN 10.12.4.36 95.27 KiB 256 100.0% 0a36383d-1d9e-41e2-924c-7b62be12d6cc ra-1 UN 10.12.5.22 88.7 KiB 256 100.0% 3561f4fa-af3d-4ea4-93b2-79ac7e938201 ra-1 Datacenter: us-west1 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns (effective) Host ID Rack UN 10.0.4.33 78.69 KiB 256 0.0% a200217d-260b-45cd-b83c-182b27ff4c99 ra-1 UN 10.0.0.21 78.68 KiB 256 0.0% 9f3364b9-a7a1-409c-9356-b7d1d312e52b ra-1 UN 10.0.1.26 15.46 KiB 256 0.0% 1666df0f-702e-4c5b-8b6e-086d0f2e47fa ra-1