Topik ini menjelaskan deployment multi-region untuk Apigee Hybrid di GKE dan Anthos GKE di-deploy secara lokal.
Topologi untuk deployment multi-region mencakup hal berikut:
- Aktif-Aktif: Saat Anda memiliki aplikasi yang di-deploy di beberapa lokasi geografis lokasi dan Anda memerlukan respons API latensi rendah untuk deployment Anda. Anda memiliki opsi untuk men-deploy hybrid di berbagai lokasi geografis yang paling dekat dengan klien Anda. Misalnya: Pantai Barat AS, Pantai Timur AS, Eropa, APAC.
- Aktif-Pasif: Saat Anda memiliki region utama dan failover atau bencana di region pemulihan.
Region dalam deployment hybrid multi-region berkomunikasi melalui Cassandra, seperti dalam gambar berikut menampilkan:
Load balancing koneksi MART
Setiap cluster regional harus memiliki IP MART dan nama host; Namun, Anda hanya perlu untuk menghubungkan bidang manajemen dengan salah satu dari mereka. Cassandra menyebarkan informasi ke semua setiap cluster. Opsi terbaik untuk ketersediaan tinggi MART adalah melakukan load balancing alamat IP MART masing-masing dan mengonfigurasi organisasi Anda untuk berkomunikasi dengan URL MART.
Prasyarat
Sebelum mengonfigurasi hybrid untuk beberapa region, Anda harus menyelesaikan prasyarat berikut:
- Menyiapkan cluster Kubernetes di beberapa region dengan blok CIDR yang berbeda
- Menyiapkan komunikasi lintas region
- Persyaratan Cassandra Multi Region:
- Pastikan namespace jaringan pod memiliki konektivitas di seluruh region, termasuk firewall, VPN, peering vpc, dan peering vNet. Hal ini berlaku untuk sebagian besar penginstalan GKE.
- Jika namespace jaringan pod tidak memiliki konektivitas antara pod pada cluster yang berbeda
(cluster berjalan dalam "mode jaringan pulau", misalnya dalam penginstalan lokal GKE),
aktifkan fitur
hostNetwork
Kubernetes dengan menyetelcassandra.hostNetwork: true
di file pengganti untuk semua region di penginstalan multi-region hybrid Apigee.Untuk mengetahui informasi tentang fitur
hostNetwork
Kubernetes, lihat Pembawa Acara namespace dalam dokumentasi Kubernetes. - Aktifkan
hostNetwork
di cluster yang ada sebelum memperluas konfigurasi multi-region ke region baru. - Saat
hostNetwork
diaktifkan, pastikan node pekerja dapat melakukan tindakan balik pencarian DNS. Apigee cassandra menggunakan pencarian DNS maju dan mundur untuk mendapatkan host IP saat memulai. - Buka Cassandra port 7000 dan 7001 antara cluster Kubernetes di semua region untuk memungkinkan node pekerja lintas region dan pusat data untuk berkomunikasi. Lihat Mengonfigurasi port.
Untuk informasi selengkapnya, lihat dokumentasi Kubernetes.
Mengonfigurasi host seed multi-region
Bagian ini menjelaskan cara memperluas cluster Cassandra yang ada ke region baru. Penyiapan ini memungkinkan region baru untuk mem-bootstrap cluster dan bergabung dengan cluster yang ada pusat data. Tanpa konfigurasi ini, cluster Kubernetes multi-region tidak akan tahu satu sama lain.
Jalankan perintah
kubectl
berikut guna mengidentifikasi alamat host awal untuk Cassandra di region saat ini.Alamat host bibit memungkinkan instance regional baru untuk menemukan cluster asli pada startup pertama yang mempelajari topologi cluster. Alamat host inti ditetapkan sebagai titik kontak dalam cluster.
kubectl get pods -o wide -n apigee NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE apigee-cassandra-default-0 1/1 Running 0 5d 10.0.0.11 gke-k8s-dc-2-default-pool-a2206492-p55d apigee-cassandra-default-1 1/1 Running 0 5d 10.0.2.4 gke-k8s-dc-2-default-pool-e9daaab3-tjmz apigee-cassandra-default-2 1/1 Running 0 5d 10.0.3.5 gke-k8s-dc-2-default-pool-e589awq3-kjch
- Tentukan IP mana yang ditampilkan dari perintah sebelumnya yang akan menjadi seed multi-region {i>host<i}.
Konfigurasi pada langkah ini bergantung pada apakah Anda menggunakan GKE atau GKE lokal:
Khusus GKE: Di pusat data 2, konfigurasikan
cassandra.multiRegionSeedHost
dancassandra.datacenter
di Mengelola komponen bidang runtime, denganmultiRegionSeedHost
adalah salah satu IP yang dikembalikan oleh perintah sebelumnya:cassandra: multiRegionSeedHost: seed_host_IP datacenter: data_center_name rack: rack_name hostNetwork: false # Set this to true for Non GKE platforms.
Contoh:
cassandra: multiRegionSeedHost: 10.0.0.11 datacenter: "dc-2" rack: "ra-1" hostNetwork: false
Khusus lokal GKE: Di pusat data 2, konfigurasi
cassandra.multiRegionSeedHost
dalam file penggantian, denganmultiRegionSeedHost
adalah salah satu IP yang dikembalikan oleh perintah sebelumnya:cassandra: hostNetwork: true multiRegionSeedHost: seed_host_IP datacenter: data_center_name
Contoh:
cassandra: hostNetwork: true multiRegionSeedHost: 10.0.0.11 datacenter: "dc-2"
- Di pusat data/region baru, sebelum menginstal hybrid, setel sertifikat TLS yang sama dan
kredensial di
overrides.yaml
seperti yang Anda tetapkan di region pertama.
Menyiapkan wilayah baru
Setelah mengonfigurasi host inti, Anda dapat menyiapkan region baru.
Untuk menyiapkan wilayah baru:
- Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA yang baru adalah
digunakan oleh Cassandra dan
komponen hibrida lainnya untuk mTLS. Oleh karena itu, penting untuk memiliki
sertifikat yang konsisten di seluruh cluster.
- Tetapkan konteks ke namespace asli:
kubectl config use-context original-cluster-name
- Ekspor konfigurasi namespace saat ini ke sebuah file:
kubectl get namespace namespace -o yaml > apigee-namespace.yaml
- Ekspor rahasia
apigee-ca
ke file:kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
- Tetapkan konteks ke nama cluster region baru:
kubectl config use-context new-cluster-name
- Impor konfigurasi namespace ke cluster baru. Pastikan untuk memperbarui
"ruang nama" pada file jika menggunakan namespace yang berbeda
di wilayah baru:
kubectl apply -f apigee-namespace.yaml
Impor rahasia ke cluster baru:
kubectl -n cert-manager apply -f apigee-ca.yaml
- Tetapkan konteks ke namespace asli:
- Instal hybrid di region baru. Pastikan bahwa
overrides-DC_name.yaml
menyertakan sertifikat TLS yang sama yang dikonfigurasi di region pertama, seperti yang dijelaskan di bagian sebelumnya.Jalankan dua perintah berikut untuk menginstal hybrid di region baru:
apigeectl init -f overrides/overrides-DC_name.yaml
apigeectl apply -f overrides/overrides-DC_name.yaml
- Pastikan penginstalan hybrid berhasil dengan menjalankan perintah berikut:
apigeectl check-ready -f overrides_your_cluster_name.yaml
- Verifikasi penyiapan cluster Cassandra dengan menjalankan perintah berikut. Output harus
menunjukkan pusat data
yang ada dan yang baru.
kubectl exec apigee-cassandra-default-0 -n apigee \ -- nodetool -u JMX_user -pw JMX_password status
Contoh yang menunjukkan penyiapan yang berhasil:
Datacenter: dc-1 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.87.93 68.07 GiB 256 ? fb51465c-167a-42f7-98c9-b6eba1de34de c UN 10.132.84.94 69.9 GiB 256 ? f621a5ac-e7ee-48a9-9a14-73d69477c642 b UN 10.132.84.105 76.95 GiB 256 ? 0561086f-e95b-4232-ba6c-ad519ff30336 d Datacenter: dc-2 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns Host ID Rack UN 10.132.0.8 71.61 GiB 256 ? 8894a98b-8406-45de-99e2-f404ab10b5d6 c UN 10.132.9.204 75.1 GiB 256 ? afa0ffa3-630b-4f1e-b46f-fc3df988092e a UN 10.132.3.133 68.08 GiB 256 ? 25ae39ab-b39e-4d4f-9cb7-de095ab873db b
- Siapkan Cassandra di semua pod di pusat data yang baru.
- Dapatkan
apigeeorg
dari cluster dengan perintah berikut:kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name
Contoh:
Ex: kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name "rg-hybrid-b7d3b9c"
- Buat file resource kustom replikasi data cassandra (
YAML
). Tujuan {i>file<i} dapat memiliki nama apa pun. Pada contoh berikut, file akan memiliki namadatareplication.yaml
.File harus berisi hal-hal berikut:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: REGION_EXPANSION namespace: NAMESPACE spec: organizationRef: APIGEEORG_VALUE force: false source: region: SOURCE_REGION
Dengan keterangan:
- REGION_EXPANSION adalah nama yang Anda berikan metadata ini. Anda dapat gunakan nama apa pun.
- NAMESPACE adalah namespace yang sama dengan yang disediakan di
overrides.yaml
. Nama ini biasanya adalah "apigee
". - APIGEEORG_VALUE adalah output nilai dari
kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name
perintah di langkah sebelumnya. Misalnya,rg-hybrid-b7d3b9c
- SOURCE_REGION adalah nama pusat data di region sumber. Ini adalah
nilai yang ditetapkan untuk
cassandra:datacenter:
dioverrides.yaml
.
Contoh:
apiVersion: apigee.cloud.google.com/v1alpha1 kind: CassandraDataReplication metadata: name: region-expansion namespace: apigee spec: organizationRef: rg-hybrid-b7d3b9c force: false source: region: "dc-1"
- Terapkan
CassandraDataReplication
dengan perintah berikut:kubectl apply -f datareplication.yaml
- Verifikasi status pembuatan ulang menggunakan perintah berikut.
kubectl -n apigee get apigeeds -o json | jq .items[].status.cassandraDataReplication
Hasilnya akan terlihat seperti:
{ "rebuildDetails": { "apigee-cassandra-default-0": { "state": "complete", "updated": 1623105760 }, "apigee-cassandra-default-1": { "state": "complete", "updated": 1623105765 }, "apigee-cassandra-default-2": { "state": "complete", "updated": 1623105770 } }, "state": "complete", "updated": 1623105770 }
- Dapatkan
- Verifikasi proses build ulang dari log. Juga, verifikasi ukuran data
menggunakan perintah
nodetool status
:kubectl logs apigee-cassandra-default-0 -f -n apigee
kubectl exec apigee-cassandra-default-0 -n apigee -- nodetool -u JMX_user -pw JMX_password status
Contoh berikut menunjukkan contoh entri log:
INFO 01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens) INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB) INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
- Memperbarui host seed. Hapus
multiRegionSeedHost: 10.0.0.11
darioverrides-DC_name.yaml
dan ajukan permohonan kembali.apigeectl apply -f overrides/overrides-DC_name.yaml
Memeriksa status cluster Cassandra
Perintah berikut berguna untuk melihat apakah penyiapan cluster berhasil di dua pusat data. Perintah tersebut memeriksa status nodetool untuk kedua region.
kubectl exec apigee-cassandra-default-0 -n apigee -- nodetool -u JMX_user -pw JMX_password status Datacenter: dc-1 ================ Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns (effective) Host ID Rack UN 10.12.1.45 112.09 KiB 256 100.0% 3c98c816-3f4d-48f0-9717-03d0c998637f ra-1 UN 10.12.4.36 95.27 KiB 256 100.0% 0a36383d-1d9e-41e2-924c-7b62be12d6cc ra-1 UN 10.12.5.22 88.7 KiB 256 100.0% 3561f4fa-af3d-4ea4-93b2-79ac7e938201 ra-1 Datacenter: dc-2 ================ Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns (effective) Host ID Rack UN 10.0.4.33 78.69 KiB 256 0.0% a200217d-260b-45cd-b83c-182b27ff4c99 ra-1 UN 10.0.0.21 78.68 KiB 256 0.0% 9f3364b9-a7a1-409c-9356-b7d1d312e52b ra-1 UN 10.0.1.26 15.46 KiB 256 0.0% 1666df0f-702e-4c5b-8b6e-086d0f2e47fa ra-1
Pemecahan masalah
Lihat Kegagalan replikasi data Cassandra.