Deployment multi-region di GKE dan GKE lokal

Saat ini Anda melihat versi 1.2 dokumentasi Hybrid Apigee. Versi ini akan segera berakhir. Anda harus mengupgradenya ke versi yang lebih baru. Untuk informasi selengkapnya, lihat Versi yang didukung.

Version 1.2 (unsupported)

Versi yang didukung:

• v1.12 (terbaru)                        
• v1.11                         
• v1.10                                        
• Daftar versi yang didukung

Versi yang tidak didukung:

• v1.9                                         
• v1.8                                         
• v1.7                                         
• v1.6                                         
• v1.5                                         
• v1.4                                         
• v1.3                                         
• v1.2                                         
• v1.1                                         

Topik ini menjelaskan deployment multi-region untuk Apigee Hybrid di GKE dan Anthos GKE yang di-deploy secara lokal.

Topologi untuk deployment multi-region meliputi:

• Active-Active: Jika Anda memiliki aplikasi yang di-deploy di beberapa lokasi geografis dan memerlukan respons API latensi rendah untuk deployment Anda. Anda memiliki opsi untuk men-deploy hybrid di beberapa lokasi geografis yang paling dekat dengan klien Anda. Misalnya: Pantai Barat AS, Pantai Timur AS, Eropa, APAC.
• Active-Passive: Saat Anda memiliki region utama dan region failover atau pemulihan dari bencana (disaster recovery).

Region dalam deployment hybrid multi-region berkomunikasi melalui Cassandra, seperti yang ditunjukkan gambar berikut:

Melakukan load balancing pada koneksi MART

Setiap cluster regional harus memiliki IP MART dan nama host sendiri. Namun, Anda hanya perlu menghubungkan bidang pengelolaan ke salah satunya. Cassandra menyebarkan informasi ke semua cluster. Opsi terbaik untuk ketersediaan tinggi MART adalah dengan melakukan load balancing terhadap setiap alamat IP MART dan mengonfigurasi organisasi agar terhubung dengan URL MART dengan load balancing.

Prasyarat

Sebelum mengonfigurasi hybrid untuk beberapa region, Anda harus menyelesaikan prasyarat berikut:

• Siapkan cluster Kubernetes di beberapa region dengan blok CIDR yang berbeda
• Menyiapkan komunikasi lintas region
• Buka port Cassandra 7000 dan 7001 antara cluster Kubernetes di semua region (7000 dapat digunakan sebagai opsi cadangan selama pemecahan masalah). Lihat juga Mengonfigurasi port.

Untuk informasi selengkapnya, lihat dokumentasi Kubernetes.

CATATAN: Apigee merekomendasikan agar Anda memastikan bahwa waktu server Anda disinkronkan.

Beberapa fitur seperti masa berlaku dan pencabutan token bergantung pada waktu sistem yang akurat. Jika Anda menghosting komponen runtime di pusat data yang berbeda, pastikan waktu sistem disinkronkan.

Anda dapat menggunakan alat seperti ntpdate untuk memverifikasi bahwa waktu server disinkronkan.

Mengonfigurasi host awal multi-region

Bagian ini menjelaskan cara memperluas gugus Cassandra yang ada ke region baru. Dengan penyiapan ini, region baru dapat mem-bootstrap cluster dan menggabungkan pusat data yang ada. Tanpa konfigurasi ini, cluster Kubernetes multi-region tidak akan saling mengetahui.

1. Jalankan perintah kubectl berikut guna mengidentifikasi alamat host inti untuk Cassandra di region saat ini.

   Alamat host bibit memungkinkan instance regional baru menemukan cluster asli pada startup pertama untuk mempelajari topologi cluster. Alamat host seed ditetapkan sebagai titik kontak dalam cluster.

   kubectl get pods -o wide -n apigee
   
   NAME                      READY   STATUS      RESTARTS   AGE   IP          NODE                                          NOMINATED NODE
   apigee-cassandra-0        1/1     Running     0          5d    10.0.0.11   gke-k8s-dc-2-default-pool-a2206492-p55d
   apigee-cassandra-1        1/1     Running     0          5d    10.0.2.4    gke-k8s-dc-2-default-pool-e9daaab3-tjmz
   apigee-cassandra-2        1/1     Running     0          5d    10.0.3.5    gke-k8s-dc-2-default-pool-e589awq3-kjch

2. Tentukan IP yang ditampilkan dari perintah sebelumnya yang akan menjadi host seed multi-region.

3. Konfigurasi pada langkah ini bergantung pada apakah Anda menggunakan GKE atau GKE lokal:

   Khusus GKE: Di pusat data 2, konfigurasikan cassandra.multiRegionSeedHost dan cassandra.datacenter di Kelola komponen bidang runtime, dengan multiRegionSeedHost adalah salah satu IP yang ditampilkan oleh perintah sebelumnya:

   cassandra:
     multiRegionSeedHost: seed_host_IP
     datacenter: data_center_name
     rack: rack_name

   Contoh:

   cassandra:
     multiRegionSeedHost: 10.0.0.11
     datacenter: "dc-2"
     rack: "ra-1"

   Khusus GKE on-prem: Di pusat data 2, konfigurasikan cassandra.multiRegionSeedHost dalam file penggantian, dengan multiRegionSeedHost adalah salah satu IP yang ditampilkan oleh perintah sebelumnya:

   cassandra:
     hostNetwork: true
     dnsPolicy: ClusterFirstWithHostNet
     multiRegionSeedHost: seed_host_IP
   

   Contoh:

   cassandra:
     hostNetwork: true
     dnsPolicy: ClusterFirstWithHostNet
     multiRegionSeedHost: 10.0.0.11
   

4. Di pusat data/region baru, sebelum Anda menginstal hybrid, tetapkan sertifikat dan kredensial TLS yang sama di overrides.yaml seperti yang Anda tetapkan di region pertama.
   CATATAN: Pastikan Anda menggunakan sertifikat dan kredensial TLS Cassandra yang sama di pusat data kedua seperti yang Anda berikan di pusat data asli. Kredensial yang Anda tetapkan di overrides.yaml di pusat data pertama harus cocok dengan kredensial yang Anda tentukan di overrides.yaml di pusat data kedua. Untuk mengetahui detailnya, lihat Mengonfigurasi TLS untuk Cassandra.

Menyiapkan wilayah baru

Setelah mengonfigurasi host seed, Anda dapat menyiapkan region baru.

Untuk menyiapkan wilayah baru:

1. Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA baru digunakan oleh Cassandra dan komponen hybrid lainnya untuk mTLS. Oleh karena itu, penting untuk memiliki sertifikat yang konsisten di seluruh cluster.
   1. Setel konteks ke namespace asli:

      kubectl config use-context original-cluster-name

   2. Ekspor konfigurasi namespace saat ini ke file:

      $ kubectl get namespace  -o yaml > apigee-namespace.yaml

   3. Ekspor rahasia apigee-ca ke file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml

   4. Setel konteks ke nama cluster region baru:

      kubectl config use-context new-cluster-name

   5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk memperbarui "namespace" dalam file ini jika Anda menggunakan namespace berbeda di region baru:

      kubectl apply -f apigee-namespace.yaml

   6. Impor rahasia ke cluster baru:

      kubectl -n cert-manager apply -f apigee-ca.yaml

2. Instal hybrid di region baru. Pastikan file overrides-DC_name.yaml menyertakan sertifikat TLS yang sama dengan yang dikonfigurasi di region pertama, seperti yang dijelaskan di bagian sebelumnya.

   Jalankan dua perintah berikut untuk menginstal hybrid di region baru:

   apigeectl init -f overrides/overrides-DC_name.yaml

   apigeectl apply -f overrides/overrides-DC_name.yaml

3. Luaskan semua keyspace apigee.

   Langkah-langkah berikut akan memperluas data Cassandra ke pusat data yang baru:

   1. Buka shell di pod Cassandra:

      kubectl run -i --tty --restart=Never --rm --image google/apigee-hybrid-cassandra-client:1.0.0 cqlsh

      CATATAN: Jika Anda tidak melihat command prompt, coba tekan tombol ENTER.
   2. Hubungkan ke server Cassandra:

      cqlsh apigee-cassandra-0.apigee-cassandra.apigee.svc.cluster.local -u ddl_user --ssl
      Password:
      
      Connected to apigeecluster at apigee-cassandra-0.apigee-cassandra.apigee.svc.cluster.local:9042.
      [cqlsh 5.0.1 | Cassandra 3.11.3 | CQL spec 3.4.4 | Native protocol v4]
      Use HELP for help.

   3. Mendapatkan keyspace yang tersedia:

      SELECT * from system_schema.keyspaces ;
       keyspace_name              | durable_writes | replication
      ----------------------------+----------------+--------------------------------------------------------------------------------------------------------
         rtc_hybrid_test_7_hybrid |           True |                  {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'}
                      system_auth |           True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'}
                    system_schema |           True |                                                {'class': 'org.apache.cassandra.locator.LocalStrategy'}
       cache_hybrid_test_7_hybrid |           True |                  {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'}
         kms_hybrid_test_7_hybrid |           True |                  {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'}
         kvm_hybrid_test_7_hybrid |           True |                  {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'}
               system_distributed |           True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'}
                           system |           True |                                                {'class': 'org.apache.cassandra.locator.LocalStrategy'}
                           perses |           True |                  {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'}
       quota_hybrid_test_7_hybrid |           True |                  {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'}
                    system_traces |           True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'}
      
      (10 rows)

   4. Update/luaskan keyspace apigee:

      ALTER KEYSPACE cache_hybrid_test_7_hybrid WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3};
      ALTER KEYSPACE kms_hybrid_test_7_hybrid WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3};
      ALTER KEYSPACE kvm_hybrid_test_7_hybrid WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3};
      ALTER KEYSPACE perses WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3};
      ALTER KEYSPACE quota_hybrid_test_7_hybrid  WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3};
      ALTER KEYSPACE rtc_hybrid_test_7_hybrid  WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3};

   5. Validasi perluasan keyspace:

      SELECT * from system_schema.keyspaces ;
       keyspace_name              | durable_writes | replication
      ----------------------------+----------------+--------------------------------------------------------------------------------------------------------
                      system_auth |           True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'}
                    system_schema |           True |                                                {'class': 'org.apache.cassandra.locator.LocalStrategy'}
       cache_hybrid_test_7_hybrid |           True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'}
         kms_hybrid_test_7_hybrid |           True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'}
         kvm_hybrid_test_7_hybrid |           True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'}
               system_distributed |           True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'}
                           system |           True |                                                {'class': 'org.apache.cassandra.locator.LocalStrategy'}
                           perses |           True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'}
       quota_hybrid_test_7_hybrid |           True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'}
       rtc_hybrid_test_7_hybrid   |           True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'}
                    system_traces |           True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'}
      
      (10 rows)
      ddl@cqlsh>

4. Jalankan nodetool rebuild secara berurutan pada semua pod di pusat data baru. Proses ini mungkin memerlukan waktu beberapa menit hingga beberapa jam, tergantung ukuran data.

   kubectl exec apigee-cassandra-0 -n apigee  -- nodetool rebuild -- dc-1

5. Verifikasi proses build ulang dari log. Selain itu, verifikasi ukuran data menggunakan perintah nodetool status:

   kubectl logs apigee-cassandra-0 -f -n apigee

   Contoh berikut menunjukkan contoh entri log:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

6. Memperbarui host inti. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DC_name.yaml dan ajukan ulang permohonan.
   Host seed adalah anggota cluster lokal. Untuk melakukan booting region baru, host seed eksternal diperlukan. Setelah region melakukan booting, Anda perlu mengubah host seed kembali ke cluster lokalnya di overrides.yaml, lalu menerapkan kembali konfigurasi.

   apigeectl apply -f overrides/overrides-DC_name.yaml

Memeriksa status cluster Cassandra

Perintah berikut berguna untuk melihat apakah penyiapan cluster berhasil di dua pusat data. Perintah memeriksa status nodetool untuk dua region.

kubectl exec apigee-cassandra-0 -n apigee -- nodetool status

Datacenter: us-central1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          0.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          0.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          0.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1