Deployment multi-region di AKS

Topik ini menjelaskan cara menyiapkan deployment multi-region untuk Apigee Hybrid di Microsoft® Azure Kubernetes Service (AKS).

Topologi untuk deployment multi-region meliputi:

  • Active-Active: Jika Anda memiliki aplikasi yang di-deploy di beberapa lokasi geografis dan memerlukan respons API latensi rendah untuk deployment Anda. Anda memiliki opsi untuk men-deploy hybrid di beberapa lokasi geografis yang paling dekat dengan klien Anda. Misalnya: Pantai Barat AS, Pantai Timur AS, Eropa, APAC.
  • Active-Passive: Saat Anda memiliki region utama dan region failover atau pemulihan dari bencana (disaster recovery).

Region dalam deployment hybrid multi-region berkomunikasi melalui Cassandra, seperti yang ditunjukkan gambar berikut:

Prasyarat

Sebelum mengonfigurasi hybrid untuk beberapa region, Anda harus menyelesaikan prasyarat berikut:

  • Ikuti panduan penginstalan hybrid untuk mengetahui prasyarat apa pun seperti Google Cloud dan konfigurasi organisasi sebelum melanjutkan ke langkah penyiapan cluster.
  • Persyaratan Cassandra Multi-Region:
    • Jika namespace jaringan pod tidak memiliki konektivitas antara pod di cluster yang berbeda (cluster berjalan dalam "mode jaringan pulau", yaitu kasus default dalam penginstalan AKS), aktifkan fitur hostNetwork Kubernetes dengan menetapkan cassandra.hostNetwork: true dalam file penggantian untuk semua region dalam penginstalan multi-region hybrid Apigee Anda.
    • Aktifkan hostNetwork pada cluster yang ada sebelum memperluas konfigurasi multi-region Anda ke region baru.
    • Saat hostNetwork diaktifkan, pastikan node pekerja dapat melakukan pencarian DNS terbalik. Apigee cassandra menggunakan pencarian DNS maju dan terbalik untuk mendapatkan IP host saat memulai.
    • Buka port Cassandra 7000 dan 7001 antara cluster Kubernetes di semua region untuk memungkinkan node pekerja lintas region dan pusat data untuk berkomunikasi. Lihat Mengonfigurasi port.

Untuk informasi selengkapnya, lihat dokumentasi Kubernetes.

Buat jaringan virtual di setiap region

Ikuti dokumentasi Azure Kubernetes Service (AKS) untuk:

  • Buat jaringan virtual di setiap region.
  • Membuat peering jaringan antar-region.
  • Memverifikasi peering jaringan.

Membuat cluster multi-regional

Siapkan cluster Kubernetes di beberapa region dengan blok CIDR yang berbeda. Lihat juga Langkah 1: Buat cluster. Gunakan nama lokasi dan jaringan virtual yang Anda buat sebelumnya.

Membuka port Cassandra 7000 dan 7001 antara cluster Kubernetes di semua region (7000 dapat digunakan sebagai opsi cadangan selama pemecahan masalah)

Mengonfigurasi host awal multi-region

Bagian ini menjelaskan cara memperluas gugus Cassandra yang ada ke region baru. Dengan penyiapan ini, region baru dapat mem-bootstrap cluster dan menggabungkan pusat data yang ada. Tanpa konfigurasi ini, cluster Kubernetes multi-region tidak akan saling mengetahui.

  1. Tetapkan konteks kubectl ke cluster asli sebelum mengambil nama seed:
    kubectl config use-context original-cluster-name
  2. Jalankan perintah kubectl berikut guna mengidentifikasi alamat host inti untuk Cassandra di region saat ini.

    Alamat host bibit memungkinkan instance regional baru menemukan cluster asli pada startup pertama untuk mempelajari topologi cluster. Alamat host seed ditetapkan sebagai titik kontak dalam cluster.

    kubectl get pods -o wide -n apigee | grep apigee-cassandra
    
    apigee-cassandra-default-0  1/1   Running   0   4d17h   120.38.1.9  aks-agentpool-21207753-vmss000000
    
  3. Tentukan IP yang ditampilkan dari perintah sebelumnya yang akan menjadi host seed multi-region. Dalam contoh ini, dengan hanya satu cluster cassandra node yang berjalan, host seednya adalah 120.38.1.9.
  4. Di pusat data 2, salin file penggantian ke file baru yang namanya menyertakan nama cluster. Misalnya, overrides_your_cluster_name.yaml.
  5. Di pusat data 2, konfigurasikan cassandra.multiRegionSeedHost dan cassandra.datacenter di overrides_your_cluster_name.yaml, dengan multiRegionSeedHost adalah salah satu IP yang ditampilkan oleh perintah sebelumnya:
    cassandra:
      multiRegionSeedHost: seed_host_IP
      datacenter: data_center_name
      rack: rack_name

    Contoh:

    cassandra:
      multiRegionSeedHost: 120.38.1.9
      datacenter: "dc-1"
      rack: "ra-1"
  6. Di pusat data/region baru, sebelum Anda menginstal hybrid, tetapkan sertifikat dan kredensial TLS yang sama di overrides_your_cluster_name.yaml seperti yang Anda tetapkan di region pertama.

Menyiapkan wilayah baru

Setelah mengonfigurasi host seed, Anda dapat menyiapkan region baru.

Untuk menyiapkan wilayah baru:

  1. Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA baru digunakan oleh Cassandra dan komponen hybrid lainnya untuk mTLS. Oleh karena itu, penting untuk memiliki sertifikat yang konsisten di seluruh cluster.
    1. Setel konteks ke namespace asli:
      kubectl config use-context original-cluster-name
    2. Ekspor konfigurasi namespace saat ini ke file:
      $ kubectl get namespace apigee -o yaml > apigee-namespace.yaml

      apigee adalah namespace default.

    3. Ekspor rahasia apigee-ca ke file:
      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
    4. Setel konteks ke nama cluster region baru:
      kubectl config use-context new-cluster-name
    5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk memperbarui "namespace" dalam file jika Anda menggunakan namespace berbeda di region baru:
      kubectl apply -f apigee-namespace.yaml
    6. Impor rahasia ke cluster baru:

      kubectl -n cert-manager apply -f apigee-ca.yaml
  2. Instal hybrid di region baru. Pastikan file overrides_your_cluster_name.yaml menyertakan sertifikat TLS yang sama dengan yang dikonfigurasi di region pertama, seperti yang dijelaskan di bagian sebelumnya.

    Jalankan dua perintah berikut untuk menginstal hybrid di region baru:

    apigeectl init -f overrides_your_cluster_name.yaml
    apigeectl apply -f overrides_your_cluster_name.yaml
  3. Jalankan nodetool rebuild secara berurutan pada semua node di pusat data baru. Proses ini mungkin memerlukan waktu beberapa menit hingga beberapa jam, tergantung ukuran data.
    kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password rebuild -- dc-1

    Dengan JMX_user dan JMX_password adalah nama pengguna dan sandi untuk Pengguna Cassandra JMX.

  4. Verifikasi proses build ulang dari log. Selain itu, verifikasi ukuran data menggunakan perintah nodetool status:
    kubectl logs apigee-cassandra-default-0 -f -n apigee
    kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status

    Contoh berikut menunjukkan contoh entri log:

    INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
    INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
    INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
  5. Memperbarui host inti. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DC_name.yaml dan ajukan ulang permohonan.
    apigeectl apply -f overrides-DC_name.yaml