Deployment multi-region

Saat ini Anda melihat versi 1.10 dari dokumentasi Apigee Hybrid. Untuk mengetahui informasi selengkapnya, lihat Versi yang didukung.

Version 1.10 

Versi yang didukung:

• v1.13 (terbaru)                        
• v1.12                         
• v1.11                         
• Daftar versi yang didukung

Versi yang tidak didukung:

• v1.10                                      
• v1.9                                         
• v1.8                                         
• v1.7                                         
• v1.6                                         
• v1.5                                         
• v1.4                                         
• v1.3                                         
• v1.2                                         
• v1.1                                         

Topik ini menjelaskan deployment multi-region untuk Apigee Hybrid di GKE, Anthos GKE yang di-deploy secara lokal, Microsoft® Azure Kubernetes Service (AKS), Amazon Elastic Kubernetes Service (EKS), dan di RedHat OpenShift. Pilih platform Anda di prasyarat dan prosedur.

Topologi untuk deployment multi-region mencakup hal berikut:

• Active-Active: Jika Anda memiliki aplikasi yang di-deploy di beberapa lokasi geografis dan memerlukan respons API latensi rendah untuk deployment Anda. Anda memiliki opsi untuk men-deploy hybrid di beberapa lokasi geografis yang paling dekat dengan klien Anda. Misalnya: Pantai Barat AS, Pantai Timur AS, Eropa, Asia Pasifik (APAC).
• Active-Passive: Saat Anda memiliki region utama dan region failover atau pemulihan dari bencana (disaster recovery).

Region dalam deployment hybrid multi-region berkomunikasi melalui Cassandra, seperti yang ditampilkan pada gambar berikut:

Prasyarat

Sebelum mengonfigurasi hybrid untuk beberapa region, Anda harus menyelesaikan prasyarat berikut:

GKE

• Saat menginstal deployment Apigee multi-region di antara jaringan yang berbeda (misalnya penyedia cloud yang berbeda, jaringan VPC yang berbeda, cloud dan infrastruktur lokal, dll.), Anda harus menyediakan konektivitas internal antara jaringan terpisah ini yang dapat digunakan Cassandra untuk berkomunikasi antar-node. Hal ini dapat dilakukan dengan VPN atau solusi konektivitas khusus cloud.
• Jika Anda menggunakan Workload Identity dalam salah satu cluster untuk mengautentikasi akun layanan, setiap cluster yang diperluas juga harus menggunakan Workload Identity. Lihat Mengaktifkan Workload Identity dengan Apigee Hybrid.
• Menyiapkan cluster Kubernetes di beberapa region dengan blok CIDR yang berbeda
• Pastikan cert-manager diinstal di setiap cluster
• Menyiapkan komunikasi lintas region
• Memastikan semua pod Cassandra dapat me-resolve nama host-nya sendiri. Jika hostNetwork disetel ke false, nama host-nya adalah nama pod Cassandra. Jika hostNetwork disetel ke true, nama host-nya adalah nama host node Kubernetes yang menjalankan pod Cassandra.
  Tips: Untuk memeriksa apakah resolusi nama host berfungsi, gunakan perintah ini.
  
  Jika hostNetwork ditetapkan ke false, gunakan Perintah 1. Jika hostNetwork ditetapkan ke true, gunakan Command 2.
  
  Jika resolusi nama host berfungsi, output akan menampilkan alamat IP. Jika resolusi nama host gagal, output akan menyertakan pesan "Host tidak ditemukan".
  
  Perintah 1:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee -- hostname -i

  
  Perintah 2:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee --overrides='{"kind":"Pod", "apiVersion":"v1", "spec": {"hostNetwork":true}}' -- hostname -i

• Persyaratan Cassandra Multi-Region:
  • Pastikan namespace jaringan pod memiliki konektivitas di seluruh region, termasuk firewall, vpn, peering vpc, dan peering vNet. Hal ini berlaku untuk sebagian besar penginstalan GKE.
  • Jika namespace jaringan pod tidak memiliki konektivitas antar-cluster (cluster berjalan dalam "mode jaringan pulau"), aktifkan fitur hostNetwork Kubernetes dengan menetapkan cassandra.hostNetwork: true dalam file penggantian untuk semua region dalam penginstalan multi-region hybrid Apigee.

    Untuk informasi lebih lanjut tentang perlunya hostNetwork, lihat Cluster mode pulau dan hostNetwork di bawah.

  • Aktifkan hostNetwork pada cluster yang ada sebelum memperluas konfigurasi multi-region ke region baru.
  • Saat hostNetwork diaktifkan, pastikan node pekerja dapat melakukan pencarian DNS maju untuk nama host-nya. Apigee Cassandra menggunakan pencarian DNS penerusan untuk mendapatkan IP host saat memulai.
    Tips: Jika resolusi DNS tidak berfungsi, coba solusi ini.

    Tambahkan entri host statis dalam file /etc/hosts dari setiap node worker cassandra seperti berikut:

    echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"

    atau

    "\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"

  • Buka port TCP 7001 antara cluster Kubernetes di semua region agar node pekerja di seluruh region dan pusat data dapat berkomunikasi. Lihat Mengonfigurasi port untuk mengetahui informasi tentang nomor port Cassandra.

Untuk informasi selengkapnya, lihat dokumentasi Kubernetes.

Catatan: Apigee merekomendasikan agar Anda memastikan waktu server Anda disinkronkan.

Beberapa fitur seperti akhir masa berlaku dan pencabutan token bergantung pada waktu sistem yang akurat. Jika Anda menghosting komponen runtime di pusat data yang berbeda, pastikan waktu sistem sudah disinkronkan.

Anda dapat menggunakan alat seperti ntpdate untuk memverifikasi bahwa waktu server sudah disinkronkan.

GKE on-prem

• Saat menginstal deployment Apigee multi-region di antara jaringan yang berbeda (misalnya penyedia cloud yang berbeda, jaringan VPC yang berbeda, cloud dan infrastruktur lokal, dll.), Anda harus menyediakan konektivitas internal antara jaringan terpisah ini yang dapat digunakan Cassandra untuk berkomunikasi antar-node. Hal ini dapat dilakukan dengan VPN atau solusi konektivitas khusus cloud.
• Menyiapkan cluster Kubernetes di beberapa region dengan blok CIDR yang berbeda
• Pastikan cert-manager diinstal di setiap cluster
• Menyiapkan komunikasi lintas region
• Memastikan semua pod Cassandra dapat me-resolve nama host-nya sendiri. Jika hostNetwork disetel ke false, nama host-nya adalah nama pod Cassandra. Jika hostNetwork disetel ke true, nama host-nya adalah nama host node Kubernetes yang menjalankan pod Cassandra.
  Tips: Untuk memeriksa apakah resolusi nama host berfungsi, gunakan perintah ini.
  
  Jika hostNetwork ditetapkan ke false, gunakan Perintah 1. Jika hostNetwork ditetapkan ke true, gunakan Command 2.
  
  Jika resolusi nama host berfungsi, output akan menampilkan alamat IP. Jika resolusi nama host gagal, output akan menyertakan pesan "Host tidak ditemukan".
  
  Perintah 1:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee -- hostname -i

  
  Perintah 2:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee --overrides='{"kind":"Pod", "apiVersion":"v1", "spec": {"hostNetwork":true}}' -- hostname -i

• Persyaratan Cassandra Multi-Region:
  • Jika namespace jaringan pod tidak memiliki konektivitas antar-cluster (cluster berjalan dalam "mode jaringan pulau", yaitu kasus default dalam penginstalan GKE lokal), aktifkan fitur hostNetwork Kubernetes dengan menyetel cassandra.hostNetwork: true dalam file penggantian untuk semua region dalam penginstalan multi-region hybrid Apigee.

    Untuk informasi lebih lanjut tentang perlunya hostNetwork, lihat Cluster mode pulau dan hostNetwork di bawah.

  • Aktifkan hostNetwork pada cluster yang ada sebelum memperluas konfigurasi multi-region ke region baru.
  • Saat hostNetwork diaktifkan, pastikan node pekerja dapat melakukan pencarian DNS maju untuk nama host-nya. Apigee Cassandra menggunakan pencarian DNS penerusan untuk mendapatkan IP host saat memulai.
    Tips: Jika resolusi DNS tidak berfungsi, coba solusi ini.

    Tambahkan entri host statis dalam file /etc/hosts dari setiap node worker cassandra seperti berikut:

    echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"

    atau

    "\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"

  • Buka port Cassandra antara cluster Kubernetes di semua region agar worker node di seluruh region dan pusat data dapat berkomunikasi. Lihat Mengonfigurasi port untuk nomor port Cassandra.

Untuk informasi selengkapnya, lihat dokumentasi Kubernetes.

Catatan: Apigee merekomendasikan agar Anda memastikan waktu server Anda disinkronkan.

Beberapa fitur seperti akhir masa berlaku dan pencabutan token bergantung pada waktu sistem yang akurat. Jika Anda menghosting komponen runtime di pusat data yang berbeda, pastikan untuk menyinkronkan waktu sistem.

Anda dapat menggunakan alat seperti ntpdate untuk memverifikasi bahwa waktu server sudah disinkronkan.

AKS

• Saat menginstal deployment Apigee multi-region di antara jaringan yang berbeda (misalnya penyedia cloud yang berbeda, jaringan VPC yang berbeda, cloud dan infrastruktur lokal, dll.), Anda harus menyediakan konektivitas internal antara jaringan terpisah ini yang dapat digunakan Cassandra untuk berkomunikasi antar-node. Hal ini dapat dilakukan dengan VPN atau solusi konektivitas khusus cloud.
• Ikuti panduan penginstalan hybrid untuk mengetahui prasyarat seperti Google Cloud dan konfigurasi organisasi sebelum beralih ke langkah penyiapan cluster.
• Pastikan cert-manager diinstal di setiap cluster
• Memastikan semua pod Cassandra dapat me-resolve nama host-nya sendiri. Jika hostNetwork disetel ke false, nama host-nya adalah nama pod Cassandra. Jika hostNetwork disetel ke true, nama host-nya adalah nama host node Kubernetes yang menjalankan pod Cassandra.
  Tips: Untuk memeriksa apakah resolusi nama host berfungsi, gunakan perintah ini.
  
  Jika hostNetwork ditetapkan ke false, gunakan Perintah 1. Jika hostNetwork ditetapkan ke true, gunakan Command 2.
  
  Jika resolusi nama host berfungsi, output akan menampilkan alamat IP. Jika resolusi nama host gagal, output akan menyertakan pesan "Host tidak ditemukan".
  
  Perintah 1:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee -- hostname -i

  
  Perintah 2:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee --overrides='{"kind":"Pod", "apiVersion":"v1", "spec": {"hostNetwork":true}}' -- hostname -i

• Persyaratan Cassandra Multi-Region:
  • Jika namespace jaringan pod tidak memiliki konektivitas antar-cluster (cluster tersebut berjalan dalam "mode jaringan pulau", yaitu kasus default dalam penginstalan AKS), aktifkan fitur hostNetwork Kubernetes dengan menetapkan cassandra.hostNetwork: true dalam file penggantian untuk semua region dalam penginstalan multi-region hybrid Apigee.

    Untuk informasi lebih lanjut tentang perlunya hostNetwork, lihat Cluster mode pulau dan hostNetwork di bawah.

  • Aktifkan hostNetwork pada cluster yang ada sebelum memperluas konfigurasi multi-region ke region baru.
  • Saat hostNetwork diaktifkan, pastikan node pekerja dapat melakukan pencarian DNS maju untuk nama host-nya. Apigee Cassandra menggunakan pencarian DNS penerusan untuk mendapatkan IP host saat memulai.
    Tips: Jika resolusi DNS tidak berfungsi, coba solusi ini.

    Tambahkan entri host statis dalam file /etc/hosts dari setiap node worker cassandra seperti berikut:

    echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"

    atau

    "\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"

  • Buka port Cassandra antara cluster Kubernetes di semua region agar worker node di seluruh region dan pusat data dapat berkomunikasi. Lihat Mengonfigurasi port untuk nomor port Cassandra.

Untuk informasi selengkapnya, lihat dokumentasi Kubernetes.

Catatan: Apigee merekomendasikan agar Anda memastikan waktu server Anda disinkronkan.

Beberapa fitur seperti akhir masa berlaku dan pencabutan token bergantung pada waktu sistem yang akurat. Jika Anda menghosting komponen runtime di pusat data yang berbeda, pastikan waktu sistem sudah disinkronkan.

Anda dapat menggunakan alat seperti ntpdate untuk memverifikasi bahwa waktu server sudah disinkronkan.

EKS

• Saat menginstal deployment Apigee multi-region di antara jaringan yang berbeda (misalnya penyedia cloud yang berbeda, jaringan VPC yang berbeda, cloud dan infrastruktur lokal, dll.), Anda harus menyediakan konektivitas internal antara jaringan terpisah ini yang dapat digunakan Cassandra untuk berkomunikasi antar-node. Hal ini dapat dilakukan dengan VPN atau solusi konektivitas khusus cloud.
• Ikuti panduan penginstalan hybrid untuk mengetahui prasyarat seperti Google Cloud dan konfigurasi organisasi sebelum beralih ke langkah penyiapan cluster.
• Pastikan cert-manager diinstal di setiap cluster
• Memastikan semua pod Cassandra dapat me-resolve nama host-nya sendiri. Jika hostNetwork disetel ke false, nama host-nya adalah nama pod Cassandra. Jika hostNetwork disetel ke true, nama host-nya adalah nama host node Kubernetes yang menjalankan pod Cassandra.
  Tips: Untuk memeriksa apakah resolusi nama host berfungsi, gunakan perintah ini.
  
  Jika hostNetwork ditetapkan ke false, gunakan Perintah 1. Jika hostNetwork ditetapkan ke true, gunakan Command 2.
  
  Jika resolusi nama host berfungsi, output akan menampilkan alamat IP. Jika resolusi nama host gagal, output akan menyertakan pesan "Host tidak ditemukan".
  
  Perintah 1:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee -- hostname -i

  
  Perintah 2:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee --overrides='{"kind":"Pod", "apiVersion":"v1", "spec": {"hostNetwork":true}}' -- hostname -i

• Persyaratan Cassandra Multi-Region:
  • Jika namespace jaringan pod tidak memiliki konektivitas antar-cluster (cluster berjalan dalam "mode jaringan pulau"), aktifkan fitur hostNetwork Kubernetes dengan menetapkan cassandra.hostNetwork: true dalam file penggantian untuk semua region dalam penginstalan multi-region hybrid Apigee. Amazon EKS menggunakan model jaringan yang terintegrasi sepenuhnya secara default.

    Untuk informasi lebih lanjut tentang perlunya hostNetwork, lihat Cluster mode pulau dan hostNetwork di bawah.

  • Aktifkan hostNetwork pada cluster yang ada sebelum memperluas konfigurasi multi-region ke region baru.
  • Saat hostNetwork diaktifkan, pastikan node pekerja dapat melakukan pencarian DNS maju untuk nama host-nya. Apigee Cassandra menggunakan pencarian DNS penerusan untuk mendapatkan IP host saat memulai.
    Tips: Jika resolusi DNS tidak berfungsi, coba solusi ini.

    Tambahkan entri host statis dalam file /etc/hosts dari setiap node worker cassandra seperti berikut:

    echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"

    atau

    "\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"

  • Buka port Cassandra antara cluster Kubernetes di semua region agar worker node di seluruh region dan pusat data dapat berkomunikasi. Lihat Mengonfigurasi port untuk nomor port Cassandra.

Untuk informasi selengkapnya, lihat dokumentasi Kubernetes.

Catatan: Apigee merekomendasikan agar Anda memastikan waktu server Anda disinkronkan.

Beberapa fitur seperti akhir masa berlaku dan pencabutan token bergantung pada waktu sistem yang akurat. Jika Anda menghosting komponen runtime di pusat data yang berbeda, pastikan waktu sistem sudah disinkronkan.

Anda dapat menggunakan alat seperti ntpdate untuk memverifikasi bahwa waktu server sudah disinkronkan.

OpenShift

• Saat menginstal deployment Apigee multi-region di antara jaringan yang berbeda (misalnya penyedia cloud yang berbeda, jaringan VPC yang berbeda, cloud dan infrastruktur lokal, dll.), Anda harus menyediakan konektivitas internal antara jaringan terpisah ini yang dapat digunakan Cassandra untuk berkomunikasi antar-node. Hal ini dapat dilakukan dengan VPN atau solusi konektivitas khusus cloud.
• Ikuti panduan penginstalan hybrid untuk mengetahui prasyarat seperti Google Cloud dan konfigurasi organisasi sebelum beralih ke langkah penyiapan cluster.
• Pastikan cert-manager diinstal di setiap cluster
• Memastikan semua pod Cassandra dapat me-resolve nama host-nya sendiri. Jika hostNetwork disetel ke false, nama host-nya adalah nama pod Cassandra. Jika hostNetwork disetel ke true, nama host-nya adalah nama host node Kubernetes yang menjalankan pod Cassandra.
  Tips: Untuk memeriksa apakah resolusi nama host berfungsi, gunakan perintah ini.
  
  Jika hostNetwork ditetapkan ke false, gunakan Perintah 1. Jika hostNetwork ditetapkan ke true, gunakan Command 2.
  
  Jika resolusi nama host berfungsi, output akan menampilkan alamat IP. Jika resolusi nama host gagal, output akan menyertakan pesan "Host tidak ditemukan".
  
  Perintah 1:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee -- hostname -i

  
  Perintah 2:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee --overrides='{"kind":"Pod", "apiVersion":"v1", "spec": {"hostNetwork":true}}' -- hostname -i

• Persyaratan Cassandra Multi-Region:
  • Jika namespace jaringan pod tidak memiliki konektivitas antar-cluster (cluster berjalan dalam "mode jaringan pulau", yaitu kasus default dalam penginstalan OpenShift), aktifkan fitur hostNetwork Kubernetes dengan menetapkan cassandra.hostNetwork: true dalam file penggantian untuk semua region dalam penginstalan multi-region hybrid Apigee.

    Untuk informasi lebih lanjut tentang perlunya hostNetwork, lihat Cluster mode pulau dan hostNetwork di bawah.

  • Aktifkan hostNetwork pada cluster yang ada sebelum memperluas konfigurasi multi-region ke region baru.
  • Saat hostNetwork diaktifkan, pastikan node pekerja dapat melakukan pencarian DNS maju untuk nama host-nya. Apigee Cassandra menggunakan pencarian DNS penerusan untuk mendapatkan IP host saat memulai.
    Tips: Jika resolusi DNS tidak berfungsi, coba solusi ini.

    Tambahkan entri host statis dalam file /etc/hosts dari setiap node worker cassandra seperti berikut:

    echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"

    atau

    "\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"

  • Buka port Cassandra antara cluster Kubernetes di semua region agar worker node di seluruh region dan pusat data dapat berkomunikasi. Lihat Mengonfigurasi port untuk nomor port Cassandra.

Untuk informasi selengkapnya, lihat dokumentasi Kubernetes.

Catatan: Apigee merekomendasikan agar Anda memastikan waktu server Anda disinkronkan.

Beberapa fitur seperti akhir masa berlaku dan pencabutan token bergantung pada waktu sistem yang akurat. Jika Anda menghosting komponen runtime di pusat data yang berbeda, pastikan waktu sistem sudah disinkronkan.

Anda dapat menggunakan alat seperti ntpdate untuk memverifikasi bahwa waktu server sudah disinkronkan.

Cluster mode pulau dan hostNetwork

Ada dua model jaringan utama untuk cluster Kubernetes: terintegrasi penuh (atau datar) dan mode pulau. Apigee merekomendasikan penggunaan model jaringan datar jika memungkinkan, karena model ini akan menyederhanakan konektivitas Cassandra multi-region. Saat cluster Kubernetes dikonfigurasi dalam mode pulau, jaringan pod akan diisolasi. Pod tidak dapat berkomunikasi langsung dengan pod yang berjalan di cluster lain menggunakan alamat IP pod. Lihat Penerapan model jaringan standar untuk mengetahui informasi lebih lanjut tentang perbedaan antara kedua model jaringan tersebut dan contohnya masing-masing.

Saat Apigee Hybrid berjalan di dua cluster Kubernetes atau lebih menggunakan model jaringan mode pulau, setelan hostNetwork untuk Cassandra harus diaktifkan melalui properti cassandra.hostNetwork. Secara default, pod Kubernetes diisolasi ke dalam namespace jaringan individual yang mencegahnya menggunakan IP node pekerja Kubernetes. Jika hostNetwork disetel ke true, pod tidak diisolasi dalam namespace jaringannya sendiri, melainkan menggunakan alamat IP dan nama host node pekerja Kubernetes tempat pod dijadwalkan. Hal ini memungkinkan Cassandra menggunakan IP node worker Kubernetes sebagai IP-nya, sehingga Cassandra dapat membuat mesh penuh di antara semua pod Cassandra di beberapa cluster yang berjalan dalam mode pulau.

Resolusi nama host Cassandra

Meskipun pod Cassandra tidak menyelesaikan pod Cassandra lainnya berdasarkan nama host, saat memulai, Cassandra akan memeriksa apakah nama host-nya sendiri dapat diselesaikan oleh DNS. Karena nama host pod sama dengan nama host node pekerja Kubernetes saat hostNetwork ditetapkan ke true, nama host node pekerja harus dapat diselesaikan ke alamat IP melalui layanan DNS cluster. Jika nama host node worker Kubernetes tidak dapat diselesaikan, pod Cassandra akan gagal dimulai sepenuhnya. Oleh karena itu, nama host node pekerja Kubernetes harus dapat diselesaikan dari pod dalam cluster saat hostNetwork ditetapkan ke true.

Mengonfigurasi Apigee Hybrid untuk multi-region

Bagian ini menjelaskan cara mengonfigurasi Apigee Hybrid untuk multi-region.

GKE

Penting: Saat memperluas Apigee Hybrid ke pusat data regional baru, pastikan untuk menginstal versi hybrid yang sama dengan yang Anda miliki di pusat data yang sudah ada. Hindari menjalankan versi hybrid yang berbeda di beberapa pusat data.

Peringatan: Jika penginstalan gagal untuk region baru, jangan lanjutkan penginstalan region. Sebagai gantinya, hapus dan buat ulang penginstalan campuran di region yang gagal.

Mengonfigurasi host seed multi-region

Bagian ini menjelaskan cara memperluas cluster Cassandra yang ada ke region baru. Penyiapan ini memungkinkan region baru mem-bootstrap cluster dan menggabungkan pusat data yang ada. Tanpa konfigurasi ini, cluster Kubernetes multi-region tidak akan saling mengetahui.

1. Setel konteks kubectl ke cluster asli sebelum mengambil nama seed:

   kubectl config use-context original-cluster-name

2. Jalankan perintah kubectl berikut guna mengidentifikasi alamat host seed untuk Cassandra di region saat ini.

   Alamat host bibit memungkinkan instance regional baru untuk menemukan cluster asli pada saat startup pertama untuk mempelajari topologi cluster. Alamat host seed ditetapkan sebagai titik kontak dalam cluster.

   kubectl get pods -o wide -n apigee -l app=apigee-cassandra --field-selector status.phase=Running

   NAME                      READY   STATUS      RESTARTS   AGE   IP          NODE                                          NOMINATED NODE
   apigee-cassandra-default-0        1/1     Running     0          5d    10.0.0.11   gke-k8s-dc-2-default-pool-a2206492-p55d
   apigee-cassandra-default-1        1/1     Running     0          5d    10.0.2.4    gke-k8s-dc-2-default-pool-e9daaab3-tjmz
   apigee-cassandra-default-2        1/1     Running     0          5d    10.0.3.5    gke-k8s-dc-2-default-pool-e589awq3-kjch

3. Tentukan IP mana yang ditampilkan dari perintah sebelumnya yang akan menjadi host seed multi-region.
4. Di pusat data 2, konfigurasikan cassandra.multiRegionSeedHost dan cassandra.datacenter di Mengelola komponen bidang runtime, dengan multiRegionSeedHost adalah salah satu IP yang ditampilkan oleh perintah sebelumnya:

   cassandra:
     multiRegionSeedHost: seed_host_IP
     datacenter: data_center_name
     rack: rack_name
     hostNetwork: false
     clusterName: cluster_name # must be the same for all regions

   Contoh:

   cassandra:
     multiRegionSeedHost: 10.0.0.11
     datacenter: "dc-2"
     rack: "ra-1"
     hostNetwork: false
     clusterName: my-apigee-cluster

5. Di pusat data/region baru, sebelum Anda menginstal hybrid, tetapkan sertifikat dan kredensial TLS yang sama di overrides.yaml seperti yang Anda tetapkan di region pertama.
   Catatan: Pastikan untuk menggunakan sertifikat dan kredensial TLS Cassandra yang sama di pusat data kedua seperti yang Anda berikan di pusat data asli. Kredensial yang Anda setel dalam file penggantian di pusat data pertama harus cocok dengan yang Anda tetapkan dalam file penggantian di pusat data kedua. Untuk mengetahui detailnya, lihat Mengonfigurasi TLS untuk Cassandra.

Menyiapkan region baru

Setelah mengonfigurasi host seed, Anda dapat menyiapkan region baru.

Untuk menyiapkan wilayah baru:

1. Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA baru digunakan oleh Cassandra dan komponen hybrid lainnya untuk mTLS. Oleh karena itu, sangat penting untuk memiliki sertifikat yang konsisten di seluruh cluster.
   1. Setel konteks ke namespace asli:

      kubectl config use-context original-cluster-name

   2. Ekspor konfigurasi namespace saat ini ke file:

      kubectl get namespace namespace -o yaml > apigee-namespace.yaml

   3. Ekspor rahasia apigee-ca ke file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml

   4. Tetapkan konteks ke nama cluster region baru:

      kubectl config use-context new-cluster-name

   5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk memperbarui "namespace" dalam file jika Anda menggunakan namespace berbeda di region baru:

      kubectl apply -f apigee-namespace.yaml

   6. Impor rahasia ke cluster baru:

      kubectl -n cert-manager apply -f apigee-ca.yaml

2. Menginstal hybrid di region baru. Pastikan bahwa file overrides-DC_name.yaml menyertakan sertifikat TLS yang sama dengan yang dikonfigurasi di region pertama, seperti yang dijelaskan di bagian sebelumnya.

   Jalankan dua perintah berikut untuk menginstal hybrid di region baru:

   Penting: Saat memperluas Apigee Hybrid ke pusat data regional baru, pastikan untuk menginstal versi hybrid yang sama dengan yang Anda miliki di pusat data yang sudah ada. Hindari menjalankan versi hybrid yang berbeda di beberapa pusat data.

   apigeectl init -f overrides/overrides-DC_name.yaml

   apigeectl apply -f overrides/overrides-DC_name.yaml

3. Pastikan penginstalan hybrid berhasil dengan menjalankan perintah berikut:

   apigeectl check-ready -f overrides_DC_name.yaml

4. Verifikasi penyiapan cluster Cassandra dengan menjalankan perintah berikut. Output akan menampilkan pusat data yang sudah ada dan baru.
   Peringatan: Jika output perintah ini tidak menampilkan pusat data yang sudah ada dan yang baru, penyiapan akan gagal. Dalam kasus ini, jangan lanjutkan lebih lanjut.

   Untuk memperbaiki masalah ini, penginstalan hybrid di region baru harus dihapus dan dibuat ulang. Lihat Meng-uninstal runtime hybrid. Jika penyiapan gagal, jangan mencoba melanjutkan atau mencoba bergabung dengan cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
     -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh yang menampilkan penyiapan yang berhasil:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-2
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

5. Siapkan Cassandra di semua pod di pusat data baru.
   1. Dapatkan apigeeorg dari cluster dengan perintah berikut:

      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Contoh:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      

   2. Buat file resource kustom replikasi data cassandra (YAML). File dapat memiliki nama apa saja. Dalam contoh berikut, file akan memiliki nama datareplication.yaml.

      File tersebut harus berisi hal berikut:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: REGION_EXPANSION
        namespace: NAMESPACE
      spec:
        organizationRef: APIGEEORG_VALUE
        force: false
        source:
          region: SOURCE_REGION

      Dengan keterangan:

      • REGION_EXPANSION adalah nama yang Anda berikan untuk metadata ini. Anda dapat menggunakan nama apa pun.
      • NAMESPACE adalah namespace yang sama dengan yang disediakan di overrides.yaml. Nama ini biasanya "apigee".
      • APIGEEORG_VALUE adalah output nilai dari perintah kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" di langkah sebelumnya. Misalnya, rg-hybrid-b7d3b9c
      • SOURCE_REGION adalah region sumber, nilai pusat data di bagian cassandra dari penggantian region sumber.yaml

      Contoh:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: region-expansion
        namespace: apigee
      spec:
        organizationRef: rg-hybrid-b7d3b9c
        force: false
        source:
          region: "dc-1"

   3. Terapkan CassandraDataReplication dengan perintah berikut:

      kubectl apply -f datareplication.yaml

   4. Verifikasi status build ulang menggunakan perintah berikut.
      Catatan: Operasi rebuild dapat memakan waktu beberapa jam, bergantung pada ukuran datanya.

      kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

      Hasilnya akan terlihat seperti:

      {
        "rebuildDetails": {
          "apigee-cassandra-default-0": {
            "state": "complete",
            "updated": 1623105760
          },
          "apigee-cassandra-default-1": {
            "state": "complete",
            "updated": 1623105765
          },
          "apigee-cassandra-default-2": {
            "state": "complete",
            "updated": 1623105770
          }
        },
        "state": "complete",
        "updated": 1623105770
      }

6. Verifikasi proses build ulang dari log. Selain itu, verifikasi ukuran data menggunakan perintah nodetool status.
   Catatan: Jika operasi pembuatan ulang menunjukkan status selesai dan log proses pembuatan ulang berisi "Semua sesi selesai", berarti semua data telah berhasil disalin ke region baru.

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh berikut menunjukkan contoh entri log:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

7. Memperbarui host seed. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DC_name.yaml dan ajukan permohonan kembali.
   Catatan: Host seed adalah anggota cluster lokal. Untuk mem-booting region baru, diperlukan host seed eksternal. Setelah region melakukan booting, Anda perlu mengubah host seed kembali ke cluster lokalnya di overrides.yaml, lalu menerapkan kembali konfigurasi.

   apigeectl apply -f overrides/overrides-DC_name.yaml

Memeriksa status cluster Cassandra

Perintah berikut berguna untuk melihat apakah penyiapan cluster berhasil di dua pusat data. Perintah ini memeriksa status nodetool untuk dua region.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

Datacenter: dc-1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          100.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          100.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          100.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

GKE on-prem

Penting: Saat memperluas Apigee Hybrid ke pusat data regional baru, pastikan untuk menginstal versi hybrid yang sama dengan yang Anda miliki di pusat data yang sudah ada. Hindari menjalankan versi hybrid yang berbeda di beberapa pusat data.

Peringatan: Jika penginstalan gagal untuk region baru, jangan lanjutkan penginstalan region. Sebagai gantinya, hapus dan buat ulang penginstalan campuran di region yang gagal.

Mengonfigurasi host seed multi-region

Bagian ini menjelaskan cara memperluas cluster Cassandra yang ada ke region baru. Penyiapan ini memungkinkan region baru mem-bootstrap cluster dan menggabungkan pusat data yang ada. Tanpa konfigurasi ini, cluster Kubernetes multi-region tidak akan saling mengetahui.

1. Dalam file overrides.yaml untuk cluster asli Anda, pastikan cassandra:hostNetwork ditetapkan ke true. Contoh:

   cassandra:
     hostNetwork: true

   Lihat Prasyarat untuk informasi selengkapnya tentang kapan harus menetapkan hostNetwork: true.

2. Jika cassandra:hostNetwork tidak ditetapkan ke true, lakukan hal berikut:
   1. Ubah cassandra.hostNetwork menjadi true.
   2. Terapkan file konfigurasi overrides.yaml dengan perintah:

        apigeectl apply -f overrides.yaml --datastore
        

   3. Tunggu hingga pod Cassandra menyelesaikan mulai ulang berkelanjutan.

   4. Pastikan cluster Cassandra responsif dengan perintah berikut:

        kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
        

        nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
        

      Pastikan semua node Cassandra dalam output memiliki status UN (Naik/Normal):

        nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD describecluster
        

      Tips: APIGEE_JMX_USER dan APIGEE_JMX_PASSWORD biasanya ditentukan dalam variabel lingkungan $APIGEE_JMX_USER dan $APIGEE_JMX_PASSWORD.

      Pastikan tidak ada node yang tidak dapat dijangkau yang tercantum dalam output.

3. Setel konteks kubectl ke cluster asli sebelum mengambil nama seed:

   kubectl config use-context original-cluster-name

4. Jalankan perintah kubectl berikut guna mengidentifikasi alamat host seed untuk Cassandra di region saat ini.

   Alamat host bibit memungkinkan instance regional baru untuk menemukan cluster asli pada saat startup pertama untuk mempelajari topologi cluster. Alamat host seed ditetapkan sebagai titik kontak dalam cluster.

   kubectl get pods -o wide -n apigee -l app=apigee-cassandra --field-selector status.phase=Running

   NAME                      READY   STATUS      RESTARTS   AGE   IP          NODE                                          NOMINATED NODE
   apigee-cassandra-default-0        1/1     Running     0          5d    10.0.0.11   gke-k8s-dc-2-default-pool-a2206492-p55d
   apigee-cassandra-default-1        1/1     Running     0          5d    10.0.2.4    gke-k8s-dc-2-default-pool-e9daaab3-tjmz
   apigee-cassandra-default-2        1/1     Running     0          5d    10.0.3.5    gke-k8s-dc-2-default-pool-e589awq3-kjch

5. Tentukan IP mana yang ditampilkan dari perintah sebelumnya yang akan menjadi host seed multi-region.
6. Di pusat data 2, konfigurasi cassandra.multiRegionSeedHost di file penggantian, dengan multiRegionSeedHost sebagai salah satu IP yang ditampilkan oleh perintah sebelumnya:

   cassandra:
     hostNetwork: true
     multiRegionSeedHost: seed_host_IP
     datacenter: data_center_name
     rack: rack_name
       clusterName: cluster_name # must be the same for all regions

   Contoh:

   cassandra:
     hostNetwork: true
     multiRegionSeedHost: 10.0.0.11
     datacenter: "dc-2"
     rack: "ra-1"
     clusterName: my-apigee-cluster

7. Di pusat data/region baru, sebelum Anda menginstal hybrid, tetapkan sertifikat dan kredensial TLS yang sama di overrides.yaml seperti yang Anda tetapkan di region pertama.
   Catatan: Pastikan untuk menggunakan sertifikat dan kredensial TLS Cassandra yang sama di pusat data kedua seperti yang Anda berikan di pusat data asli. Kredensial yang Anda setel dalam file penggantian di pusat data pertama harus cocok dengan yang Anda tetapkan dalam file penggantian di pusat data kedua. Untuk mengetahui detailnya, lihat Mengonfigurasi TLS untuk Cassandra.

Menyiapkan region baru

Setelah mengonfigurasi host seed, Anda dapat menyiapkan region baru.

Untuk menyiapkan wilayah baru:

1. Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA baru digunakan oleh Cassandra dan komponen hybrid lainnya untuk mTLS. Oleh karena itu, sangat penting untuk memiliki sertifikat yang konsisten di seluruh cluster.
   1. Setel konteks ke namespace asli:

      kubectl config use-context original-cluster-name

   2. Ekspor konfigurasi namespace saat ini ke file:

      kubectl get namespace namespace -o yaml > apigee-namespace.yaml

   3. Ekspor rahasia apigee-ca ke file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml

   4. Tetapkan konteks ke nama cluster region baru:

      kubectl config use-context new-cluster-name

   5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk memperbarui "namespace" dalam file jika Anda menggunakan namespace berbeda di region baru:

      kubectl apply -f apigee-namespace.yaml

   6. Impor rahasia ke cluster baru:

      kubectl -n cert-manager apply -f apigee-ca.yaml

2. Menginstal hybrid di region baru. Pastikan bahwa file overrides-DC_name.yaml menyertakan sertifikat TLS yang sama dengan yang dikonfigurasi di region pertama, seperti yang dijelaskan di bagian sebelumnya.

   Jalankan dua perintah berikut untuk menginstal hybrid di region baru:

   Penting: Saat memperluas Apigee Hybrid ke pusat data regional baru, pastikan untuk menginstal versi hybrid yang sama dengan yang Anda miliki di pusat data yang sudah ada. Hindari menjalankan versi hybrid yang berbeda di beberapa pusat data.

   apigeectl init -f overrides/overrides-DC_name.yaml

   apigeectl apply -f overrides/overrides-DC_name.yaml

3. Pastikan penginstalan hybrid berhasil dengan menjalankan perintah berikut:

   apigeectl check-ready -f overrides_DC_name.yaml

4. Verifikasi penyiapan cluster Cassandra dengan menjalankan perintah berikut. Output akan menampilkan pusat data yang sudah ada dan baru.
   Peringatan: Jika output perintah ini tidak menampilkan pusat data yang sudah ada dan yang baru, penyiapan akan gagal. Dalam kasus ini, jangan lanjutkan lebih lanjut.

   Untuk memperbaiki masalah ini, penginstalan hybrid di region baru harus dihapus dan dibuat ulang. Lihat Meng-uninstal runtime hybrid. Jika penyiapan gagal, jangan mencoba melanjutkan atau mencoba bergabung dengan cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
     -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh yang menampilkan penyiapan yang berhasil:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-2
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

5. Siapkan Cassandra di semua pod di pusat data baru.
   1. Dapatkan apigeeorg dari cluster dengan perintah berikut:

      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Contoh:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      

   2. Buat file resource kustom replikasi data cassandra (YAML). File dapat memiliki nama apa saja. Dalam contoh berikut, file akan memiliki nama datareplication.yaml.

      File tersebut harus berisi hal berikut:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: REGION_EXPANSION
        namespace: NAMESPACE
      spec:
        organizationRef: APIGEEORG_VALUE
        force: false
        source:
          region: SOURCE_REGION

      Dengan keterangan:

      • REGION_EXPANSION adalah nama yang Anda berikan untuk metadata ini. Anda dapat menggunakan nama apa pun.
      • NAMESPACE adalah namespace yang sama dengan yang disediakan di overrides.yaml. Nama ini biasanya "apigee".
      • APIGEEORG_VALUE adalah output nilai dari perintah kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" di langkah sebelumnya. Misalnya, rg-hybrid-b7d3b9c
      • SOURCE_REGION adalah region sumber, nilai pusat data di bagian cassandra dari penggantian region sumber.yaml

      Contoh:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: region-expansion
        namespace: apigee
      spec:
        organizationRef: rg-hybrid-b7d3b9c
        force: false
        source:
          region: "dc-1"

   3. Terapkan CassandraDataReplication dengan perintah berikut:

      kubectl apply -f datareplication.yaml

   4. Verifikasi status build ulang menggunakan perintah berikut.
      Catatan: Operasi rebuild dapat memakan waktu beberapa jam, bergantung pada ukuran datanya.

      kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

      Hasilnya akan terlihat seperti:

      {
        "rebuildDetails": {
          "apigee-cassandra-default-0": {
            "state": "complete",
            "updated": 1623105760
          },
          "apigee-cassandra-default-1": {
            "state": "complete",
            "updated": 1623105765
          },
          "apigee-cassandra-default-2": {
            "state": "complete",
            "updated": 1623105770
          }
        },
        "state": "complete",
        "updated": 1623105770
      }

6. Verifikasi proses build ulang dari log. Selain itu, verifikasi ukuran data menggunakan perintah nodetool status.
   Catatan: Jika operasi pembuatan ulang menunjukkan status selesai dan log proses pembuatan ulang berisi "Semua sesi selesai", berarti semua data telah berhasil disalin ke region baru.

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh berikut menunjukkan contoh entri log:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

7. Memperbarui host seed. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DC_name.yaml dan ajukan permohonan kembali.
   Catatan: Host seed adalah anggota cluster lokal. Untuk mem-booting region baru, diperlukan host seed eksternal. Setelah region melakukan booting, Anda perlu mengubah host seed kembali ke cluster lokalnya di overrides.yaml, lalu menerapkan kembali konfigurasi.

   apigeectl apply -f overrides/overrides-DC_name.yaml

Memeriksa status cluster Cassandra

Perintah berikut berguna untuk melihat apakah penyiapan cluster berhasil di dua pusat data. Perintah ini memeriksa status nodetool untuk dua region.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

Datacenter: dc-1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          100.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          100.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          100.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

AKS

Penting: Saat memperluas Apigee Hybrid ke pusat data regional baru, pastikan untuk menginstal versi hybrid yang sama dengan yang Anda miliki di pusat data yang sudah ada. Hindari menjalankan versi hybrid yang berbeda di beberapa pusat data.

Peringatan: Jika penginstalan gagal untuk region baru, jangan lanjutkan penginstalan region. Sebagai gantinya, hapus dan buat ulang penginstalan campuran di region yang gagal.

Buat jaringan virtual di setiap region

Ikuti rekomendasi Azure untuk membuat komunikasi lintas region di sini: VNet-to-VNet: Menghubungkan Jaringan Virtual di Azure di Berbagai Region.

Membuat cluster multi-regional

Siapkan cluster Kubernetes di beberapa region dengan blok CIDR yang berbeda. Lihat juga Langkah 1: Buat cluster. Gunakan nama lokasi dan jaringan virtual yang Anda buat sebelumnya.

Buka port Cassandra antara cluster Kubernetes di semua region agar worker node di seluruh region dan pusat data dapat berkomunikasi. Lihat Mengonfigurasi port untuk nomor port Cassandra.

Mengonfigurasi host seed multi-region

Bagian ini menjelaskan cara memperluas cluster Cassandra yang ada ke region baru. Penyiapan ini memungkinkan region baru mem-bootstrap cluster dan menggabungkan pusat data yang ada. Tanpa konfigurasi ini, cluster Kubernetes multi-region tidak akan saling mengetahui.

1. Dalam file overrides.yaml untuk cluster asli Anda, pastikan cassandra:hostNetwork ditetapkan ke true. Contoh:

   cassandra:
     hostNetwork: true

   Lihat Prasyarat untuk informasi selengkapnya tentang kapan harus menetapkan hostNetwork: true.

2. Jika cassandra:hostNetwork tidak ditetapkan ke true, lakukan hal berikut:
   1. Ubah cassandra.hostNetwork menjadi true.
   2. Terapkan file konfigurasi overrides.yaml dengan perintah:

        apigeectl apply -f overrides.yaml --datastore
        

   3. Tunggu hingga pod Cassandra menyelesaikan mulai ulang berkelanjutan.

   4. Pastikan cluster Cassandra responsif dengan perintah berikut:

        kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
        

        nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
        

      Pastikan semua node Cassandra dalam output memiliki status UN (Naik/Normal):

        nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD describecluster
        

      Tips: APIGEE_JMX_USER dan APIGEE_JMX_PASSWORD biasanya ditentukan dalam variabel lingkungan $APIGEE_JMX_USER dan $APIGEE_JMX_PASSWORD.

      Pastikan tidak ada node yang tidak dapat dijangkau yang tercantum dalam output.

3. Setel konteks kubectl ke cluster asli sebelum mengambil nama seed:

   kubectl config use-context original-cluster-name

4. Jalankan perintah kubectl berikut guna mengidentifikasi alamat host seed untuk Cassandra di region saat ini.

   Alamat host bibit memungkinkan instance regional baru untuk menemukan cluster asli pada saat startup pertama untuk mempelajari topologi cluster. Alamat host seed ditetapkan sebagai titik kontak dalam cluster.

   kubectl get pods -o wide -n apigee -l app=apigee-cassandra --field-selector status.phase=Running

   apigee-cassandra-default-0  1/1   Running   0   4d17h   120.38.1.9  aks-agentpool-21207753-vmss000000

5. Tentukan IP mana yang ditampilkan dari perintah sebelumnya yang akan menjadi host seed multi-region. Dalam contoh ini, saat hanya ada satu cluster cassandra node yang berjalan, host seednya adalah 120.38.1.9.
6. Di pusat data 2, salin file penggantian ke file baru yang namanya menyertakan nama cluster. Misalnya, overrides_your_cluster_name.yaml.
7. Di pusat data 2, konfigurasikan cassandra.multiRegionSeedHost dan cassandra.datacenter di overrides_your_cluster_name.yaml, dengan multiRegionSeedHost adalah salah satu IP yang ditampilkan oleh perintah sebelumnya:

   cassandra:
        multiRegionSeedHost: seed_host_IP
        datacenter: data_center_name
        rack: rack_name
        hostNetwork: true
        clusterName: cluster_name # must be the same for all regions

   Contoh:

   cassandra:
     multiRegionSeedHost: 120.38.1.9
     datacenter: "centralus"
     rack: "ra-1"
     hostNetwork: true
     clusterName: my-apigee-cluster

8. Di pusat data/region baru, sebelum Anda menginstal hybrid, tetapkan sertifikat dan kredensial TLS yang sama di overrides_your_cluster_name.yaml seperti yang Anda tetapkan di region pertama.
   Catatan: Pastikan untuk menggunakan sertifikat dan kredensial TLS Cassandra yang sama di pusat data kedua seperti yang Anda berikan di pusat data asli. Kredensial yang Anda setel dalam file penggantian di pusat data pertama harus cocok dengan yang Anda tetapkan dalam file penggantian di pusat data kedua. Untuk mengetahui detailnya, lihat Mengonfigurasi TLS untuk Cassandra.

Menyiapkan region baru

Setelah mengonfigurasi host seed, Anda dapat menyiapkan region baru.

Untuk menyiapkan wilayah baru:

1. Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA baru digunakan oleh Cassandra dan komponen hybrid lainnya untuk mTLS. Oleh karena itu, sangat penting untuk memiliki sertifikat yang konsisten di seluruh cluster.
   1. Setel konteks ke namespace asli:

      kubectl config use-context original-cluster-name

   2. Ekspor konfigurasi namespace saat ini ke file:

      kubectl get namespace namespace -o yaml > apigee-namespace.yaml

   3. Ekspor rahasia apigee-ca ke file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml

   4. Tetapkan konteks ke nama cluster region baru:

      kubectl config use-context new-cluster-name

   5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk memperbarui "namespace" dalam file jika Anda menggunakan namespace berbeda di region baru:

      kubectl apply -f apigee-namespace.yaml

   6. Impor rahasia ke cluster baru:

      kubectl -n cert-manager apply -f apigee-ca.yaml

2. Menginstal hybrid di region baru. Pastikan bahwa file overrides_your_cluster_name.yaml menyertakan sertifikat TLS yang sama dengan yang dikonfigurasi di region pertama, seperti yang dijelaskan di bagian sebelumnya.

   Jalankan dua perintah berikut untuk menginstal hybrid di region baru:

   Penting: Saat memperluas Apigee Hybrid ke pusat data regional baru, pastikan untuk menginstal versi hybrid yang sama dengan yang Anda miliki di pusat data yang sudah ada. Hindari menjalankan versi hybrid yang berbeda di beberapa pusat data.

   apigeectl init -f overrides_your_cluster_name.yaml

   apigeectl apply -f overrides_your_cluster_name.yaml

3. Pastikan penginstalan hybrid berhasil dengan menjalankan perintah berikut:

   apigeectl check-ready -f overrides_your_cluster_name.yaml

4. Verifikasi penyiapan cluster Cassandra dengan menjalankan perintah berikut. Output akan menampilkan pusat data yang sudah ada dan baru.
   Peringatan: Jika output perintah ini tidak menampilkan pusat data yang sudah ada dan yang baru, penyiapan akan gagal. Dalam kasus ini, jangan lanjutkan lebih lanjut.

   Untuk memperbaiki masalah ini, penginstalan hybrid di region baru harus dihapus dan dibuat ulang. Lihat Meng-uninstal runtime hybrid. Jika penyiapan gagal, jangan mencoba melanjutkan atau mencoba bergabung dengan cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
     -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh yang menampilkan penyiapan yang berhasil:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-2
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

5. Siapkan Cassandra di semua pod di pusat data baru.
   1. Dapatkan apigeeorg dari cluster dengan perintah berikut:

      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Contoh:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      

   2. Buat file resource kustom replikasi data cassandra (YAML). File dapat memiliki nama apa saja. Dalam contoh berikut, file akan memiliki nama datareplication.yaml.

      File tersebut harus berisi hal berikut:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: REGION_EXPANSION
        namespace: NAMESPACE
      spec:
        organizationRef: APIGEEORG_VALUE
        force: false
        source:
          region: SOURCE_REGION

      Dengan keterangan:

      • REGION_EXPANSION adalah nama yang Anda berikan untuk metadata ini. Anda dapat menggunakan nama apa pun.
      • NAMESPACE adalah namespace yang sama dengan yang disediakan di overrides.yaml. Nama ini biasanya "apigee".
      • APIGEEORG_VALUE adalah output nilai dari perintah kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" di langkah sebelumnya. Misalnya, rg-hybrid-b7d3b9c
      • SOURCE_REGION adalah region sumber, nilai pusat data di bagian cassandra dari penggantian region sumber.yaml

      Contoh:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: region-expansion
        namespace: apigee
      spec:
        organizationRef: rg-hybrid-b7d3b9c
        force: false
        source:
          region: "dc-1"

   3. Terapkan CassandraDataReplication dengan perintah berikut:

      kubectl apply -f datareplication.yaml

   4. Verifikasi status build ulang menggunakan perintah berikut.
      Catatan: Operasi rebuild dapat memakan waktu beberapa jam, bergantung pada ukuran datanya.

      kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

      Hasilnya akan terlihat seperti:

      {
        "rebuildDetails": {
          "apigee-cassandra-default-0": {
            "state": "complete",
            "updated": 1623105760
          },
          "apigee-cassandra-default-1": {
            "state": "complete",
            "updated": 1623105765
          },
          "apigee-cassandra-default-2": {
            "state": "complete",
            "updated": 1623105770
          }
        },
        "state": "complete",
        "updated": 1623105770
      }

6. Verifikasi proses build ulang dari log. Selain itu, verifikasi ukuran data menggunakan perintah nodetool status.
   Catatan: Jika operasi pembuatan ulang menunjukkan status selesai dan log proses pembuatan ulang berisi "Semua sesi selesai", berarti semua data telah berhasil disalin ke region baru.

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh berikut menunjukkan contoh entri log:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

7. Memperbarui host seed. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DC_name.yaml dan ajukan permohonan kembali.
   Catatan: Host seed adalah anggota cluster lokal. Untuk mem-booting region baru, diperlukan host seed eksternal. Setelah region melakukan booting, Anda perlu mengubah host seed kembali ke cluster lokalnya di overrides.yaml, lalu menerapkan kembali konfigurasi.

   apigeectl apply -f overrides/overrides-DC_name.yaml

Memeriksa status cluster Cassandra

Perintah berikut berguna untuk melihat apakah penyiapan cluster berhasil di dua pusat data. Perintah ini memeriksa status nodetool untuk dua region.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

Datacenter: dc-1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          100.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          100.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          100.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

EKS

Penting: Saat memperluas Apigee Hybrid ke pusat data regional baru, pastikan untuk menginstal versi hybrid yang sama dengan yang Anda miliki di pusat data yang sudah ada. Hindari menjalankan versi hybrid yang berbeda di beberapa pusat data. Pembatasan ini tidak berlaku saat mengupgrade beberapa pusat data ke versi baru.

Peringatan: Jika penginstalan gagal untuk region baru, jangan lanjutkan penginstalan region. Sebagai gantinya, hapus dan buat ulang penginstalan campuran di region yang gagal.

Buat jaringan virtual di setiap region

Ikuti rekomendasi AWS untuk membuat komunikasi lintas region seperti yang dijelaskan dalam: Apa yang dimaksud dengan peering VPC?. Istilah AWS untuk menggunakan region yang berbeda adalah peering VPC antar-Region.

Membuat cluster multi-regional

Siapkan cluster Kubernetes di beberapa region dengan blok CIDR yang berbeda. Lihat juga Langkah 1: Buat cluster. Gunakan nama lokasi dan jaringan virtual yang Anda buat sebelumnya.

Buka port Cassandra antara cluster Kubernetes di semua region agar worker node di seluruh region dan pusat data dapat berkomunikasi. Lihat Mengonfigurasi port untuk nomor port Cassandra.

Mengonfigurasi host seed multi-region

Bagian ini menjelaskan cara memperluas cluster Cassandra yang ada ke region baru. Penyiapan ini memungkinkan region baru mem-bootstrap cluster dan menggabungkan pusat data yang ada. Tanpa konfigurasi ini, cluster Kubernetes multi-region tidak akan saling mengetahui.

1. Dalam file overrides.yaml untuk cluster asli Anda, pastikan cassandra:hostNetwork ditetapkan ke true. Contoh:

   cassandra:
     hostNetwork: true

   Lihat Prasyarat untuk informasi selengkapnya tentang kapan harus menetapkan hostNetwork: true.

2. Jika cassandra:hostNetwork tidak ditetapkan ke true, lakukan hal berikut:
   1. Ubah cassandra.hostNetwork menjadi true.
   2. Terapkan file konfigurasi overrides.yaml dengan perintah:

        apigeectl apply -f overrides.yaml --datastore
        

   3. Tunggu hingga pod Cassandra menyelesaikan mulai ulang berkelanjutan.

   4. Pastikan cluster Cassandra responsif dengan perintah berikut:

        kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
        

        nodetool -u $APIGEE_JMX_USER -pw $APIGEE_JMX_PASSWORD status
        

      Pastikan semua node Cassandra dalam output memiliki status UN (Naik/Normal):

        nodetool -u $APIGEE_JMX_USER -pw $APIGEE_JMX_PASSWORD describecluster
        

      Pastikan tidak ada node yang tidak dapat dijangkau yang tercantum dalam output.

3. Setel konteks kubectl ke cluster asli sebelum mengambil nama seed:

   kubectl config use-context original-cluster-name

4. Jalankan perintah kubectl berikut guna mengidentifikasi alamat host seed untuk Cassandra di region saat ini.

   Alamat host bibit memungkinkan instance regional baru untuk menemukan cluster asli pada saat startup pertama untuk mempelajari topologi cluster. Alamat host seed ditetapkan sebagai titik kontak dalam cluster.

   kubectl get pods -o wide -n apigee | grep apigee-cassandra

   apigee-cassandra-default-0  1/1   Running   0   4d17h   120.38.1.9  aks-agentpool-21207753-vmss000000

5. Tentukan IP mana yang ditampilkan dari perintah sebelumnya yang akan menjadi host seed multi-region. Dalam contoh ini, saat hanya ada satu cluster cassandra node yang berjalan, host seednya adalah 120.38.1.9.
6. Di pusat data 2, salin file penggantian ke file baru yang namanya menyertakan nama cluster. Misalnya, overrides_your_cluster_name.yaml.
7. Di pusat data 2, konfigurasikan cassandra.multiRegionSeedHost dan cassandra.datacenter di overrides_your_cluster_name.yaml, dengan multiRegionSeedHost adalah salah satu IP yang ditampilkan oleh perintah sebelumnya:

   cassandra:
        multiRegionSeedHost: seed_host_IP
        datacenter: data_center_name
        rack: rack_name
        hostNetwork: true
        clusterName: cluster_name # must be the same for all regions

   Contoh:

   cassandra:
     multiRegionSeedHost: 120.38.1.9
     datacenter: "centralus"
     rack: "ra-1"
     hostNetwork: true
     clusterName: my-apigee-cluster

8. Di pusat data/region baru, sebelum Anda menginstal hybrid, tetapkan sertifikat dan kredensial TLS yang sama di overrides_your_cluster_name.yaml seperti yang Anda tetapkan di region pertama.
   Catatan: Pastikan untuk menggunakan sertifikat dan kredensial TLS Cassandra yang sama di pusat data kedua seperti yang Anda berikan di pusat data asli. Kredensial yang Anda setel dalam file penggantian di pusat data pertama harus cocok dengan yang Anda tetapkan dalam file penggantian di pusat data kedua. Untuk mengetahui detailnya, lihat Mengonfigurasi TLS untuk Cassandra.

Menyiapkan region baru

Setelah mengonfigurasi host seed, Anda dapat menyiapkan region baru.

Untuk menyiapkan wilayah baru:

1. Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA baru digunakan oleh Cassandra dan komponen hybrid lainnya untuk mTLS. Oleh karena itu, sangat penting untuk memiliki sertifikat yang konsisten di seluruh cluster.
   1. Setel konteks ke namespace asli:

      kubectl config use-context original-cluster-name

   2. Ekspor konfigurasi namespace saat ini ke file:

      kubectl get namespace namespace -o yaml > apigee-namespace.yaml

   3. Ekspor rahasia apigee-ca ke file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml

   4. Tetapkan konteks ke nama cluster region baru:

      kubectl config use-context new-cluster-name

   5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk memperbarui "namespace" dalam file jika Anda menggunakan namespace berbeda di region baru:

      kubectl apply -f apigee-namespace.yaml

   6. Impor rahasia ke cluster baru:

      kubectl -n cert-manager apply -f apigee-ca.yaml

2. Menginstal hybrid di region baru. Pastikan bahwa file overrides_your_cluster_name.yaml menyertakan sertifikat TLS yang sama dengan yang dikonfigurasi di region pertama, seperti yang dijelaskan di bagian sebelumnya.

   Jalankan dua perintah berikut untuk menginstal hybrid di region baru:

   Penting: Saat memperluas Apigee Hybrid ke pusat data regional baru, pastikan untuk menginstal versi hybrid yang sama dengan yang Anda miliki di pusat data yang sudah ada. Hindari menjalankan versi hybrid yang berbeda di beberapa pusat data.

   apigeectl init -f overrides_your_cluster_name.yaml

   apigeectl apply -f overrides_your_cluster_name.yaml

3. Pastikan penginstalan hybrid berhasil dengan menjalankan perintah berikut:

   apigeectl check-ready -f overrides_your_cluster_name.yaml

4. Verifikasi penyiapan cluster Cassandra dengan menjalankan perintah berikut. Output akan menampilkan pusat data yang sudah ada dan baru.
   Peringatan: Jika output perintah ini tidak menampilkan pusat data yang sudah ada dan yang baru, penyiapan akan gagal. Dalam kasus ini, jangan lanjutkan lebih lanjut.

   Untuk memperbaiki masalah ini, penginstalan hybrid di region baru harus dihapus dan dibuat ulang. Lihat Meng-uninstal runtime hybrid. Jika penyiapan gagal, jangan mencoba melanjutkan atau mencoba bergabung dengan cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
     -- nodetool -u JMX_user -pw JMX_password status

   Contoh yang menampilkan penyiapan yang berhasil:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-2
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

5. Siapkan Cassandra di semua pod di pusat data baru.
   1. Dapatkan apigeeorg dari cluster dengan perintah berikut:

      kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name
      

      Contoh:

      Ex: kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name
      "rg-hybrid-b7d3b9c"
      

   2. Buat file resource kustom replikasi data cassandra (YAML). File dapat memiliki nama apa saja. Dalam contoh berikut, file akan memiliki nama datareplication.yaml.

      File tersebut harus berisi hal berikut:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: REGION_EXPANSION
        namespace: NAMESPACE
      spec:
        organizationRef: APIGEEORG_VALUE
        force: false
        source:
          region: SOURCE_REGION

      Dengan keterangan:

      • REGION_EXPANSION adalah nama yang Anda berikan untuk metadata ini. Anda dapat menggunakan nama apa pun.
      • NAMESPACE adalah namespace yang sama dengan yang disediakan di overrides.yaml. Nama ini biasanya "apigee".
      • APIGEEORG_VALUE adalah output nilai dari perintah kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name di langkah sebelumnya. Misalnya, rg-hybrid-b7d3b9c
      • SOURCE_REGION adalah region sumber, nilai pusat data di bagian cassandra dari penggantian region sumber.yaml

      Contoh:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: region-expansion
        namespace: apigee
      spec:
        organizationRef: rg-hybrid-b7d3b9c
        force: false
        source:
          region: "dc-1"

   3. Terapkan CassandraDataReplication dengan perintah berikut:

      kubectl apply -f datareplication.yaml

   4. Verifikasi status build ulang menggunakan perintah berikut.
      Catatan: Operasi rebuild dapat memakan waktu beberapa jam, bergantung pada ukuran datanya.

      kubectl -n apigee get apigeeds -o json | jq .items[].status.cassandraDataReplication

      Hasilnya akan terlihat seperti:

      {
        "rebuildDetails": {
          "apigee-cassandra-default-0": {
            "state": "complete",
            "updated": 1623105760
          },
          "apigee-cassandra-default-1": {
            "state": "complete",
            "updated": 1623105765
          },
          "apigee-cassandra-default-2": {
            "state": "complete",
            "updated": 1623105770
          }
        },
        "state": "complete",
        "updated": 1623105770
      }

6. Verifikasi proses build ulang dari log. Selain itu, verifikasi ukuran data menggunakan perintah nodetool status:

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status

   Contoh berikut menunjukkan contoh entri log:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

7. Memperbarui host seed. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DC_name.yaml dan ajukan ulang permohonan.
   Catatan: Host seed adalah anggota cluster lokal. Untuk mem-booting region baru, diperlukan host seed eksternal. Setelah region melakukan booting, Anda perlu mengubah host seed kembali ke cluster lokalnya di overrides.yaml, lalu menerapkan kembali konfigurasi.

   apigeectl apply -f overrides/overrides-DC_name.yaml

Memeriksa status cluster Cassandra

Perintah berikut berguna untuk melihat apakah penyiapan cluster berhasil di dua pusat data. Perintah ini memeriksa status nodetool untuk dua region.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status

Datacenter: dc-1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          0.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          0.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          0.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

OpenShift

Penting: Saat memperluas Apigee Hybrid ke pusat data regional baru, pastikan untuk menginstal versi hybrid yang sama dengan yang Anda miliki di pusat data yang sudah ada. Hindari menjalankan versi hybrid yang berbeda di beberapa pusat data.

Peringatan: Jika penginstalan gagal untuk region baru, jangan lanjutkan penginstalan region. Sebagai gantinya, hapus dan buat ulang penginstalan campuran di region yang gagal.

Mengonfigurasi host seed multi-region

Bagian ini menjelaskan cara memperluas cluster Cassandra yang ada ke region baru. Penyiapan ini memungkinkan region baru mem-bootstrap cluster dan menggabungkan pusat data yang ada. Tanpa konfigurasi ini, cluster Kubernetes multi-region tidak akan saling mengetahui.

1. Dalam file overrides.yaml untuk cluster asli Anda, pastikan cassandra:hostNetwork ditetapkan ke true. Contoh:

   cassandra:
     hostNetwork: true

   Lihat Prasyarat untuk informasi selengkapnya tentang kapan harus menetapkan hostNetwork: true.

2. Jika cassandra:hostNetwork tidak ditetapkan ke true, lakukan hal berikut:
   1. Ubah cassandra.hostNetwork menjadi true.
   2. Terapkan file konfigurasi overrides.yaml dengan perintah:

        apigeectl apply -f overrides.yaml --datastore
        

   3. Tunggu hingga pod Cassandra menyelesaikan mulai ulang berkelanjutan.

   4. Pastikan cluster Cassandra responsif dengan perintah berikut:

        kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
        

        nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status
        

      Pastikan semua node Cassandra dalam output memiliki status UN (Naik/Normal):

        nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD describecluster
        

      Tips: APIGEE_JMX_USER dan APIGEE_JMX_PASSWORD biasanya ditentukan dalam variabel lingkungan $APIGEE_JMX_USER dan $APIGEE_JMX_PASSWORD.

      Pastikan tidak ada node yang tidak dapat dijangkau yang tercantum dalam output.

3. Setel konteks kubectl ke cluster asli sebelum mengambil nama seed:

   kubectl config use-context original-cluster-name

4. Jalankan perintah kubectl berikut guna mengidentifikasi alamat host seed untuk Cassandra di region saat ini.

   Alamat host bibit memungkinkan instance regional baru untuk menemukan cluster asli pada saat startup pertama untuk mempelajari topologi cluster. Alamat host seed ditetapkan sebagai titik kontak dalam cluster.

   kubectl get pods -o wide -n apigee -l app=apigee-cassandra --field-selector status.phase=Running

   NAME                      READY   STATUS      RESTARTS   AGE   IP          NODE                                          NOMINATED NODE
   apigee-cassandra-default-0        1/1     Running     0          5d    10.0.0.11   gke-k8s-dc-2-default-pool-a2206492-p55d
   apigee-cassandra-default-1        1/1     Running     0          5d    10.0.2.4    gke-k8s-dc-2-default-pool-e9daaab3-tjmz
   apigee-cassandra-default-2        1/1     Running     0          5d    10.0.3.5    gke-k8s-dc-2-default-pool-e589awq3-kjch

5. Pilih alamat IP host Cassandra sumber Anda untuk digunakan sebagai host seed multi-region. Dalam contoh ini, ini adalah cluster apigee-cassandra-default-0 yang sedang berjalan, host seednya adalah 10.0.0.11.
6. Di pusat data 2, salin file penggantian ke file baru yang namanya menyertakan nama cluster. Misalnya, overrides_your_cluster_name.yaml.
7. Di pusat data 2, konfigurasikan cassandra.multiRegionSeedHost dan cassandra.datacenter di overrides_your_cluster_name.yaml, dengan multiRegionSeedHost adalah salah satu IP yang ditampilkan oleh perintah sebelumnya:

   cassandra:
        hostNetwork: true
        multiRegionSeedHost: seed_host_IP # Cassandra pod IP address from the source region.
        datacenter: data_center_name
        rack: rack_name
        clusterName: cluster_name # must be the same for all regions

   Contoh:

   cassandra:
     hostNetwork: true
     multiRegionSeedHost: 10.0.0.11
     datacenter: "dc-2"
     rack: "ra-1"
     clusterName: my-apigee-cluster

8. Di pusat data/region baru, sebelum Anda menginstal hybrid, tetapkan sertifikat dan kredensial TLS yang sama di overrides_your_cluster_name.yaml seperti yang Anda tetapkan di region pertama.
   Catatan: Pastikan untuk menggunakan sertifikat dan kredensial TLS Cassandra yang sama di pusat data kedua seperti yang Anda berikan di pusat data asli. Kredensial yang Anda setel dalam file penggantian di pusat data pertama harus cocok dengan yang Anda tetapkan dalam file penggantian di pusat data kedua. Untuk mengetahui detailnya, lihat Mengonfigurasi TLS untuk Cassandra.

Menyiapkan region baru

Setelah mengonfigurasi host seed, Anda dapat menyiapkan region baru.

Untuk menyiapkan wilayah baru:

1. Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA baru digunakan oleh Cassandra dan komponen hybrid lainnya untuk mTLS. Oleh karena itu, sangat penting untuk memiliki sertifikat yang konsisten di seluruh cluster.
   1. Setel konteks ke namespace asli:

      kubectl config use-context original-cluster-name

   2. Ekspor konfigurasi namespace saat ini ke file:

      kubectl get namespace namespace -o yaml > apigee-namespace.yaml

   3. Ekspor rahasia apigee-ca ke file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml

   4. Tetapkan konteks ke nama cluster region baru:

      kubectl config use-context new-cluster-name

   5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk memperbarui "namespace" dalam file jika Anda menggunakan namespace berbeda di region baru:

      kubectl apply -f apigee-namespace.yaml

   6. Impor rahasia ke cluster baru:

      kubectl -n cert-manager apply -f apigee-ca.yaml

2. Menginstal hybrid di region baru. Pastikan bahwa file overrides_your_cluster_name.yaml menyertakan sertifikat TLS yang sama dengan yang dikonfigurasi di region pertama, seperti yang dijelaskan di bagian sebelumnya.

   Jalankan dua perintah berikut untuk menginstal hybrid di region baru:

   Penting: Saat memperluas Apigee Hybrid ke pusat data regional baru, pastikan untuk menginstal versi hybrid yang sama dengan yang Anda miliki di pusat data yang sudah ada. Hindari menjalankan versi hybrid yang berbeda di beberapa pusat data.

   apigeectl init -f overrides_your_cluster_name.yaml

   apigeectl apply -f overrides_your_cluster_name.yaml

3. Pastikan penginstalan hybrid berhasil dengan menjalankan perintah berikut:

   apigeectl check-ready -f overrides_your_cluster_name.yaml

4. Verifikasi penyiapan cluster Cassandra dengan menjalankan perintah berikut. Output akan menampilkan pusat data yang sudah ada dan baru.
   Peringatan: Jika output perintah ini tidak menampilkan pusat data yang sudah ada dan yang baru, penyiapan akan gagal. Dalam kasus ini, jangan lanjutkan lebih lanjut.

   Untuk memperbaiki masalah ini, penginstalan hybrid di region baru harus dihapus dan dibuat ulang. Lihat Meng-uninstal runtime hybrid. Jika penyiapan gagal, jangan mencoba melanjutkan atau mencoba bergabung dengan cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
     -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh yang menampilkan penyiapan yang berhasil:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-2
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

5. Siapkan Cassandra di semua pod di pusat data baru.
   1. Dapatkan apigeeorg dari cluster dengan perintah berikut:

      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Contoh:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      

   2. Buat file resource kustom replikasi data cassandra (YAML). File dapat memiliki nama apa saja. Dalam contoh berikut, file akan memiliki nama datareplication.yaml.

      File tersebut harus berisi hal berikut:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: REGION_EXPANSION
        namespace: NAMESPACE
      spec:
        organizationRef: APIGEEORG_VALUE
        force: false
        source:
          region: SOURCE_REGION

      Dengan keterangan:

      • REGION_EXPANSION adalah nama yang Anda berikan untuk metadata ini. Anda dapat menggunakan nama apa pun.
      • NAMESPACE adalah namespace yang sama dengan yang disediakan di overrides.yaml. Nama ini biasanya "apigee".
      • APIGEEORG_VALUE adalah output nilai dari perintah kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" di langkah sebelumnya. Misalnya, rg-hybrid-b7d3b9c
      • SOURCE_REGION adalah region sumber, nilai pusat data di bagian cassandra dari penggantian region sumber.yaml

      Contoh:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: region-expansion
        namespace: apigee
      spec:
        organizationRef: rg-hybrid-b7d3b9c
        force: false
        source:
          region: "dc-1"

   3. Terapkan CassandraDataReplication dengan perintah berikut:

      kubectl apply -f datareplication.yaml

   4. Verifikasi status build ulang menggunakan perintah berikut.
      Catatan: Operasi rebuild dapat memakan waktu beberapa jam, bergantung pada ukuran datanya.

      kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

      Hasilnya akan terlihat seperti:

      {
        "rebuildDetails": {
          "apigee-cassandra-default-0": {
            "state": "complete",
            "updated": 1623105760
          },
          "apigee-cassandra-default-1": {
            "state": "complete",
            "updated": 1623105765
          },
          "apigee-cassandra-default-2": {
            "state": "complete",
            "updated": 1623105770
          }
        },
        "state": "complete",
        "updated": 1623105770
      }

6. Verifikasi proses build ulang dari log. Selain itu, verifikasi ukuran data menggunakan perintah nodetool status.
   Catatan: Jika operasi pembuatan ulang menunjukkan status selesai dan log proses pembuatan ulang berisi "Semua sesi selesai", berarti semua data telah berhasil disalin ke region baru.

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh berikut menunjukkan contoh entri log:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

7. Memperbarui host seed. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DC_name.yaml dan ajukan permohonan kembali.
   Catatan: Host seed adalah anggota cluster lokal. Untuk mem-booting region baru, diperlukan host seed eksternal. Setelah region melakukan booting, Anda perlu mengubah host seed kembali ke cluster lokalnya di overrides.yaml, lalu menerapkan kembali konfigurasi.

   apigeectl apply -f overrides/overrides-DC_name.yaml

Memeriksa status cluster Cassandra

Perintah berikut berguna untuk melihat apakah penyiapan cluster berhasil di dua pusat data. Perintah ini memeriksa status nodetool untuk dua region.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

Datacenter: dc-1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          100.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          100.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          100.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

Pemecahan masalah

Lihat Kegagalan replikasi data Cassandra.