Deployment multi-region

Anda saat ini melihat versi 1.11 dari Dokumentasi Apigee Hybrid. Untuk mengetahui informasi selengkapnya, lihat Versi yang didukung.

Version 1.11 

Versi yang didukung:

• v1.13 (terbaru)                        
• v1.12                         
• v1.11                         
• Daftar versi yang didukung

Versi yang tidak didukung:

• v1.10                                      
• v1.9                                         
• v1.8                                         
• v1.7                                         
• v1.6                                         
• v1.5                                         
• v1.4                                         
• v1.3                                         
• v1.2                                         
• v1.1                                         

Topik ini menjelaskan deployment multi-region untuk Apigee Hybrid di GKE, Anthos GKE yang di-deploy secara lokal, Microsoft® Azure Kubernetes Service (AKS), Amazon Elastic Kubernetes Service (EKS), dan di RedHat OpenShift. Pilih platform Anda menurut prasyarat dan prosedur yang berlaku.

Topologi untuk deployment multi-region mencakup hal berikut:

• Aktif-Aktif: Saat Anda memiliki aplikasi yang di-deploy di beberapa lokasi geografis lokasi dan Anda memerlukan respons API latensi rendah untuk deployment Anda. Anda memiliki opsi untuk men-deploy hybrid di berbagai lokasi geografis yang paling dekat dengan klien Anda. Misalnya: Pantai Barat AS, Pantai Timur AS, Eropa, APAC.
• Aktif-Pasif: Saat Anda memiliki region utama dan failover atau bencana di region pemulihan.

Region dalam deployment hybrid multi-region berkomunikasi melalui Cassandra, seperti dalam gambar berikut menampilkan:

Prasyarat

Sebelum mengonfigurasi hybrid untuk beberapa region, Anda harus menyelesaikan prasyarat berikut:

GKE

• Saat menginstal deployment Apigee multi-region di antara berbagai jaringan lainnya (misalnya berbagai penyedia cloud, jaringan VPC yang berbeda, dan infrastruktur lokal, dll.), Anda harus menyediakan konektivitas internal antara jaringan terpisah yang dapat digunakan Cassandra untuk berkomunikasi antar {i>node<i}. Hal ini dapat dilakukan dengan VPN atau konektivitas khusus cloud terkemuka.
• Jika Anda menggunakan Workload Identity di satu cluster untuk mengautentikasi akun layanan, kita sebaiknya gunakan Workload Identity untuk setiap cluster yang menjadi target perluasan. Lihat Mengaktifkan Workload Identity dengan Apigee Hybrid.
• Menyiapkan cluster Kubernetes di beberapa region dengan blok CIDR yang berbeda
• Pastikan cert-manager sudah diinstal di setiap cluster
• Menyiapkan komunikasi lintas region
• Pastikan semua pod Cassandra dapat me-resolve nama host-nya sendiri. Jika hostNetwork ditetapkan ke false, maka nama host adalah Nama pod Cassandra. Jika hostNetwork ditetapkan ke true, nama host adalah nama host node Kubernetes yang menjalankan pod Cassandra.
  Tips: Untuk memeriksa apakah resolusi nama host berfungsi, gunakan perintah berikut.
  
  Jika hostNetwork disetel ke false, gunakan Perintah 1. Jika hostNetwork disetel ke true, gunakan Perintah 2.
  
  Jika resolusi nama {i>host<i} berfungsi, {i>output<i} akan menampilkan alamat IP. Jika nama host resolusi gagal, output-nya akan menyertakan "Host tidak ditemukan".
  
  Perintah 1:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee -- hostname -i

  
  Perintah 2:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee --overrides='{"kind":"Pod", "apiVersion":"v1", "spec": {"hostNetwork":true}}' -- hostname -i

• Persyaratan Cassandra Multi Region:
  • Pastikan namespace jaringan pod memiliki konektivitas di seluruh region, termasuk firewall, VPN, peering vpc, dan peering vNet. Hal ini berlaku untuk sebagian besar penginstalan GKE.
  • Jika namespace jaringan pod tidak memiliki konektivitas antar-cluster (cluster tersebut berjalan dalam "mode jaringan pulau"), aktifkan hostNetwork Kubernetes dengan menyetel cassandra.hostNetwork: true di file pengganti untuk semua region di penginstalan multi-region hybrid Apigee.

    Untuk informasi selengkapnya tentang kebutuhan akan hostNetwork, lihat Cluster mode pulau dan hostNetwork di bawah ini.

  • Aktifkan hostNetwork di cluster yang ada sebelum memperluas konfigurasi multi-region ke region baru.
  • Saat hostNetwork diaktifkan, pastikan node pekerja dapat berfungsi dengan baik pencarian DNS untuk nama {i>host-<i}nya. Apigee Cassandra menggunakan pencarian DNS maju untuk mendapatkan host IP saat memulai.
    Tips: Jika resolusi DNS tidak berfungsi, coba solusi ini.

    Menambahkan entri host statis di file /etc/hosts untuk setiap node pekerja cassandra mirip dengan contoh berikut ini:

    echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"

    atau

    "\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"

  • Open TCP port 7001 antar-cluster Kubernetes di semua di region Anda untuk memungkinkan worker node di seluruh region dan pusat data untuk berkomunikasi. Lihat Mengonfigurasi port untuk mendapatkan informasi. nomor porta Cassandra.

Untuk informasi selengkapnya, lihat dokumentasi Kubernetes.

Catatan: Apigee merekomendasikan agar Anda memastikan bahwa antarmuka waktu disinkronkan.

Beberapa fitur seperti akhir masa berlaku dan pencabutan token mengandalkan waktu sistem yang akurat. Jika Anda menghosting komponen {i> runtime<i} di pusat data yang berbeda, maka pastikan bahwa waktu sistem telah disinkronkan.

Anda dapat menggunakan alat seperti ntpdate untuk memverifikasi server tersebut waktu disinkronkan.

GKE on-prem

• Saat menginstal deployment Apigee multi-region di antara berbagai jaringan lainnya (misalnya berbagai penyedia cloud, jaringan VPC yang berbeda, dan infrastruktur lokal, dll.), Anda harus menyediakan konektivitas internal antara jaringan terpisah yang dapat digunakan Cassandra untuk berkomunikasi antar {i>node<i}. Hal ini dapat dilakukan dengan VPN atau konektivitas khusus cloud terkemuka.
• Menyiapkan cluster Kubernetes di beberapa region dengan blok CIDR yang berbeda
• Pastikan cert-manager sudah diinstal di setiap cluster
• Menyiapkan komunikasi lintas region
• Pastikan semua pod Cassandra dapat me-resolve nama host-nya sendiri. Jika hostNetwork ditetapkan ke false, maka nama host adalah Nama pod Cassandra. Jika hostNetwork ditetapkan ke true, nama host adalah nama host node Kubernetes yang menjalankan pod Cassandra.
  Tips: Untuk memeriksa apakah resolusi nama host berfungsi, gunakan perintah berikut.
  
  Jika hostNetwork disetel ke false, gunakan Perintah 1. Jika hostNetwork disetel ke true, gunakan Perintah 2.
  
  Jika resolusi nama {i>host<i} berfungsi, {i>output<i} akan menampilkan alamat IP. Jika nama host resolusi gagal, output-nya akan menyertakan "Host tidak ditemukan".
  
  Perintah 1:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee -- hostname -i

  
  Perintah 2:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee --overrides='{"kind":"Pod", "apiVersion":"v1", "spec": {"hostNetwork":true}}' -- hostname -i

• Persyaratan Cassandra Multi Region:
  • Jika namespace jaringan pod tidak memiliki konektivitas antar-cluster (cluster tersebut berjalan dalam "mode jaringan pulau", kasus default dalam penginstalan lokal GKE), aktifkan fitur hostNetwork Kubernetes dengan menyetel cassandra.hostNetwork: true di file pengganti untuk semua region di penginstalan multi-region hybrid Apigee.

    Untuk informasi selengkapnya tentang kebutuhan akan hostNetwork, lihat Cluster mode pulau dan hostNetwork di bawah ini.

  • Aktifkan hostNetwork di cluster yang ada sebelum memperluas konfigurasi multi-region ke region baru.
  • Saat hostNetwork diaktifkan, pastikan node pekerja dapat berfungsi dengan baik pencarian DNS untuk nama {i>host-<i}nya. Apigee Cassandra menggunakan pencarian DNS maju untuk mendapatkan host IP saat memulai.
    Tips: Jika resolusi DNS tidak berfungsi, coba solusi ini.

    Menambahkan entri host statis di file /etc/hosts untuk setiap node pekerja cassandra mirip dengan contoh berikut ini:

    echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"

    atau

    "\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"

  • Membuka port Cassandra antar-cluster Kubernetes di semua di region Anda untuk memungkinkan worker node di seluruh region dan pusat data untuk berkomunikasi. Lihat Mengonfigurasi port untuk Nomor port Cassandra.

Untuk informasi selengkapnya, lihat dokumentasi Kubernetes.

Catatan: Apigee merekomendasikan agar Anda memastikan bahwa antarmuka waktu disinkronkan.

Beberapa fitur seperti akhir masa berlaku dan pencabutan token mengandalkan waktu sistem yang akurat. Jika Anda menghosting komponen {i> runtime<i} di pusat data yang berbeda, maka pastikan untuk menyinkronkan waktu sistem.

Anda dapat menggunakan alat seperti ntpdate untuk memverifikasi server tersebut waktu disinkronkan.

AKS

• Saat menginstal deployment Apigee multi-region di antara berbagai jaringan lainnya (misalnya berbagai penyedia cloud, jaringan VPC yang berbeda, dan infrastruktur lokal, dll.), Anda harus menyediakan konektivitas internal antara jaringan terpisah yang dapat digunakan Cassandra untuk berkomunikasi antar {i>node<i}. Hal ini dapat dilakukan dengan VPN atau konektivitas khusus cloud terkemuka.
• Ikuti penginstalan hybrid untuk prasyarat seperti Google Cloud dan konfigurasi organisasi sebelum melanjutkan ke langkah penyiapan cluster.
• Pastikan cert-manager sudah diinstal di setiap cluster
• Pastikan semua pod Cassandra dapat me-resolve nama host-nya sendiri. Jika hostNetwork ditetapkan ke false, maka nama host adalah Nama pod Cassandra. Jika hostNetwork ditetapkan ke true, nama host adalah nama host node Kubernetes yang menjalankan pod Cassandra.
  Tips: Untuk memeriksa apakah resolusi nama host berfungsi, gunakan perintah berikut.
  
  Jika hostNetwork disetel ke false, gunakan Perintah 1. Jika hostNetwork disetel ke true, gunakan Perintah 2.
  
  Jika resolusi nama {i>host<i} berfungsi, {i>output<i} akan menampilkan alamat IP. Jika nama host resolusi gagal, output-nya akan menyertakan "Host tidak ditemukan".
  
  Perintah 1:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee -- hostname -i

  
  Perintah 2:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee --overrides='{"kind":"Pod", "apiVersion":"v1", "spec": {"hostNetwork":true}}' -- hostname -i

• Persyaratan Cassandra Multi Region:
  • Jika namespace jaringan pod tidak memiliki konektivitas antar-cluster (cluster tersebut berjalan dalam "mode jaringan pulau", kasus default dalam penginstalan AKS), aktifkan fitur hostNetwork Kubernetes dengan menyetel cassandra.hostNetwork: true di file pengganti untuk semua region di penginstalan multi-region hybrid Apigee.

    Untuk informasi selengkapnya tentang kebutuhan akan hostNetwork, lihat Cluster mode pulau dan hostNetwork di bawah ini.

  • Aktifkan hostNetwork di cluster yang ada sebelum memperluas konfigurasi multi-region ke region baru.
  • Saat hostNetwork diaktifkan, pastikan node pekerja dapat berfungsi dengan baik pencarian DNS untuk nama {i>host-<i}nya. Apigee Cassandra menggunakan pencarian DNS maju untuk mendapatkan host IP saat memulai.
    Tips: Jika resolusi DNS tidak berfungsi, coba solusi ini.

    Menambahkan entri host statis di file /etc/hosts untuk setiap node pekerja cassandra mirip dengan contoh berikut ini:

    echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"

    atau

    "\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"

  • Membuka port Cassandra antar-cluster Kubernetes di semua di region Anda untuk memungkinkan worker node di seluruh region dan pusat data untuk berkomunikasi. Lihat Mengonfigurasi port untuk Nomor port Cassandra.

Untuk informasi selengkapnya, lihat dokumentasi Kubernetes.

Catatan: Apigee merekomendasikan agar Anda memastikan bahwa antarmuka waktu disinkronkan.

Beberapa fitur seperti akhir masa berlaku dan pencabutan token mengandalkan waktu sistem yang akurat. Jika Anda menghosting komponen {i> runtime<i} di pusat data yang berbeda, maka pastikan bahwa waktu sistem telah disinkronkan.

Anda dapat menggunakan alat seperti ntpdate untuk memverifikasi server tersebut waktu disinkronkan.

EKS

• Saat menginstal deployment Apigee multi-region di antara berbagai jaringan lainnya (misalnya berbagai penyedia cloud, jaringan VPC yang berbeda, dan infrastruktur lokal, dll.), Anda harus menyediakan konektivitas internal antara jaringan terpisah yang dapat digunakan Cassandra untuk berkomunikasi antar {i>node<i}. Hal ini dapat dilakukan dengan VPN atau konektivitas khusus cloud terkemuka.
• Ikuti penginstalan hybrid untuk prasyarat seperti Google Cloud dan konfigurasi organisasi sebelum melanjutkan ke langkah penyiapan cluster.
• Pastikan cert-manager sudah diinstal di setiap cluster
• Pastikan semua pod Cassandra dapat me-resolve nama host-nya sendiri. Jika hostNetwork ditetapkan ke false, maka nama host adalah Nama pod Cassandra. Jika hostNetwork ditetapkan ke true, nama host adalah nama host node Kubernetes yang menjalankan pod Cassandra.
  Tips: Untuk memeriksa apakah resolusi nama host berfungsi, gunakan perintah berikut.
  
  Jika hostNetwork disetel ke false, gunakan Perintah 1. Jika hostNetwork disetel ke true, gunakan Perintah 2.
  
  Jika resolusi nama {i>host<i} berfungsi, {i>output<i} akan menampilkan alamat IP. Jika nama host resolusi gagal, output-nya akan menyertakan "Host tidak ditemukan".
  
  Perintah 1:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee -- hostname -i

  
  Perintah 2:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee --overrides='{"kind":"Pod", "apiVersion":"v1", "spec": {"hostNetwork":true}}' -- hostname -i

• Persyaratan Cassandra Multi Region:
  • Jika namespace jaringan pod tidak memiliki konektivitas antar-cluster (cluster tersebut berjalan dalam "mode jaringan pulau"), aktifkan fitur hostNetwork Kubernetes dengan menyetel cassandra.hostNetwork: true di file pengganti untuk semua region di penginstalan multi-region hybrid Apigee. Amazon EKS menggunakan model jaringan yang sepenuhnya terintegrasi secara default.

    Untuk informasi selengkapnya tentang kebutuhan akan hostNetwork, lihat Cluster mode pulau dan hostNetwork di bawah ini.

  • Aktifkan hostNetwork di cluster yang ada sebelum memperluas konfigurasi multi-region ke region baru.
  • Saat hostNetwork diaktifkan, pastikan node pekerja dapat berfungsi dengan baik pencarian DNS untuk nama {i>host-<i}nya. Apigee Cassandra menggunakan pencarian DNS maju untuk mendapatkan host IP saat memulai.
    Tips: Jika resolusi DNS tidak berfungsi, coba solusi ini.

    Menambahkan entri host statis di file /etc/hosts untuk setiap node pekerja cassandra mirip dengan contoh berikut ini:

    echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"

    atau

    "\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"

  • Membuka port Cassandra antar-cluster Kubernetes di semua di region Anda untuk memungkinkan worker node di seluruh region dan pusat data untuk berkomunikasi. Lihat Mengonfigurasi port untuk Nomor port Cassandra.

Untuk informasi selengkapnya, lihat dokumentasi Kubernetes.

Catatan: Apigee merekomendasikan agar Anda memastikan bahwa antarmuka waktu disinkronkan.

Beberapa fitur seperti akhir masa berlaku dan pencabutan token mengandalkan waktu sistem yang akurat. Jika Anda menghosting komponen {i> runtime<i} di pusat data yang berbeda, maka pastikan bahwa waktu sistem telah disinkronkan.

Anda dapat menggunakan alat seperti ntpdate untuk memverifikasi server tersebut waktu disinkronkan.

OpenShift

• Saat menginstal deployment Apigee multi-region di antara berbagai jaringan lainnya (misalnya berbagai penyedia cloud, jaringan VPC yang berbeda, dan infrastruktur lokal, dll.), Anda harus menyediakan konektivitas internal antara jaringan terpisah yang dapat digunakan Cassandra untuk berkomunikasi antar {i>node<i}. Hal ini dapat dilakukan dengan VPN atau konektivitas khusus cloud terkemuka.
• Ikuti penginstalan hybrid untuk prasyarat seperti Google Cloud dan konfigurasi organisasi sebelum melanjutkan ke langkah penyiapan cluster.
• Pastikan cert-manager sudah diinstal di setiap cluster
• Pastikan semua pod Cassandra dapat me-resolve nama host-nya sendiri. Jika hostNetwork ditetapkan ke false, maka nama host adalah Nama pod Cassandra. Jika hostNetwork ditetapkan ke true, nama host adalah nama host node Kubernetes yang menjalankan pod Cassandra.
  Tips: Untuk memeriksa apakah resolusi nama host berfungsi, gunakan perintah berikut.
  
  Jika hostNetwork disetel ke false, gunakan Perintah 1. Jika hostNetwork disetel ke true, gunakan Perintah 2.
  
  Jika resolusi nama {i>host<i} berfungsi, {i>output<i} akan menampilkan alamat IP. Jika nama host resolusi gagal, output-nya akan menyertakan "Host tidak ditemukan".
  
  Perintah 1:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee -- hostname -i

  
  Perintah 2:

  kubectl run -l app=alpine --image=alpine --restart=Never --rm -i -t alpine-linux -n apigee --overrides='{"kind":"Pod", "apiVersion":"v1", "spec": {"hostNetwork":true}}' -- hostname -i

• Persyaratan Cassandra Multi Region:
  • Jika namespace jaringan pod tidak memiliki konektivitas antar-cluster (cluster tersebut berjalan dalam "mode jaringan pulau", kasus default dalam penginstalan OpenShift), aktifkan fitur hostNetwork Kubernetes dengan menyetel cassandra.hostNetwork: true di file pengganti untuk semua region di penginstalan multi-region hybrid Apigee.

    Untuk informasi selengkapnya tentang kebutuhan akan hostNetwork, lihat Cluster mode pulau dan hostNetwork di bawah ini.

  • Aktifkan hostNetwork di cluster yang ada sebelum memperluas konfigurasi multi-region ke region baru.
  • Saat hostNetwork diaktifkan, pastikan node pekerja dapat berfungsi dengan baik pencarian DNS untuk nama {i>host-<i}nya. Apigee Cassandra menggunakan pencarian DNS maju untuk mendapatkan host IP saat memulai.
    Tips: Jika resolusi DNS tidak berfungsi, coba solusi ini.

    Menambahkan entri host statis di file /etc/hosts untuk setiap node pekerja cassandra mirip dengan contoh berikut ini:

    echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"

    atau

    "\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"

  • Membuka port Cassandra antar-cluster Kubernetes di semua di region Anda untuk memungkinkan worker node di seluruh region dan pusat data untuk berkomunikasi. Lihat Mengonfigurasi port untuk Nomor port Cassandra.

Untuk informasi selengkapnya, lihat dokumentasi Kubernetes.

Catatan: Apigee merekomendasikan agar Anda memastikan bahwa antarmuka waktu disinkronkan.

Beberapa fitur seperti akhir masa berlaku dan pencabutan token mengandalkan waktu sistem yang akurat. Jika Anda menghosting komponen {i> runtime<i} di pusat data yang berbeda, maka pastikan bahwa waktu sistem telah disinkronkan.

Anda dapat menggunakan alat seperti ntpdate untuk memverifikasi server tersebut waktu disinkronkan.

Cluster mode pulau dan hostNetwork

Ada dua model jaringan utama untuk cluster Kubernetes: terintegrasi penuh (atau datar) dan mode pulau. Apigee merekomendasikan penggunaan model jaringan datar jika memungkinkan, karena memungkinkan konektivitas Cassandra multi-region lebih sederhana. Saat cluster Kubernetes dikonfigurasi di pulau jaringan pod akan terisolasi. Pod tidak dapat berkomunikasi langsung dengan pod yang berjalan di ke cluster lain menggunakan alamat IP pod. Lihat Penerapan model jaringan umum informasi lebih lanjut tentang perbedaan antara kedua model jaringan ini dan contohnya masing-masing.

Saat Apigee Hybrid berjalan di dua cluster Kubernetes atau lebih menggunakan jaringan mode pulau Anda harus mengaktifkan setelan hostNetwork untuk Cassandra melalui cassandra.hostNetwork saat ini. Secara default, pod Kubernetes diisolasi ke dalam namespace jaringan individual yang mencegah instance tersebut menggunakan IP node pekerja Kubernetes. Jika hostNetwork ditetapkan ke true, pod tidak diisolasi dalam namespace jaringannya sendiri, dan menggunakan alamat IP dan nama host node pekerja Kubernetes tempat pod dijadwalkan. Hal ini memungkinkan Cassandra menggunakan IP node pekerja Kubernetes secara native sebagai IP-nya, sehingga menyediakan sarana untuk Cassandra untuk membentuk mesh penuh antara semua pod Cassandra dalam beberapa cluster yang berjalan di mode pulau.

Resolusi nama host Cassandra

Meskipun pod Cassandra tidak me-resolve pod Cassandra lainnya berdasarkan nama host, pada saat memulai Cassandra memeriksa apakah nama {i>host-<i}nya juga dapat diselesaikan oleh DNS. Karena nama host pod sama dengan Nama host node pekerja Kubernetes saat hostNetwork disetel ke benar (true), node pekerja nama host harus dapat diselesaikan menjadi alamat IP melalui layanan DNS cluster. Jika Kubernetes nama host node pekerja tidak dapat diselesaikan, pod Cassandra akan gagal dimulai sepenuhnya. Oleh karena itu, pastikan bahwa nama host node pekerja Kubernetes dapat diselesaikan dari pod di cluster saat menetapkan hostNetwork ke true.

Mengonfigurasi Apigee Hybrid untuk multi-region

Bagian ini menjelaskan cara mengonfigurasi Apigee Hybrid untuk multi-region.

GKE

Penting: Saat memperluas Apigee Hybrid ke pusat data regional baru, pastikan untuk menginstal versi hibrida yang sama seperti yang Anda miliki di pusat data. Hindari menjalankan versi hybrid yang berbeda di beberapa pusat data.

Peringatan: Jika penginstalan untuk region baru gagal, jangan lanjutkan penginstalan region. Sebagai gantinya, hapus dan buat ulang penginstalan hybrid di region yang gagal.

Mengonfigurasi host seed multi-region

Bagian ini menjelaskan cara memperluas cluster Cassandra yang ada ke region baru. Penyiapan ini memungkinkan region baru untuk mem-bootstrap cluster dan bergabung dengan cluster yang ada pusat data. Tanpa konfigurasi ini, cluster Kubernetes multi-region tidak akan tahu satu sama lain.

Ikuti prosedur alat yang Anda gunakan untuk mengelola dan menginstal Apigee Hybrid:

Diagram helm

1. Untuk region pertama yang dibuat, dapatkan pod di namespace apigee Anda:

   kubectl get pods -o wide -n apigee
   

2. Identifikasi alamat host inti multi-region untuk Cassandra di region ini, misalnya 10.0.0.11.

3. Siapkan file overrides.yaml untuk region kedua dan tambahkan alamat IP host inti sebagai berikut:

   cassandra:
     multiRegionSeedHost: "SEED_HOST_IP_ADDRESS"
     datacenter: "DATACENTER_NAME"
     rack: "RACK_NAME"
     hostNetwork: false
     clusterName: CLUSTER_NAME
   

   Ganti kode berikut:

   • SEED_HOST_IP_ADDRESS dengan alamat IP host inti, misalnya 10.0.0.11.
   • DATACENTER_NAME dengan nama pusat data, misalnya dc-2.
   • RACK_NAME dengan nama rak, misalnya ra-1.
   • CLUSTER_NAME dengan nama gugus Cassandra Anda. Secara default, nilai adalah apigeecluster. Jika menggunakan nama cluster yang berbeda, Anda harus menentukan untuk cassandra.clusterName. Anda bebas memilih nilai Anda sendiri, tetapi nilai tersebut harus sama di semua wilayah.

Mengonfigurasi region kedua

Untuk menyiapkan wilayah baru:

1. Instal cert-manager di region 2:

   kubectl apply -f https://github.com/cert-manager/cert-manager/releases/download/v1.11.1/cert-manager.yaml
   

2. Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA yang baru digunakan oleh Cassandra dan komponen hybrid lainnya untuk mTLS. Oleh karena itu, penting untuk memiliki sertifikat yang konsisten di seluruh cluster.

   1. Tetapkan konteks ke namespace asli:

      kubectl config use-context ORIGINAL_CLUSTER_NAME
      

   2. Ekspor konfigurasi namespace saat ini ke sebuah file:

      kubectl get namespace apigee -o yaml > apigee-namespace.yaml
      

   3. Ekspor rahasia apigee-ca ke file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
      

   4. Tetapkan konteks ke nama cluster region baru:

      kubectl config use-context NEW_CLUSTER_NAME
      

   5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk perbarui namespace dalam file ini jika Anda menggunakan namespace di region baru:

      kubectl apply -f apigee-namespace.yaml
      

   6. Impor rahasia ke cluster baru:

      kubectl -n cert-manager apply -f apigee-ca.yaml
      

3. Ikuti langkah-langkah untuk Menginstal CRD hybrid Apigee ke region baru.

4. Sekarang gunakan diagram Helm untuk menginstal Apigee Hybrid di region baru dengan perintah Helm Chart berikut (seperti yang dilakukan di region 1):

   Catatan: Anda dapat menggunakan CRD yang sama untuk konsistensi menggunakan folder yang sama tempat Anda telah mengunduh bagan, Anda juga dapat menyimpan file penggantian unik antara region 1 dan 2 dengan memberi nama mengganti sesuatu yang unik seperti overrides-region_name.yaml, dll.
   Penting: Hilangkan tanda ‑‑atomic untuk cluster yang dimigrasikan.

   helm upgrade operator apigee-operator \
     --install \
     --create-namespace \
     --namespace apigee-system \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade datastore apigee-datastore \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade telemetry apigee-telemetry \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade redis apigee-redis \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade ingress-manager apigee-ingress-manager \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade ORG_NAME apigee-org \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   # repeat the below command for each env mentioned on the overrides
   helm upgrade ENV_NAME apigee-env/ \
     --install \
     --namespace apigee \
     --atomic \
     --set env=ENV_NAME \
     -f overrides-DATACENTER_NAME.yaml
   # repeat the below command for each env group mentioned on the overrides
   helm upgrade apigee-virtualhost-ENV_GROUP_NAME apigee-virtualhost/ \
     --install \
     --namespace apigee \
     --atomic \
     --set envgroup=ENV_GROUP_NAME \
     -f overrides-DATACENTER_NAME.yaml
   

5. Verifikasi penyiapan cluster Cassandra dengan menjalankan perintah berikut. Output harus menunjukkan pusat data yang ada dan yang baru.
   Peringatan: Jika output perintah ini tidak menampilkan kedua pusat data yang ada dan yang baru, konfigurasinya gagal. Dalam kasus ini, jangan lanjutkan lebih lanjut.

   Untuk memperbaiki masalah ini, instalasi hybrid di region baru harus dihapus dan dibuat ulang. Lihat Meng-uninstal runtime hybrid. Jika jika konfigurasi gagal, jangan mencoba melanjutkan atau mencoba bergabung ke cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
   -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh yang menunjukkan penyiapan yang berhasil:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-2
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

6. Siapkan Cassandra di semua pod di pusat data yang baru.
   1. Dapatkan apigeeorg dari cluster dengan perintah berikut:

      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Contoh:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      

   2. Buat file resource kustom replikasi data cassandra (YAML). Tujuan {i>file<i} dapat memiliki nama apa pun. Pada contoh berikut, file akan memiliki nama datareplication.yaml.

      File harus berisi hal-hal berikut:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
      name: REGION_EXPANSION
      namespace: NAMESPACE
      spec:
      organizationRef: APIGEEORG_VALUE
      force: false
      source:
      region: SOURCE_REGION

      Dengan keterangan:

      • REGION_EXPANSION adalah nama yang Anda berikan metadata ini. Anda dapat gunakan nama apa pun.
      • NAMESPACE adalah namespace yang sama dengan yang disediakan di overrides.yaml. Nama ini biasanya adalah "apigee".
      • APIGEEORG_VALUE adalah output nilai dari kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" perintah di langkah sebelumnya. Misalnya, rg-hybrid-b7d3b9c
      • SOURCE_REGION adalah region sumber, nilai pusat data pada bagian cassandra dari penggantian region sumber.yaml

      Contoh:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
      name: region-expansion
      namespace: apigee
      spec:
      organizationRef: rg-hybrid-b7d3b9c
      force: false
      source:
      region: "dc-1"

   3. Terapkan CassandraDataReplication dengan perintah berikut:

      kubectl apply -f datareplication.yaml

7. Verifikasi status pembuatan ulang menggunakan perintah berikut.
   Catatan: Operasi build ulang dapat memerlukan waktu hingga beberapa jam bergantung pada ukuran datanya.

   kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

   Hasilnya akan terlihat seperti:

   {
   "rebuildDetails": {
   "apigee-cassandra-default-0": {
   "state": "complete",
   "updated": 1623105760
   },
   "apigee-cassandra-default-1": {
   "state": "complete",
   "updated": 1623105765
   },
   "apigee-cassandra-default-2": {
   "state": "complete",
   "updated": 1623105770
   }
   },
   "state": "complete",
   "updated": 1623105770
   }

8. Setelah replikasi data selesai dan diverifikasi, update host seed:
   1. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DATACENTER_NAME.yaml.

   2. Terapkan kembali perubahan untuk memperbarui CR datastore apigee:

      Penting: Hilangkan tanda ‑‑atomic untuk cluster yang dimigrasikan.

      helm upgrade datastore apigee-datastore/ \
        --install \
        --namespace apigee \
        --atomic \
        -f overrides-DATACENTER_NAME.yaml
      

9. Verifikasi proses build ulang dari log. Juga, verifikasi ukuran data menggunakan perintah nodetool status.
   Catatan: Jika operasi build ulang menampilkan status selesai dan log proses build ulang berisi "Semua sesi selesai" semua data telah berhasil disalin ke region baru.

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Tips: APIGEE_JMX_USER dan APIGEE_JMX_PASSWORD biasanya ditentukan dalam variabel lingkungan $APIGEE_JMX_USER dan $APIGEE_JMX_PASSWORD.

   Contoh berikut menunjukkan contoh entri log:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

apigeectl

1. Tetapkan konteks kubectl ke cluster asli sebelum mengambil nama seed:

   kubectl config use-context original-cluster-name

2. Jalankan perintah kubectl berikut guna mengidentifikasi alamat host awal untuk Cassandra di region saat ini.

   Alamat host bibit memungkinkan instance regional baru untuk menemukan cluster asli pada startup pertama yang mempelajari topologi cluster. Alamat host inti ditetapkan sebagai titik kontak dalam cluster.

   kubectl get pods -o wide -n apigee -l app=apigee-cassandra --field-selector status.phase=Running

   NAME                      READY   STATUS      RESTARTS   AGE   IP          NODE                                          NOMINATED NODE
   apigee-cassandra-default-0        1/1     Running     0          5d    10.0.0.11   gke-k8s-dc-2-default-pool-a2206492-p55d
   apigee-cassandra-default-1        1/1     Running     0          5d    10.0.2.4    gke-k8s-dc-2-default-pool-e9daaab3-tjmz
   apigee-cassandra-default-2        1/1     Running     0          5d    10.0.3.5    gke-k8s-dc-2-default-pool-e589awq3-kjch

3. Tentukan IP mana yang ditampilkan dari perintah sebelumnya yang akan menjadi seed multi-region {i>host<i}.
4. Di pusat data 2, konfigurasi cassandra.multiRegionSeedHost dan cassandra.datacenter di Mengelola komponen bidang runtime, dengan multiRegionSeedHost adalah salah satu IP yang ditampilkan oleh perintah sebelumnya:

   cassandra:
     multiRegionSeedHost: seed_host_IP
     datacenter: data_center_name
     rack: rack_name
     hostNetwork: false
     clusterName: cluster_name # must be the same for all regions
   

   Contoh:

   cassandra:
     multiRegionSeedHost: 10.0.0.11
     datacenter: "dc-2"
     rack: "ra-1"
     hostNetwork: false
     clusterName: my-apigee-cluster

5. Di pusat data/region baru, sebelum menginstal hybrid, setel sertifikat TLS yang sama dan kredensial dalam overrides.yaml seperti yang Anda tetapkan di region pertama.
   Catatan: Pastikan untuk menggunakan sertifikat dan kredensial Cassandra TLS yang sama di pusat data kedua seperti yang Anda berikan di pusat data asli. Kredensial yang Anda dalam file pengganti di pusat data pertama harus cocok dengan yang Anda tentukan di akan menimpa file di pusat data kedua. Untuk mengetahui detailnya, lihat Mengonfigurasi TLS untuk Cassandra.

Menyiapkan wilayah baru

Setelah mengonfigurasi host inti, Anda dapat menyiapkan region baru.

Untuk menyiapkan wilayah baru:

1. Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA yang baru adalah digunakan oleh Cassandra dan komponen hibrida lainnya untuk mTLS. Oleh karena itu, penting untuk memiliki sertifikat yang konsisten di seluruh cluster.
   1. Tetapkan konteks ke namespace asli:

      kubectl config use-context original-cluster-name

   2. Ekspor konfigurasi namespace saat ini ke sebuah file:

      kubectl get namespace namespace -o yaml > apigee-namespace.yaml

   3. Ekspor rahasia apigee-ca ke file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml

   4. Tetapkan konteks ke nama cluster region baru:

      kubectl config use-context new-cluster-name

   5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk memperbarui "ruang nama" pada file jika menggunakan namespace yang berbeda di wilayah baru:

      kubectl apply -f apigee-namespace.yaml

   6. Impor rahasia ke cluster baru:

      kubectl -n cert-manager apply -f apigee-ca.yaml

2. Instal hybrid di region baru. Pastikan bahwa overrides-DC_name.yaml menyertakan sertifikat TLS yang sama yang dikonfigurasi di region pertama, seperti yang dijelaskan di bagian sebelumnya.

   Jalankan dua perintah berikut untuk menginstal hybrid di region baru:

   Penting: Saat memperluas Apigee Hybrid ke pusat data regional baru, pastikan untuk menginstal versi hibrida yang sama seperti yang Anda miliki di pusat data. Hindari menjalankan versi hybrid yang berbeda di beberapa pusat data.

   apigeectl init -f overrides/overrides-DC_name.yaml

   apigeectl apply -f overrides/overrides-DC_name.yaml

3. Pastikan penginstalan hybrid berhasil dengan menjalankan perintah berikut:

   apigeectl check-ready -f overrides_DC_name.yaml

4. Verifikasi penyiapan cluster Cassandra dengan menjalankan perintah berikut. Output harus menunjukkan pusat data yang ada dan yang baru.
   Peringatan: Jika output perintah ini tidak menampilkan kedua pusat data yang ada dan yang baru, konfigurasinya gagal. Dalam kasus ini, jangan lanjutkan lebih lanjut.

   Untuk memperbaiki masalah ini, instalasi hybrid di region baru harus dihapus dan dibuat ulang. Lihat Meng-uninstal runtime hybrid. Jika jika konfigurasi gagal, jangan mencoba melanjutkan atau mencoba bergabung ke cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
     -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh yang menunjukkan penyiapan yang berhasil:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-2
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

5. Siapkan Cassandra di semua pod di pusat data yang baru.
   1. Dapatkan apigeeorg dari cluster dengan perintah berikut:

      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Contoh:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      

   2. Buat file resource kustom replikasi data cassandra (YAML). Tujuan {i>file<i} dapat memiliki nama apa pun. Pada contoh berikut, file akan memiliki nama datareplication.yaml.

      File harus berisi hal-hal berikut:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: REGION_EXPANSION
        namespace: NAMESPACE
      spec:
        organizationRef: APIGEEORG_VALUE
        force: false
        source:
          region: SOURCE_REGION

      Dengan keterangan:

      • REGION_EXPANSION adalah nama yang Anda berikan metadata ini. Anda dapat gunakan nama apa pun.
      • NAMESPACE adalah namespace yang sama dengan yang disediakan di overrides.yaml. Nama ini biasanya adalah "apigee".
      • APIGEEORG_VALUE adalah output nilai dari kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" perintah di langkah sebelumnya. Misalnya, rg-hybrid-b7d3b9c
      • SOURCE_REGION adalah region sumber, nilai pusat data pada bagian cassandra dari penggantian region sumber.yaml

      Contoh:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: region-expansion
        namespace: apigee
      spec:
        organizationRef: rg-hybrid-b7d3b9c
        force: false
        source:
          region: "dc-1"

   3. Terapkan CassandraDataReplication dengan perintah berikut:

      kubectl apply -f datareplication.yaml

   4. Verifikasi status pembuatan ulang menggunakan perintah berikut.
      Catatan: Operasi build ulang dapat memerlukan waktu hingga beberapa jam bergantung pada ukuran datanya.

      kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

      Hasilnya akan terlihat seperti:

      {
        "rebuildDetails": {
          "apigee-cassandra-default-0": {
            "state": "complete",
            "updated": 1623105760
          },
          "apigee-cassandra-default-1": {
            "state": "complete",
            "updated": 1623105765
          },
          "apigee-cassandra-default-2": {
            "state": "complete",
            "updated": 1623105770
          }
        },
        "state": "complete",
        "updated": 1623105770
      }

6. Verifikasi proses build ulang dari log. Juga, verifikasi ukuran data menggunakan perintah nodetool status.
   Catatan: Jika operasi build ulang menampilkan status selesai dan log proses build ulang berisi "Semua sesi selesai" semua data telah berhasil disalin ke region baru.

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh berikut menunjukkan contoh entri log:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

7. Memperbarui host seed. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DC_name.yaml dan ajukan permohonan kembali.
   Catatan: Host seed adalah anggota cluster lokal. Untuk melakukan booting region baru yang diperlukan host inti eksternal. Setelah region melakukan booting, Anda perlu untuk mengubah host seed kembali ke cluster lokalnya di overrides.yaml, lalu menerapkan ulang konfigurasi.

   apigeectl apply -f overrides/overrides-DC_name.yaml

Memeriksa status cluster Cassandra

Perintah berikut berguna untuk melihat apakah penyiapan cluster berhasil di dua pusat data. Perintah tersebut memeriksa status nodetool untuk kedua region.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status


Datacenter: dc-1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          100.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          100.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          100.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

GKE on-prem

Penting: Saat memperluas Apigee Hybrid ke pusat data regional baru, pastikan untuk menginstal versi hibrida yang sama seperti yang Anda miliki di pusat data. Hindari menjalankan versi hybrid yang berbeda di beberapa pusat data.

Peringatan: Jika penginstalan untuk region baru gagal, jangan lanjutkan penginstalan region. Sebagai gantinya, hapus dan buat ulang penginstalan hybrid di region yang gagal.

Mengonfigurasi host seed multi-region

Bagian ini menjelaskan cara memperluas cluster Cassandra yang ada ke region baru. Penyiapan ini memungkinkan region baru untuk mem-bootstrap cluster dan bergabung dengan cluster yang ada pusat data. Tanpa konfigurasi ini, cluster Kubernetes multi-region tidak akan tahu satu sama lain.

Ikuti prosedur alat yang Anda gunakan untuk mengelola dan menginstal Apigee Hybrid:

Diagram helm

1. Untuk region pertama yang dibuat, dapatkan pod di namespace apigee Anda:

   kubectl get pods -o wide -n apigee
   

2. Identifikasi alamat host inti multi-region untuk Cassandra di region ini, misalnya 10.0.0.11.

3. Siapkan file overrides.yaml untuk region kedua dan tambahkan alamat IP host inti sebagai berikut:

   cassandra:
     multiRegionSeedHost: "SEED_HOST_IP_ADDRESS"
     datacenter: "DATACENTER_NAME"
     rack: "RACK_NAME"
     hostNetwork: false
     clusterName: CLUSTER_NAME
   

   Ganti kode berikut:

   • SEED_HOST_IP_ADDRESS dengan alamat IP host inti, misalnya 10.0.0.11.
   • DATACENTER_NAME dengan nama pusat data, misalnya dc-2.
   • RACK_NAME dengan nama rak, misalnya ra-1.
   • CLUSTER_NAME dengan nama gugus Cassandra Anda. Secara default, nilai adalah apigeecluster. Jika menggunakan nama cluster yang berbeda, Anda harus menentukan untuk cassandra.clusterName. Anda bebas memilih nilai Anda sendiri, tetapi nilai tersebut harus sama di semua wilayah.

Mengonfigurasi region kedua

Untuk menyiapkan wilayah baru:

1. Instal cert-manager di region 2:

   kubectl apply -f https://github.com/cert-manager/cert-manager/releases/download/v1.11.1/cert-manager.yaml
   

2. Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA yang baru digunakan oleh Cassandra dan komponen hybrid lainnya untuk mTLS. Oleh karena itu, penting untuk memiliki sertifikat yang konsisten di seluruh cluster.

   1. Tetapkan konteks ke namespace asli:

      kubectl config use-context ORIGINAL_CLUSTER_NAME
      

   2. Ekspor konfigurasi namespace saat ini ke sebuah file:

      kubectl get namespace apigee -o yaml > apigee-namespace.yaml
      

   3. Ekspor rahasia apigee-ca ke file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
      

   4. Tetapkan konteks ke nama cluster region baru:

      kubectl config use-context NEW_CLUSTER_NAME
      

   5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk perbarui namespace dalam file ini jika Anda menggunakan namespace di region baru:

      kubectl apply -f apigee-namespace.yaml
      

   6. Impor rahasia ke cluster baru:

      kubectl -n cert-manager apply -f apigee-ca.yaml
      

3. Ikuti langkah-langkah untuk Menginstal CRD hybrid Apigee ke region baru.

4. Sekarang gunakan diagram Helm untuk menginstal Apigee Hybrid di region baru dengan perintah Helm Chart berikut (seperti yang dilakukan di region 1):

   Catatan: Anda dapat menggunakan CRD yang sama untuk konsistensi menggunakan folder yang sama tempat Anda telah mengunduh bagan, Anda juga dapat menyimpan file penggantian unik antara region 1 dan 2 dengan memberi nama mengganti sesuatu yang unik seperti overrides-region_name.yaml, dll.
   Penting: Hilangkan tanda ‑‑atomic untuk cluster yang dimigrasikan.

   helm upgrade operator apigee-operator \
     --install \
     --create-namespace \
     --namespace apigee-system \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade datastore apigee-datastore \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade telemetry apigee-telemetry \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade redis apigee-redis \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade ingress-manager apigee-ingress-manager \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade ORG_NAME apigee-org \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   # repeat the below command for each env mentioned on the overrides
   helm upgrade ENV_NAME apigee-env/ \
     --install \
     --namespace apigee \
     --atomic \
     --set env=ENV_NAME \
     -f overrides-DATACENTER_NAME.yaml
   # repeat the below command for each env group mentioned on the overrides
   helm upgrade apigee-virtualhost-ENV_GROUP_NAME apigee-virtualhost/ \
     --install \
     --namespace apigee \
     --atomic \
     --set envgroup=ENV_GROUP_NAME \
     -f overrides-DATACENTER_NAME.yaml
   

5. Verifikasi penyiapan cluster Cassandra dengan menjalankan perintah berikut. Output harus menunjukkan pusat data yang ada dan yang baru.
   Peringatan: Jika output perintah ini tidak menampilkan kedua pusat data yang ada dan yang baru, konfigurasinya gagal. Dalam kasus ini, jangan lanjutkan lebih lanjut.

   Untuk memperbaiki masalah ini, instalasi hybrid di region baru harus dihapus dan dibuat ulang. Lihat Meng-uninstal runtime hybrid. Jika jika konfigurasi gagal, jangan mencoba melanjutkan atau mencoba bergabung ke cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
   -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh yang menunjukkan penyiapan yang berhasil:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-2
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

6. Siapkan Cassandra di semua pod di pusat data yang baru.
   1. Dapatkan apigeeorg dari cluster dengan perintah berikut:

      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Contoh:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      

   2. Buat file resource kustom replikasi data cassandra (YAML). Tujuan {i>file<i} dapat memiliki nama apa pun. Pada contoh berikut, file akan memiliki nama datareplication.yaml.

      File harus berisi hal-hal berikut:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
      name: REGION_EXPANSION
      namespace: NAMESPACE
      spec:
      organizationRef: APIGEEORG_VALUE
      force: false
      source:
      region: SOURCE_REGION

      Dengan keterangan:

      • REGION_EXPANSION adalah nama yang Anda berikan metadata ini. Anda dapat gunakan nama apa pun.
      • NAMESPACE adalah namespace yang sama dengan yang disediakan di overrides.yaml. Nama ini biasanya adalah "apigee".
      • APIGEEORG_VALUE adalah output nilai dari kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" perintah di langkah sebelumnya. Misalnya, rg-hybrid-b7d3b9c
      • SOURCE_REGION adalah region sumber, nilai pusat data pada bagian cassandra dari penggantian region sumber.yaml

      Contoh:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
      name: region-expansion
      namespace: apigee
      spec:
      organizationRef: rg-hybrid-b7d3b9c
      force: false
      source:
      region: "dc-1"

   3. Terapkan CassandraDataReplication dengan perintah berikut:

      kubectl apply -f datareplication.yaml

7. Verifikasi status pembuatan ulang menggunakan perintah berikut.
   Catatan: Operasi build ulang dapat memerlukan waktu hingga beberapa jam bergantung pada ukuran datanya.

   kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

   Hasilnya akan terlihat seperti:

   {
   "rebuildDetails": {
   "apigee-cassandra-default-0": {
   "state": "complete",
   "updated": 1623105760
   },
   "apigee-cassandra-default-1": {
   "state": "complete",
   "updated": 1623105765
   },
   "apigee-cassandra-default-2": {
   "state": "complete",
   "updated": 1623105770
   }
   },
   "state": "complete",
   "updated": 1623105770
   }

8. Setelah replikasi data selesai dan diverifikasi, update host seed:
   1. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DATACENTER_NAME.yaml.

   2. Terapkan kembali perubahan untuk memperbarui CR datastore apigee:

      Penting: Hilangkan tanda ‑‑atomic untuk cluster yang dimigrasikan.

      helm upgrade datastore apigee-datastore/ \
        --install \
        --namespace apigee \
        --atomic \
        -f overrides-DATACENTER_NAME.yaml
      

9. Verifikasi proses build ulang dari log. Juga, verifikasi ukuran data menggunakan perintah nodetool status.
   Catatan: Jika operasi build ulang menampilkan status selesai dan log proses build ulang berisi "Semua sesi selesai" semua data telah berhasil disalin ke region baru.

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Tips: APIGEE_JMX_USER dan APIGEE_JMX_PASSWORD biasanya ditentukan dalam variabel lingkungan $APIGEE_JMX_USER dan $APIGEE_JMX_PASSWORD.

   Contoh berikut menunjukkan contoh entri log:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

apigeectl

1. Dalam file overrides.yaml untuk cluster asli, pastikan cassandra:hostNetwork disetel ke true. Contoh:

   cassandra:
     hostNetwork: true

   Lihat Prasyarat untuk mengetahui informasi selengkapnya tentang kapan harus menetapkan hostNetwork: true.

2. Jika cassandra:hostNetwork tidak ditetapkan ke true, lakukan tindakan berikut:
   1. Ubah cassandra.hostNetwork menjadi true.
   2. Terapkan file konfigurasi overrides.yaml dengan perintah:

        apigeectl apply -f overrides.yaml --datastore
        

   3. Tunggu hingga pod Cassandra selesai memulai ulang secara bertahap.

   4. Pastikan cluster Cassandra responsif dengan hal berikut berikut:

        kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
        

        nodetool -u  -pw APIGEE_JMX_PASSWORD status
        

      Memastikan semua node Cassandra di output berada dalam status UN (Up/Normal) status:

        nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD describecluster
        

      Pastikan tidak ada node yang tidak dapat dijangkau yang tercantum di output.

3. Tetapkan konteks kubectl ke cluster asli sebelum mengambil nama seed:

   kubectl config use-context original-cluster-name

4. Jalankan perintah kubectl berikut guna mengidentifikasi alamat host awal untuk Cassandra di region saat ini.

   Alamat host bibit memungkinkan instance regional baru untuk menemukan cluster asli pada startup pertama yang mempelajari topologi cluster. Alamat host inti ditetapkan sebagai titik kontak dalam cluster.

   kubectl get pods -o wide -n apigee -l app=apigee-cassandra --field-selector status.phase=Running

   NAME                      READY   STATUS      RESTARTS   AGE   IP          NODE                                          NOMINATED NODE
   apigee-cassandra-default-0        1/1     Running     0          5d    10.0.0.11   gke-k8s-dc-2-default-pool-a2206492-p55d
   apigee-cassandra-default-1        1/1     Running     0          5d    10.0.2.4    gke-k8s-dc-2-default-pool-e9daaab3-tjmz
   apigee-cassandra-default-2        1/1     Running     0          5d    10.0.3.5    gke-k8s-dc-2-default-pool-e589awq3-kjch

5. Tentukan IP mana yang ditampilkan dari perintah sebelumnya yang akan menjadi seed multi-region {i>host<i}.
6. Di pusat data 2, konfigurasi cassandra.multiRegionSeedHost dalam file penggantian, dengan multiRegionSeedHost adalah 1 dari IP yang ditampilkan oleh perintah sebelumnya:

   cassandra:
     hostNetwork: true
     multiRegionSeedHost: seed_host_IP
     datacenter: data_center_name
     rack: rack_name
     clusterName: cluster_name # must be the same for all regions
   

   Contoh:

   cassandra:
     hostNetwork: true
     multiRegionSeedHost: 10.0.0.11
     datacenter: "dc-2"
     rack: "ra-1"
     clusterName: my-apigee-cluster
   

7. Di pusat data/region baru, sebelum menginstal hybrid, setel sertifikat TLS yang sama dan kredensial dalam overrides.yaml seperti yang Anda tetapkan di region pertama.
   Catatan: Pastikan untuk menggunakan sertifikat dan kredensial Cassandra TLS yang sama di pusat data kedua seperti yang Anda berikan di pusat data asli. Kredensial yang Anda dalam file pengganti di pusat data pertama harus cocok dengan yang Anda tentukan di akan menimpa file di pusat data kedua. Untuk mengetahui detailnya, lihat Mengonfigurasi TLS untuk Cassandra.

Menyiapkan wilayah baru

Setelah mengonfigurasi host inti, Anda dapat menyiapkan region baru.

Untuk menyiapkan wilayah baru:

1. Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA yang baru adalah digunakan oleh Cassandra dan komponen hibrida lainnya untuk mTLS. Oleh karena itu, penting untuk memiliki sertifikat yang konsisten di seluruh cluster.
   1. Tetapkan konteks ke namespace asli:

      kubectl config use-context original-cluster-name

   2. Ekspor konfigurasi namespace saat ini ke sebuah file:

      kubectl get namespace namespace -o yaml > apigee-namespace.yaml

   3. Ekspor rahasia apigee-ca ke file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml

   4. Tetapkan konteks ke nama cluster region baru:

      kubectl config use-context new-cluster-name

   5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk memperbarui "ruang nama" pada file jika menggunakan namespace yang berbeda di wilayah baru:

      kubectl apply -f apigee-namespace.yaml

   6. Impor rahasia ke cluster baru:

      kubectl -n cert-manager apply -f apigee-ca.yaml

2. Instal hybrid di region baru. Pastikan bahwa overrides-DC_name.yaml menyertakan sertifikat TLS yang sama yang dikonfigurasi di region pertama, seperti yang dijelaskan di bagian sebelumnya.

   Jalankan dua perintah berikut untuk menginstal hybrid di region baru:

   Penting: Saat memperluas Apigee Hybrid ke pusat data regional baru, pastikan untuk menginstal versi hibrida yang sama seperti yang Anda miliki di pusat data. Hindari menjalankan versi hybrid yang berbeda di beberapa pusat data.

   apigeectl init -f overrides/overrides-DC_name.yaml

   apigeectl apply -f overrides/overrides-DC_name.yaml

3. Pastikan penginstalan hybrid berhasil dengan menjalankan perintah berikut:

   apigeectl check-ready -f overrides_DC_name.yaml

4. Verifikasi penyiapan cluster Cassandra dengan menjalankan perintah berikut. Output harus menunjukkan pusat data yang ada dan yang baru.
   Peringatan: Jika output perintah ini tidak menampilkan kedua pusat data yang ada dan yang baru, konfigurasinya gagal. Dalam kasus ini, jangan lanjutkan lebih lanjut.

   Untuk memperbaiki masalah ini, instalasi hybrid di region baru harus dihapus dan dibuat ulang. Lihat Meng-uninstal runtime hybrid. Jika jika konfigurasi gagal, jangan mencoba melanjutkan atau mencoba bergabung ke cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
     -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh yang menunjukkan penyiapan yang berhasil:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-2
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

5. Siapkan Cassandra di semua pod di pusat data yang baru.
   1. Dapatkan apigeeorg dari cluster dengan perintah berikut:

      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Contoh:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      

   2. Buat file resource kustom replikasi data cassandra (YAML). Tujuan {i>file<i} dapat memiliki nama apa pun. Pada contoh berikut, file akan memiliki nama datareplication.yaml.

      File harus berisi hal-hal berikut:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: REGION_EXPANSION
        namespace: NAMESPACE
      spec:
        organizationRef: APIGEEORG_VALUE
        force: false
        source:
          region: SOURCE_REGION

      Dengan keterangan:

      • REGION_EXPANSION adalah nama yang Anda berikan metadata ini. Anda dapat gunakan nama apa pun.
      • NAMESPACE adalah namespace yang sama dengan yang disediakan di overrides.yaml. Nama ini biasanya adalah "apigee".
      • APIGEEORG_VALUE adalah output nilai dari kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" perintah di langkah sebelumnya. Misalnya, rg-hybrid-b7d3b9c
      • SOURCE_REGION adalah region sumber, nilai pusat data pada bagian cassandra dari penggantian region sumber.yaml

      Contoh:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: region-expansion
        namespace: apigee
      spec:
        organizationRef: rg-hybrid-b7d3b9c
        force: false
        source:
          region: "dc-1"

   3. Terapkan CassandraDataReplication dengan perintah berikut:

      kubectl apply -f datareplication.yaml

   4. Verifikasi status pembuatan ulang menggunakan perintah berikut.
      Catatan: Operasi build ulang dapat memerlukan waktu hingga beberapa jam bergantung pada ukuran datanya.

      kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

      Hasilnya akan terlihat seperti:

      {
        "rebuildDetails": {
          "apigee-cassandra-default-0": {
            "state": "complete",
            "updated": 1623105760
          },
          "apigee-cassandra-default-1": {
            "state": "complete",
            "updated": 1623105765
          },
          "apigee-cassandra-default-2": {
            "state": "complete",
            "updated": 1623105770
          }
        },
        "state": "complete",
        "updated": 1623105770
      }

6. Verifikasi proses build ulang dari log. Juga, verifikasi ukuran data menggunakan perintah nodetool status.
   Catatan: Jika operasi build ulang menampilkan status selesai dan log proses build ulang berisi "Semua sesi selesai" semua data telah berhasil disalin ke region baru.

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh berikut menunjukkan contoh entri log:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

7. Memperbarui host seed. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DC_name.yaml dan ajukan permohonan kembali.
   Catatan: Host seed adalah anggota cluster lokal. Untuk melakukan booting region baru yang diperlukan host inti eksternal. Setelah region melakukan booting, Anda perlu untuk mengubah host seed kembali ke cluster lokalnya di overrides.yaml, lalu menerapkan ulang konfigurasi.

   apigeectl apply -f overrides/overrides-DC_name.yaml

Memeriksa status cluster Cassandra

Perintah berikut berguna untuk melihat apakah penyiapan cluster berhasil di dua pusat data. Perintah tersebut memeriksa status nodetool untuk kedua region.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status


Datacenter: dc-1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          100.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          100.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          100.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

AKS

Penting: Saat memperluas Apigee Hybrid ke pusat data regional baru, pastikan untuk menginstal versi hibrida yang sama seperti yang Anda miliki di pusat data. Hindari menjalankan versi hybrid yang berbeda di beberapa pusat data.

Peringatan: Jika penginstalan untuk region baru gagal, jangan lanjutkan penginstalan region. Sebagai gantinya, hapus dan buat ulang penginstalan hybrid di region yang gagal.

Membuat jaringan virtual di setiap region

Ikuti rekomendasi Azure untuk membangun komunikasi lintas region di sini: VNet-to-VNet: Menghubungkan Jaringan Virtual di Azure di Berbagai Region.

Membuat cluster multi-regional

Siapkan cluster Kubernetes di beberapa region dengan blok CIDR yang berbeda. Lihat juga Langkah 1: Buat cluster. Gunakan lokasi dan nama jaringan virtual yang telah Anda buat sebelumnya.

Membuka port Cassandra antar-cluster Kubernetes di semua di region Anda untuk memungkinkan worker node di seluruh region dan pusat data untuk berkomunikasi. Lihat Mengonfigurasi port untuk Nomor port Cassandra.

Mengonfigurasi host seed multi-region

Bagian ini menjelaskan cara memperluas cluster Cassandra yang ada ke region baru. Penyiapan ini memungkinkan region baru untuk mem-bootstrap cluster dan bergabung dengan cluster yang ada pusat data. Tanpa konfigurasi ini, cluster Kubernetes multi-region tidak akan tahu satu sama lain.

Ikuti prosedur alat yang Anda gunakan untuk mengelola dan menginstal Apigee Hybrid:

Diagram helm

1. Untuk region pertama yang dibuat, dapatkan pod di namespace apigee Anda:

   kubectl get pods -o wide -n apigee
   

2. Identifikasi alamat host inti multi-region untuk Cassandra di region ini, misalnya 10.0.0.11.

3. Siapkan file overrides.yaml untuk region kedua dan tambahkan alamat IP host inti sebagai berikut:

   cassandra:
     multiRegionSeedHost: "SEED_HOST_IP_ADDRESS"
     datacenter: "DATACENTER_NAME"
     rack: "RACK_NAME"
     hostNetwork: false
     clusterName: CLUSTER_NAME
   

   Ganti kode berikut:

   • SEED_HOST_IP_ADDRESS dengan alamat IP host inti, misalnya 10.0.0.11.
   • DATACENTER_NAME dengan nama pusat data, misalnya dc-2.
   • RACK_NAME dengan nama rak, misalnya ra-1.
   • CLUSTER_NAME dengan nama gugus Cassandra Anda. Secara default, nilai adalah apigeecluster. Jika menggunakan nama cluster yang berbeda, Anda harus menentukan untuk cassandra.clusterName. Anda bebas memilih nilai Anda sendiri, tetapi nilai tersebut harus sama di semua wilayah.

Mengonfigurasi region kedua

Untuk menyiapkan wilayah baru:

1. Instal cert-manager di region 2:

   kubectl apply -f https://github.com/cert-manager/cert-manager/releases/download/v1.11.1/cert-manager.yaml
   

2. Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA yang baru digunakan oleh Cassandra dan komponen hybrid lainnya untuk mTLS. Oleh karena itu, penting untuk memiliki sertifikat yang konsisten di seluruh cluster.

   1. Tetapkan konteks ke namespace asli:

      kubectl config use-context ORIGINAL_CLUSTER_NAME
      

   2. Ekspor konfigurasi namespace saat ini ke sebuah file:

      kubectl get namespace apigee -o yaml > apigee-namespace.yaml
      

   3. Ekspor rahasia apigee-ca ke file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
      

   4. Tetapkan konteks ke nama cluster region baru:

      kubectl config use-context NEW_CLUSTER_NAME
      

   5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk perbarui namespace dalam file ini jika Anda menggunakan namespace di region baru:

      kubectl apply -f apigee-namespace.yaml
      

   6. Impor rahasia ke cluster baru:

      kubectl -n cert-manager apply -f apigee-ca.yaml
      

3. Ikuti langkah-langkah untuk Menginstal CRD hybrid Apigee ke region baru.

4. Sekarang gunakan diagram Helm untuk menginstal Apigee Hybrid di region baru dengan perintah Helm Chart berikut (seperti yang dilakukan di region 1):

   Catatan: Anda dapat menggunakan CRD yang sama untuk konsistensi menggunakan folder yang sama tempat Anda telah mengunduh bagan, Anda juga dapat menyimpan file penggantian unik antara region 1 dan 2 dengan memberi nama mengganti sesuatu yang unik seperti overrides-region_name.yaml, dll.
   Penting: Hilangkan tanda ‑‑atomic untuk cluster yang dimigrasikan.

   helm upgrade operator apigee-operator \
     --install \
     --create-namespace \
     --namespace apigee-system \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade datastore apigee-datastore \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade telemetry apigee-telemetry \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade redis apigee-redis \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade ingress-manager apigee-ingress-manager \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade ORG_NAME apigee-org \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   # repeat the below command for each env mentioned on the overrides
   helm upgrade ENV_NAME apigee-env/ \
     --install \
     --namespace apigee \
     --atomic \
     --set env=ENV_NAME \
     -f overrides-DATACENTER_NAME.yaml
   # repeat the below command for each env group mentioned on the overrides
   helm upgrade apigee-virtualhost-ENV_GROUP_NAME apigee-virtualhost/ \
     --install \
     --namespace apigee \
     --atomic \
     --set envgroup=ENV_GROUP_NAME \
     -f overrides-DATACENTER_NAME.yaml
   

5. Verifikasi penyiapan cluster Cassandra dengan menjalankan perintah berikut. Output harus menunjukkan pusat data yang ada dan yang baru.
   Peringatan: Jika output perintah ini tidak menampilkan kedua pusat data yang ada dan yang baru, konfigurasinya gagal. Dalam kasus ini, jangan lanjutkan lebih lanjut.

   Untuk memperbaiki masalah ini, instalasi hybrid di region baru harus dihapus dan dibuat ulang. Lihat Meng-uninstal runtime hybrid. Jika jika konfigurasi gagal, jangan mencoba melanjutkan atau mencoba bergabung ke cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
   -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh yang menunjukkan penyiapan yang berhasil:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-2
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

6. Siapkan Cassandra di semua pod di pusat data yang baru.
   1. Dapatkan apigeeorg dari cluster dengan perintah berikut:

      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Contoh:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      

   2. Buat file resource kustom replikasi data cassandra (YAML). Tujuan {i>file<i} dapat memiliki nama apa pun. Pada contoh berikut, file akan memiliki nama datareplication.yaml.

      File harus berisi hal-hal berikut:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
      name: REGION_EXPANSION
      namespace: NAMESPACE
      spec:
      organizationRef: APIGEEORG_VALUE
      force: false
      source:
      region: SOURCE_REGION

      Dengan keterangan:

      • REGION_EXPANSION adalah nama yang Anda berikan metadata ini. Anda dapat gunakan nama apa pun.
      • NAMESPACE adalah namespace yang sama dengan yang disediakan di overrides.yaml. Nama ini biasanya adalah "apigee".
      • APIGEEORG_VALUE adalah output nilai dari kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" perintah di langkah sebelumnya. Misalnya, rg-hybrid-b7d3b9c
      • SOURCE_REGION adalah region sumber, nilai pusat data pada bagian cassandra dari penggantian region sumber.yaml

      Contoh:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
      name: region-expansion
      namespace: apigee
      spec:
      organizationRef: rg-hybrid-b7d3b9c
      force: false
      source:
      region: "dc-1"

   3. Terapkan CassandraDataReplication dengan perintah berikut:

      kubectl apply -f datareplication.yaml

7. Verifikasi status pembuatan ulang menggunakan perintah berikut.
   Catatan: Operasi build ulang dapat memerlukan waktu hingga beberapa jam bergantung pada ukuran datanya.

   kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

   Hasilnya akan terlihat seperti:

   {
   "rebuildDetails": {
   "apigee-cassandra-default-0": {
   "state": "complete",
   "updated": 1623105760
   },
   "apigee-cassandra-default-1": {
   "state": "complete",
   "updated": 1623105765
   },
   "apigee-cassandra-default-2": {
   "state": "complete",
   "updated": 1623105770
   }
   },
   "state": "complete",
   "updated": 1623105770
   }

8. Setelah replikasi data selesai dan diverifikasi, update host seed:
   1. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DATACENTER_NAME.yaml.

   2. Terapkan kembali perubahan untuk memperbarui CR datastore apigee:

      Penting: Hilangkan tanda ‑‑atomic untuk cluster yang dimigrasikan.

      helm upgrade datastore apigee-datastore/ \
        --install \
        --namespace apigee \
        --atomic \
        -f overrides-DATACENTER_NAME.yaml
      

9. Verifikasi proses build ulang dari log. Juga, verifikasi ukuran data menggunakan perintah nodetool status.
   Catatan: Jika operasi build ulang menampilkan status selesai dan log proses build ulang berisi "Semua sesi selesai" semua data telah berhasil disalin ke region baru.

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Tips: APIGEE_JMX_USER dan APIGEE_JMX_PASSWORD biasanya ditentukan dalam variabel lingkungan $APIGEE_JMX_USER dan $APIGEE_JMX_PASSWORD.

   Contoh berikut menunjukkan contoh entri log:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

apigeectl

1. Dalam file overrides.yaml untuk cluster asli, pastikan cassandra:hostNetwork disetel ke true. Contoh:

   cassandra:
     hostNetwork: true

   Lihat Prasyarat untuk mengetahui informasi selengkapnya tentang kapan harus menetapkan hostNetwork: true.

2. Jika cassandra:hostNetwork tidak ditetapkan ke true, lakukan tindakan berikut:
   1. Ubah cassandra.hostNetwork menjadi true.
   2. Terapkan file konfigurasi overrides.yaml dengan perintah:

        apigeectl apply -f overrides.yaml --datastore
        

   3. Tunggu hingga pod Cassandra selesai memulai ulang secara bertahap.

   4. Pastikan cluster Cassandra responsif dengan hal berikut berikut:

        kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
        

        nodetool -u  -pw APIGEE_JMX_PASSWORD status
        

      Memastikan semua node Cassandra di output berada dalam status UN (Up/Normal) status:

        nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD describecluster
        

      Pastikan tidak ada node yang tidak dapat dijangkau yang tercantum di output.

3. Tetapkan konteks kubectl ke cluster asli sebelum mengambil nama seed:

   kubectl config use-context original-cluster-name

4. Jalankan perintah kubectl berikut guna mengidentifikasi alamat host awal untuk Cassandra di region saat ini.

   Alamat host bibit memungkinkan instance regional baru untuk menemukan cluster asli pada startup pertama yang mempelajari topologi cluster. Alamat host inti ditetapkan sebagai titik kontak dalam cluster.

   kubectl get pods -o wide -n apigee -l app=apigee-cassandra --field-selector status.phase=Running

   apigee-cassandra-default-0  1/1   Running   0   4d17h   120.38.1.9  aks-agentpool-21207753-vmss000000
   

5. Tentukan IP mana yang ditampilkan dari perintah sebelumnya yang akan menjadi seed multi-region {i>host<i}. Di contoh ini, ketika hanya ada satu cluster node cassandra yang berjalan, seed host adalah 120.38.1.9.
6. Di pusat data 2, salin file pengganti Anda ke file baru yang namanya menyertakan cluster nama. Misalnya, overrides_your_cluster_name.yaml.
7. Di pusat data 2, konfigurasi cassandra.multiRegionSeedHost dan cassandra.datacenter inci overrides_your_cluster_name.yaml, dengan multiRegionSeedHost adalah salah satu IP yang ditampilkan oleh perintah sebelumnya:

   cassandra:
        multiRegionSeedHost: seed_host_IP
        datacenter: data_center_name
        rack: rack_name
        hostNetwork: true

   clusterName: cluster_name # harus sama untuk semua wilayah

   Contoh:

   cassandra:
     multiRegionSeedHost: 120.38.1.9
     datacenter: "centralus"
     rack: "ra-1"
     hostNetwork: true
     clusterName: my-apigee-cluster

8. Di pusat data/region baru, sebelum menginstal hybrid, setel sertifikat TLS yang sama dan kredensial dalam overrides_your_cluster_name.yaml seperti yang Anda tetapkan di region pertama.
   Catatan: Pastikan untuk menggunakan sertifikat dan kredensial Cassandra TLS yang sama di pusat data kedua seperti yang Anda berikan di pusat data asli. Kredensial yang Anda dalam file pengganti di pusat data pertama harus cocok dengan yang Anda tentukan di akan menimpa file di pusat data kedua. Untuk mengetahui detailnya, lihat Mengonfigurasi TLS untuk Cassandra.

Menyiapkan wilayah baru

Setelah mengonfigurasi host inti, Anda dapat menyiapkan region baru.

Untuk menyiapkan wilayah baru:

1. Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA yang baru adalah digunakan oleh Cassandra dan komponen hibrida lainnya untuk mTLS. Oleh karena itu, penting untuk memiliki sertifikat yang konsisten di seluruh cluster.
   1. Tetapkan konteks ke namespace asli:

      kubectl config use-context original-cluster-name

   2. Ekspor konfigurasi namespace saat ini ke sebuah file:

      kubectl get namespace namespace -o yaml > apigee-namespace.yaml

   3. Ekspor rahasia apigee-ca ke file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml

   4. Tetapkan konteks ke nama cluster region baru:

      kubectl config use-context new-cluster-name

   5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk memperbarui "ruang nama" pada file jika menggunakan namespace yang berbeda di wilayah baru:

      kubectl apply -f apigee-namespace.yaml

   6. Impor rahasia ke cluster baru:

      kubectl -n cert-manager apply -f apigee-ca.yaml

2. Instal hybrid di region baru. Pastikan bahwa overrides_your_cluster_name.yaml menyertakan sertifikat TLS yang sama yang dikonfigurasi di region pertama, seperti yang dijelaskan di bagian sebelumnya.

   Jalankan dua perintah berikut untuk menginstal hybrid di region baru:

   Penting: Saat memperluas Apigee Hybrid ke pusat data regional baru, pastikan untuk menginstal versi hibrida yang sama seperti yang Anda miliki di pusat data. Hindari menjalankan versi hybrid yang berbeda di beberapa pusat data.

   apigeectl init -f overrides_your_cluster_name.yaml

   apigeectl apply -f overrides_your_cluster_name.yaml

3. Pastikan penginstalan hybrid berhasil dengan menjalankan perintah berikut:

   apigeectl check-ready -f overrides_your_cluster_name.yaml

4. Verifikasi penyiapan cluster Cassandra dengan menjalankan perintah berikut. Output harus menunjukkan pusat data yang ada dan yang baru.
   Peringatan: Jika output perintah ini tidak menampilkan kedua pusat data yang ada dan yang baru, konfigurasinya gagal. Dalam kasus ini, jangan lanjutkan lebih lanjut.

   Untuk memperbaiki masalah ini, instalasi hybrid di region baru harus dihapus dan dibuat ulang. Lihat Meng-uninstal runtime hybrid. Jika jika konfigurasi gagal, jangan mencoba melanjutkan atau mencoba bergabung ke cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
     -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh yang menunjukkan penyiapan yang berhasil:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-2
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

5. Siapkan Cassandra di semua pod di pusat data yang baru.
   1. Dapatkan apigeeorg dari cluster dengan perintah berikut:

      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Contoh:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      

   2. Buat file resource kustom replikasi data cassandra (YAML). Tujuan {i>file<i} dapat memiliki nama apa pun. Pada contoh berikut, file akan memiliki nama datareplication.yaml.

      File harus berisi hal-hal berikut:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: REGION_EXPANSION
        namespace: NAMESPACE
      spec:
        organizationRef: APIGEEORG_VALUE
        force: false
        source:
          region: SOURCE_REGION

      Dengan keterangan:

      • REGION_EXPANSION adalah nama yang Anda berikan metadata ini. Anda dapat gunakan nama apa pun.
      • NAMESPACE adalah namespace yang sama dengan yang disediakan di overrides.yaml. Nama ini biasanya adalah "apigee".
      • APIGEEORG_VALUE adalah output nilai dari kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" perintah di langkah sebelumnya. Misalnya, rg-hybrid-b7d3b9c
      • SOURCE_REGION adalah region sumber, nilai pusat data pada bagian cassandra dari penggantian region sumber.yaml

      Contoh:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: region-expansion
        namespace: apigee
      spec:
        organizationRef: rg-hybrid-b7d3b9c
        force: false
        source:
          region: "dc-1"

   3. Terapkan CassandraDataReplication dengan perintah berikut:

      kubectl apply -f datareplication.yaml

   4. Verifikasi status pembuatan ulang menggunakan perintah berikut.
      Catatan: Operasi build ulang dapat memerlukan waktu hingga beberapa jam bergantung pada ukuran datanya.

      kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

      Hasilnya akan terlihat seperti:

      {
        "rebuildDetails": {
          "apigee-cassandra-default-0": {
            "state": "complete",
            "updated": 1623105760
          },
          "apigee-cassandra-default-1": {
            "state": "complete",
            "updated": 1623105765
          },
          "apigee-cassandra-default-2": {
            "state": "complete",
            "updated": 1623105770
          }
        },
        "state": "complete",
        "updated": 1623105770
      }

6. Verifikasi proses build ulang dari log. Juga, verifikasi ukuran data menggunakan perintah nodetool status.
   Catatan: Jika operasi build ulang menampilkan status selesai dan log proses build ulang berisi "Semua sesi selesai" semua data telah berhasil disalin ke region baru.

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh berikut menunjukkan contoh entri log:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

7. Memperbarui host seed. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DC_name.yaml dan ajukan permohonan kembali.
   Catatan: Host seed adalah anggota cluster lokal. Untuk melakukan booting region baru yang diperlukan host inti eksternal. Setelah region melakukan booting, Anda perlu untuk mengubah host seed kembali ke cluster lokalnya di overrides.yaml, lalu menerapkan ulang konfigurasi.

   apigeectl apply -f overrides/overrides-DC_name.yaml

Memeriksa status cluster Cassandra

Perintah berikut berguna untuk melihat apakah penyiapan cluster berhasil di dua pusat data. Perintah tersebut memeriksa status nodetool untuk kedua region.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status


Datacenter: dc-1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          100.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          100.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          100.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

EKS

Penting: Saat memperluas Apigee Hybrid ke pusat data regional baru, pastikan untuk menginstal versi hibrida yang sama seperti yang Anda miliki di pusat data. Hindari menjalankan versi hybrid yang berbeda di beberapa pusat data. Pembatasan ini tidak berlaku saat mengupgrade beberapa pusat data ke versi baru.

Peringatan: Jika penginstalan untuk region baru gagal, jangan lanjutkan penginstalan region. Sebagai gantinya, hapus dan buat ulang penginstalan hybrid di region yang gagal.

Membuat jaringan virtual di setiap region

Ikuti rekomendasi AWS untuk membangun komunikasi lintas region sebagaimana dijelaskan dalam: Apa itu peering VPC?. Istilah AWS untuk menggunakan region yang berbeda adalah peering VPC antar-Region.

Membuat cluster multi-regional

Siapkan cluster Kubernetes di beberapa region dengan blok CIDR yang berbeda. Lihat juga Langkah 1: Buat cluster. Gunakan lokasi dan nama jaringan virtual yang telah Anda buat sebelumnya.

Membuka port Cassandra antar-cluster Kubernetes di semua di region Anda untuk memungkinkan worker node di seluruh region dan pusat data untuk berkomunikasi. Lihat Mengonfigurasi port untuk Nomor port Cassandra.

Mengonfigurasi host seed multi-region

Bagian ini menjelaskan cara memperluas cluster Cassandra yang ada ke region baru. Penyiapan ini memungkinkan region baru untuk mem-bootstrap cluster dan bergabung dengan cluster yang ada pusat data. Tanpa konfigurasi ini, cluster Kubernetes multi-region tidak akan tahu satu sama lain.

Ikuti prosedur alat yang Anda gunakan untuk mengelola dan menginstal Apigee Hybrid:

Diagram helm

1. Untuk region pertama yang dibuat, dapatkan pod di namespace apigee Anda:

   kubectl get pods -o wide -n apigee
   

2. Identifikasi alamat host inti multi-region untuk Cassandra di region ini, misalnya 10.0.0.11.

3. Siapkan file overrides.yaml untuk region kedua dan tambahkan alamat IP host inti sebagai berikut:

   cassandra:
     multiRegionSeedHost: "SEED_HOST_IP_ADDRESS"
     datacenter: "DATACENTER_NAME"
     rack: "RACK_NAME"
     hostNetwork: false
     clusterName: CLUSTER_NAME
   

   Ganti kode berikut:

   • SEED_HOST_IP_ADDRESS dengan alamat IP host inti, misalnya 10.0.0.11.
   • DATACENTER_NAME dengan nama pusat data, misalnya dc-2.
   • RACK_NAME dengan nama rak, misalnya ra-1.
   • CLUSTER_NAME dengan nama gugus Cassandra Anda. Secara default, nilai adalah apigeecluster. Jika menggunakan nama cluster yang berbeda, Anda harus menentukan untuk cassandra.clusterName. Anda bebas memilih nilai Anda sendiri, tetapi nilai tersebut harus sama di semua wilayah.

Mengonfigurasi region kedua

Untuk menyiapkan wilayah baru:

1. Instal cert-manager di region 2:

   kubectl apply -f https://github.com/cert-manager/cert-manager/releases/download/v1.11.1/cert-manager.yaml
   

2. Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA yang baru digunakan oleh Cassandra dan komponen hybrid lainnya untuk mTLS. Oleh karena itu, penting untuk memiliki sertifikat yang konsisten di seluruh cluster.

   1. Tetapkan konteks ke namespace asli:

      kubectl config use-context ORIGINAL_CLUSTER_NAME
      

   2. Ekspor konfigurasi namespace saat ini ke sebuah file:

      kubectl get namespace apigee -o yaml > apigee-namespace.yaml
      

   3. Ekspor rahasia apigee-ca ke file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
      

   4. Tetapkan konteks ke nama cluster region baru:

      kubectl config use-context NEW_CLUSTER_NAME
      

   5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk perbarui namespace dalam file ini jika Anda menggunakan namespace di region baru:

      kubectl apply -f apigee-namespace.yaml
      

   6. Impor rahasia ke cluster baru:

      kubectl -n cert-manager apply -f apigee-ca.yaml
      

3. Ikuti langkah-langkah untuk Menginstal CRD hybrid Apigee ke region baru.

4. Sekarang gunakan diagram Helm untuk menginstal Apigee Hybrid di region baru dengan perintah Helm Chart berikut (seperti yang dilakukan di region 1):

   Catatan: Anda dapat menggunakan CRD yang sama untuk konsistensi menggunakan folder yang sama tempat Anda telah mengunduh bagan, Anda juga dapat menyimpan file penggantian unik antara region 1 dan 2 dengan memberi nama mengganti sesuatu yang unik seperti overrides-region_name.yaml, dll.
   Penting: Hilangkan tanda ‑‑atomic untuk cluster yang dimigrasikan.

   helm upgrade operator apigee-operator \
     --install \
     --create-namespace \
     --namespace apigee-system \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade datastore apigee-datastore \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade telemetry apigee-telemetry \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade redis apigee-redis \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade ingress-manager apigee-ingress-manager \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade ORG_NAME apigee-org \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   # repeat the below command for each env mentioned on the overrides
   helm upgrade ENV_NAME apigee-env/ \
     --install \
     --namespace apigee \
     --atomic \
     --set env=ENV_NAME \
     -f overrides-DATACENTER_NAME.yaml
   # repeat the below command for each env group mentioned on the overrides
   helm upgrade apigee-virtualhost-ENV_GROUP_NAME apigee-virtualhost/ \
     --install \
     --namespace apigee \
     --atomic \
     --set envgroup=ENV_GROUP_NAME \
     -f overrides-DATACENTER_NAME.yaml
   

5. Verifikasi penyiapan cluster Cassandra dengan menjalankan perintah berikut. Output harus menunjukkan pusat data yang ada dan yang baru.
   Peringatan: Jika output perintah ini tidak menampilkan kedua pusat data yang ada dan yang baru, konfigurasinya gagal. Dalam kasus ini, jangan lanjutkan lebih lanjut.

   Untuk memperbaiki masalah ini, instalasi hybrid di region baru harus dihapus dan dibuat ulang. Lihat Meng-uninstal runtime hybrid. Jika jika konfigurasi gagal, jangan mencoba melanjutkan atau mencoba bergabung ke cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
   -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh yang menunjukkan penyiapan yang berhasil:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-2
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

6. Siapkan Cassandra di semua pod di pusat data yang baru.
   1. Dapatkan apigeeorg dari cluster dengan perintah berikut:

      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Contoh:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      

   2. Buat file resource kustom replikasi data cassandra (YAML). Tujuan {i>file<i} dapat memiliki nama apa pun. Pada contoh berikut, file akan memiliki nama datareplication.yaml.

      File harus berisi hal-hal berikut:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
      name: REGION_EXPANSION
      namespace: NAMESPACE
      spec:
      organizationRef: APIGEEORG_VALUE
      force: false
      source:
      region: SOURCE_REGION

      Dengan keterangan:

      • REGION_EXPANSION adalah nama yang Anda berikan metadata ini. Anda dapat gunakan nama apa pun.
      • NAMESPACE adalah namespace yang sama dengan yang disediakan di overrides.yaml. Nama ini biasanya adalah "apigee".
      • APIGEEORG_VALUE adalah output nilai dari kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" perintah di langkah sebelumnya. Misalnya, rg-hybrid-b7d3b9c
      • SOURCE_REGION adalah region sumber, nilai pusat data pada bagian cassandra dari penggantian region sumber.yaml

      Contoh:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
      name: region-expansion
      namespace: apigee
      spec:
      organizationRef: rg-hybrid-b7d3b9c
      force: false
      source:
      region: "dc-1"

   3. Terapkan CassandraDataReplication dengan perintah berikut:

      kubectl apply -f datareplication.yaml

7. Verifikasi status pembuatan ulang menggunakan perintah berikut.
   Catatan: Operasi build ulang dapat memerlukan waktu hingga beberapa jam bergantung pada ukuran datanya.

   kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

   Hasilnya akan terlihat seperti:

   {
   "rebuildDetails": {
   "apigee-cassandra-default-0": {
   "state": "complete",
   "updated": 1623105760
   },
   "apigee-cassandra-default-1": {
   "state": "complete",
   "updated": 1623105765
   },
   "apigee-cassandra-default-2": {
   "state": "complete",
   "updated": 1623105770
   }
   },
   "state": "complete",
   "updated": 1623105770
   }

8. Setelah replikasi data selesai dan diverifikasi, update host seed:
   1. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DATACENTER_NAME.yaml.

   2. Terapkan kembali perubahan untuk memperbarui CR datastore apigee:

      Penting: Hilangkan tanda ‑‑atomic untuk cluster yang dimigrasikan.

      helm upgrade datastore apigee-datastore/ \
        --install \
        --namespace apigee \
        --atomic \
        -f overrides-DATACENTER_NAME.yaml
      

9. Verifikasi proses build ulang dari log. Juga, verifikasi ukuran data menggunakan perintah nodetool status.
   Catatan: Jika operasi build ulang menampilkan status selesai dan log proses build ulang berisi "Semua sesi selesai" semua data telah berhasil disalin ke region baru.

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Tips: APIGEE_JMX_USER dan APIGEE_JMX_PASSWORD biasanya ditentukan dalam variabel lingkungan $APIGEE_JMX_USER dan $APIGEE_JMX_PASSWORD.

   Contoh berikut menunjukkan contoh entri log:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

apigeectl

1. Dalam file overrides.yaml untuk cluster asli, pastikan cassandra:hostNetwork disetel ke true. Contoh:

   cassandra:
     hostNetwork: true

   Lihat Prasyarat untuk mengetahui informasi selengkapnya tentang kapan harus menetapkan hostNetwork: true.

2. Jika cassandra:hostNetwork tidak ditetapkan ke true, lakukan tindakan berikut:
   1. Ubah cassandra.hostNetwork menjadi true.
   2. Terapkan file konfigurasi overrides.yaml dengan perintah:

        apigeectl apply -f overrides.yaml --datastore
        

   3. Tunggu hingga pod Cassandra selesai memulai ulang secara bertahap.

   4. Pastikan cluster Cassandra responsif dengan hal berikut berikut:

        kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
        

        nodetool -u  -pw APIGEE_JMX_PASSWORD status
        

      Memastikan semua node Cassandra di output berada dalam status UN (Up/Normal) status:

        nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD describecluster
        

      Pastikan tidak ada node yang tidak dapat dijangkau yang tercantum di output.

3. Tetapkan konteks kubectl ke cluster asli sebelum mengambil nama seed:

   kubectl config use-context original-cluster-name

4. Jalankan perintah kubectl berikut guna mengidentifikasi alamat host awal untuk Cassandra di region saat ini.

   Alamat host bibit memungkinkan instance regional baru untuk menemukan cluster asli pada startup pertama yang mempelajari topologi cluster. Alamat host inti ditetapkan sebagai titik kontak dalam cluster.

   kubectl get pods -o wide -n apigee -l app=apigee-cassandra --field-selector status.phase=Running

   apigee-cassandra-default-0  1/1   Running   0   4d17h   120.38.1.9  aks-agentpool-21207753-vmss000000
   

5. Tentukan IP mana yang ditampilkan dari perintah sebelumnya yang akan menjadi seed multi-region {i>host<i}. Di contoh ini, ketika hanya ada satu cluster node cassandra yang berjalan, seed host adalah 120.38.1.9.
6. Di pusat data 2, salin file pengganti Anda ke file baru yang namanya menyertakan cluster nama. Misalnya, overrides_your_cluster_name.yaml.
7. Di pusat data 2, konfigurasi cassandra.multiRegionSeedHost dan cassandra.datacenter inci overrides_your_cluster_name.yaml, dengan multiRegionSeedHost adalah salah satu IP yang ditampilkan oleh perintah sebelumnya:

   cassandra:
        multiRegionSeedHost: seed_host_IP
        datacenter: data_center_name
        rack: rack_name
        hostNetwork: true

   clusterName: cluster_name # harus sama untuk semua wilayah

   Contoh:

   cassandra:
     multiRegionSeedHost: 120.38.1.9
     datacenter: "centralus"
     rack: "ra-1"
     hostNetwork: true
     clusterName: my-apigee-cluster

8. Di pusat data/region baru, sebelum menginstal hybrid, setel sertifikat TLS yang sama dan kredensial dalam overrides_your_cluster_name.yaml seperti yang Anda tetapkan di region pertama.
   Catatan: Pastikan untuk menggunakan sertifikat dan kredensial Cassandra TLS yang sama di pusat data kedua seperti yang Anda berikan di pusat data asli. Kredensial yang Anda dalam file pengganti di pusat data pertama harus cocok dengan yang Anda tentukan di akan menimpa file di pusat data kedua. Untuk mengetahui detailnya, lihat Mengonfigurasi TLS untuk Cassandra.

Menyiapkan wilayah baru

Setelah mengonfigurasi host inti, Anda dapat menyiapkan region baru.

Untuk menyiapkan wilayah baru:

1. Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA yang baru adalah digunakan oleh Cassandra dan komponen hibrida lainnya untuk mTLS. Oleh karena itu, penting untuk memiliki sertifikat yang konsisten di seluruh cluster.
   1. Tetapkan konteks ke namespace asli:

      kubectl config use-context original-cluster-name

   2. Ekspor konfigurasi namespace saat ini ke sebuah file:

      kubectl get namespace namespace -o yaml > apigee-namespace.yaml

   3. Ekspor rahasia apigee-ca ke file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml

   4. Tetapkan konteks ke nama cluster region baru:

      kubectl config use-context new-cluster-name

   5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk memperbarui "ruang nama" pada file jika menggunakan namespace yang berbeda di wilayah baru:

      kubectl apply -f apigee-namespace.yaml

   6. Impor rahasia ke cluster baru:

      kubectl -n cert-manager apply -f apigee-ca.yaml

2. Instal hybrid di region baru. Pastikan bahwa overrides_your_cluster_name.yaml menyertakan sertifikat TLS yang sama yang dikonfigurasi di region pertama, seperti yang dijelaskan di bagian sebelumnya.

   Jalankan dua perintah berikut untuk menginstal hybrid di region baru:

   Penting: Saat memperluas Apigee Hybrid ke pusat data regional baru, pastikan untuk menginstal versi hibrida yang sama seperti yang Anda miliki di pusat data. Hindari menjalankan versi hybrid yang berbeda di beberapa pusat data.

   apigeectl init -f overrides_your_cluster_name.yaml

   apigeectl apply -f overrides_your_cluster_name.yaml

3. Pastikan penginstalan hybrid berhasil dengan menjalankan perintah berikut:

   apigeectl check-ready -f overrides_your_cluster_name.yaml

4. Verifikasi penyiapan cluster Cassandra dengan menjalankan perintah berikut. Output harus menunjukkan pusat data yang ada dan yang baru.
   Peringatan: Jika output perintah ini tidak menampilkan kedua pusat data yang ada dan yang baru, konfigurasinya gagal. Dalam kasus ini, jangan lanjutkan lebih lanjut.

   Untuk memperbaiki masalah ini, instalasi hybrid di region baru harus dihapus dan dibuat ulang. Lihat Meng-uninstal runtime hybrid. Jika jika konfigurasi gagal, jangan mencoba melanjutkan atau mencoba bergabung ke cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
     -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh yang menunjukkan penyiapan yang berhasil:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-2
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

5. Siapkan Cassandra di semua pod di pusat data yang baru.
   1. Dapatkan apigeeorg dari cluster dengan perintah berikut:

      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Contoh:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      

   2. Buat file resource kustom replikasi data cassandra (YAML). Tujuan {i>file<i} dapat memiliki nama apa pun. Pada contoh berikut, file akan memiliki nama datareplication.yaml.

      File harus berisi hal-hal berikut:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: REGION_EXPANSION
        namespace: NAMESPACE
      spec:
        organizationRef: APIGEEORG_VALUE
        force: false
        source:
          region: SOURCE_REGION

      Dengan keterangan:

      • REGION_EXPANSION adalah nama yang Anda berikan metadata ini. Anda dapat gunakan nama apa pun.
      • NAMESPACE adalah namespace yang sama dengan yang disediakan di overrides.yaml. Nama ini biasanya adalah "apigee".
      • APIGEEORG_VALUE adalah output nilai dari kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" perintah di langkah sebelumnya. Misalnya, rg-hybrid-b7d3b9c
      • SOURCE_REGION adalah region sumber, nilai pusat data pada bagian cassandra dari penggantian region sumber.yaml

      Contoh:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: region-expansion
        namespace: apigee
      spec:
        organizationRef: rg-hybrid-b7d3b9c
        force: false
        source:
          region: "dc-1"

   3. Terapkan CassandraDataReplication dengan perintah berikut:

      kubectl apply -f datareplication.yaml

   4. Verifikasi status pembuatan ulang menggunakan perintah berikut.
      Catatan: Operasi build ulang dapat memerlukan waktu hingga beberapa jam bergantung pada ukuran datanya.

      kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

      Hasilnya akan terlihat seperti:

      {
        "rebuildDetails": {
          "apigee-cassandra-default-0": {
            "state": "complete",
            "updated": 1623105760
          },
          "apigee-cassandra-default-1": {
            "state": "complete",
            "updated": 1623105765
          },
          "apigee-cassandra-default-2": {
            "state": "complete",
            "updated": 1623105770
          }
        },
        "state": "complete",
        "updated": 1623105770
      }

6. Verifikasi proses build ulang dari log. Juga, verifikasi ukuran data menggunakan perintah nodetool status.
   Catatan: Jika operasi build ulang menampilkan status selesai dan log proses build ulang berisi "Semua sesi selesai" semua data telah berhasil disalin ke region baru.

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh berikut menunjukkan contoh entri log:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

7. Memperbarui host seed. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DC_name.yaml dan ajukan permohonan kembali.
   Catatan: Host seed adalah anggota cluster lokal. Untuk melakukan booting region baru yang diperlukan host inti eksternal. Setelah region melakukan booting, Anda perlu untuk mengubah host seed kembali ke cluster lokalnya di overrides.yaml, lalu menerapkan ulang konfigurasi.

   apigeectl apply -f overrides/overrides-DC_name.yaml

Memeriksa status cluster Cassandra

Perintah berikut berguna untuk melihat apakah penyiapan cluster berhasil di dua pusat data. Perintah tersebut memeriksa status nodetool untuk kedua region.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status


Datacenter: dc-1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          100.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          100.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          100.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

OpenShift

Penting: Saat memperluas Apigee Hybrid ke pusat data regional baru, pastikan untuk menginstal versi hibrida yang sama seperti yang Anda miliki di pusat data. Hindari menjalankan versi hybrid yang berbeda di beberapa pusat data.

Peringatan: Jika penginstalan untuk region baru gagal, jangan lanjutkan penginstalan region. Sebagai gantinya, hapus dan buat ulang penginstalan hybrid di region yang gagal.

Mengonfigurasi host seed multi-region

Bagian ini menjelaskan cara memperluas cluster Cassandra yang ada ke region baru. Penyiapan ini memungkinkan region baru untuk mem-bootstrap cluster dan bergabung dengan cluster yang ada pusat data. Tanpa konfigurasi ini, cluster Kubernetes multi-region tidak akan tahu satu sama lain.

Ikuti prosedur alat yang Anda gunakan untuk mengelola dan menginstal Apigee Hybrid:

Diagram helm

1. Untuk region pertama yang dibuat, dapatkan pod di namespace apigee Anda:

   kubectl get pods -o wide -n apigee
   

2. Identifikasi alamat host inti multi-region untuk Cassandra di region ini, misalnya 10.0.0.11.

3. Siapkan file overrides.yaml untuk region kedua dan tambahkan alamat IP host inti sebagai berikut:

   cassandra:
     multiRegionSeedHost: "SEED_HOST_IP_ADDRESS"
     datacenter: "DATACENTER_NAME"
     rack: "RACK_NAME"
     hostNetwork: false
     clusterName: CLUSTER_NAME
   

   Ganti kode berikut:

   • SEED_HOST_IP_ADDRESS dengan alamat IP host inti, misalnya 10.0.0.11.
   • DATACENTER_NAME dengan nama pusat data, misalnya dc-2.
   • RACK_NAME dengan nama rak, misalnya ra-1.
   • CLUSTER_NAME dengan nama gugus Cassandra Anda. Secara default, nilai adalah apigeecluster. Jika menggunakan nama cluster yang berbeda, Anda harus menentukan untuk cassandra.clusterName. Anda bebas memilih nilai Anda sendiri, tetapi nilai tersebut harus sama di semua wilayah.

Mengonfigurasi region kedua

Untuk menyiapkan wilayah baru:

1. Instal cert-manager di region 2:

   kubectl apply -f https://github.com/cert-manager/cert-manager/releases/download/v1.11.1/cert-manager.yaml
   

2. Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA yang baru digunakan oleh Cassandra dan komponen hybrid lainnya untuk mTLS. Oleh karena itu, penting untuk memiliki sertifikat yang konsisten di seluruh cluster.

   1. Tetapkan konteks ke namespace asli:

      kubectl config use-context ORIGINAL_CLUSTER_NAME
      

   2. Ekspor konfigurasi namespace saat ini ke sebuah file:

      kubectl get namespace apigee -o yaml > apigee-namespace.yaml
      

   3. Ekspor rahasia apigee-ca ke file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
      

   4. Tetapkan konteks ke nama cluster region baru:

      kubectl config use-context NEW_CLUSTER_NAME
      

   5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk perbarui namespace dalam file ini jika Anda menggunakan namespace di region baru:

      kubectl apply -f apigee-namespace.yaml
      

   6. Impor rahasia ke cluster baru:

      kubectl -n cert-manager apply -f apigee-ca.yaml
      

3. Ikuti langkah-langkah untuk Menginstal CRD hybrid Apigee ke region baru.

4. Sekarang gunakan diagram Helm untuk menginstal Apigee Hybrid di region baru dengan perintah Helm Chart berikut (seperti yang dilakukan di region 1):

   Catatan: Anda dapat menggunakan CRD yang sama untuk konsistensi menggunakan folder yang sama tempat Anda telah mengunduh bagan, Anda juga dapat menyimpan file penggantian unik antara region 1 dan 2 dengan memberi nama mengganti sesuatu yang unik seperti overrides-region_name.yaml, dll.
   Penting: Hilangkan tanda ‑‑atomic untuk cluster yang dimigrasikan.

   helm upgrade operator apigee-operator \
     --install \
     --create-namespace \
     --namespace apigee-system \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade datastore apigee-datastore \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade telemetry apigee-telemetry \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade redis apigee-redis \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade ingress-manager apigee-ingress-manager \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   helm upgrade ORG_NAME apigee-org \
     --install \
     --namespace apigee \
     --atomic \
     -f overrides-DATACENTER_NAME.yaml
   # repeat the below command for each env mentioned on the overrides
   helm upgrade ENV_NAME apigee-env/ \
     --install \
     --namespace apigee \
     --atomic \
     --set env=ENV_NAME \
     -f overrides-DATACENTER_NAME.yaml
   # repeat the below command for each env group mentioned on the overrides
   helm upgrade apigee-virtualhost-ENV_GROUP_NAME apigee-virtualhost/ \
     --install \
     --namespace apigee \
     --atomic \
     --set envgroup=ENV_GROUP_NAME \
     -f overrides-DATACENTER_NAME.yaml
   

5. Verifikasi penyiapan cluster Cassandra dengan menjalankan perintah berikut. Output harus menunjukkan pusat data yang ada dan yang baru.
   Peringatan: Jika output perintah ini tidak menampilkan kedua pusat data yang ada dan yang baru, konfigurasinya gagal. Dalam kasus ini, jangan lanjutkan lebih lanjut.

   Untuk memperbaiki masalah ini, instalasi hybrid di region baru harus dihapus dan dibuat ulang. Lihat Meng-uninstal runtime hybrid. Jika jika konfigurasi gagal, jangan mencoba melanjutkan atau mencoba bergabung ke cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
   -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh yang menunjukkan penyiapan yang berhasil:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-2
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

6. Siapkan Cassandra di semua pod di pusat data yang baru.
   1. Dapatkan apigeeorg dari cluster dengan perintah berikut:

      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Contoh:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      

   2. Buat file resource kustom replikasi data cassandra (YAML). Tujuan {i>file<i} dapat memiliki nama apa pun. Pada contoh berikut, file akan memiliki nama datareplication.yaml.

      File harus berisi hal-hal berikut:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
      name: REGION_EXPANSION
      namespace: NAMESPACE
      spec:
      organizationRef: APIGEEORG_VALUE
      force: false
      source:
      region: SOURCE_REGION

      Dengan keterangan:

      • REGION_EXPANSION adalah nama yang Anda berikan metadata ini. Anda dapat gunakan nama apa pun.
      • NAMESPACE adalah namespace yang sama dengan yang disediakan di overrides.yaml. Nama ini biasanya adalah "apigee".
      • APIGEEORG_VALUE adalah output nilai dari kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" perintah di langkah sebelumnya. Misalnya, rg-hybrid-b7d3b9c
      • SOURCE_REGION adalah region sumber, nilai pusat data pada bagian cassandra dari penggantian region sumber.yaml

      Contoh:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
      name: region-expansion
      namespace: apigee
      spec:
      organizationRef: rg-hybrid-b7d3b9c
      force: false
      source:
      region: "dc-1"

   3. Terapkan CassandraDataReplication dengan perintah berikut:

      kubectl apply -f datareplication.yaml

7. Verifikasi status pembuatan ulang menggunakan perintah berikut.
   Catatan: Operasi build ulang dapat memerlukan waktu hingga beberapa jam bergantung pada ukuran datanya.

   kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

   Hasilnya akan terlihat seperti:

   {
   "rebuildDetails": {
   "apigee-cassandra-default-0": {
   "state": "complete",
   "updated": 1623105760
   },
   "apigee-cassandra-default-1": {
   "state": "complete",
   "updated": 1623105765
   },
   "apigee-cassandra-default-2": {
   "state": "complete",
   "updated": 1623105770
   }
   },
   "state": "complete",
   "updated": 1623105770
   }

8. Setelah replikasi data selesai dan diverifikasi, update host seed:
   1. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DATACENTER_NAME.yaml.

   2. Terapkan kembali perubahan untuk memperbarui CR datastore apigee:

      Penting: Hilangkan tanda ‑‑atomic untuk cluster yang dimigrasikan.

      helm upgrade datastore apigee-datastore/ \
        --install \
        --namespace apigee \
        --atomic \
        -f overrides-DATACENTER_NAME.yaml
      

9. Verifikasi proses build ulang dari log. Juga, verifikasi ukuran data menggunakan perintah nodetool status.
   Catatan: Jika operasi build ulang menampilkan status selesai dan log proses build ulang berisi "Semua sesi selesai" semua data telah berhasil disalin ke region baru.

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Tips: APIGEE_JMX_USER dan APIGEE_JMX_PASSWORD biasanya ditentukan dalam variabel lingkungan $APIGEE_JMX_USER dan $APIGEE_JMX_PASSWORD.

   Contoh berikut menunjukkan contoh entri log:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

apigeectl

1. Dalam file overrides.yaml untuk cluster asli, pastikan cassandra:hostNetwork disetel ke true. Contoh:

   cassandra:
     hostNetwork: true

   Lihat Prasyarat untuk mengetahui informasi selengkapnya tentang kapan harus menetapkan hostNetwork: true.

2. Jika cassandra:hostNetwork tidak ditetapkan ke true, lakukan tindakan berikut:
   1. Ubah cassandra.hostNetwork menjadi true.
   2. Terapkan file konfigurasi overrides.yaml dengan perintah:

        apigeectl apply -f overrides.yaml --datastore
        

   3. Tunggu hingga pod Cassandra selesai memulai ulang secara bertahap.

   4. Pastikan cluster Cassandra responsif dengan hal berikut berikut:

        kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
        

        nodetool -u  -pw APIGEE_JMX_PASSWORD status
        

      Memastikan semua node Cassandra di output berada dalam status UN (Up/Normal) status:

        nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD describecluster
        

      Pastikan tidak ada node yang tidak dapat dijangkau yang tercantum di output.

3. Tetapkan konteks kubectl ke cluster asli sebelum mengambil nama seed:

   kubectl config use-context original-cluster-name

4. Jalankan perintah kubectl berikut guna mengidentifikasi alamat host awal untuk Cassandra di region saat ini.

   Alamat host bibit memungkinkan instance regional baru untuk menemukan cluster asli pada startup pertama yang mempelajari topologi cluster. Alamat host inti ditetapkan sebagai titik kontak dalam cluster.

   kubectl get pods -o wide -n apigee -l app=apigee-cassandra --field-selector status.phase=Running

   NAME                      READY   STATUS      RESTARTS   AGE   IP          NODE                                          NOMINATED NODE
   apigee-cassandra-default-0        1/1     Running     0          5d    10.0.0.11   gke-k8s-dc-2-default-pool-a2206492-p55d
   apigee-cassandra-default-1        1/1     Running     0          5d    10.0.2.4    gke-k8s-dc-2-default-pool-e9daaab3-tjmz
   apigee-cassandra-default-2        1/1     Running     0          5d    10.0.3.5    gke-k8s-dc-2-default-pool-e589awq3-kjch

5. Pilih alamat IP host Cassandra sumber untuk digunakan sebagai host inti multi-region. Di beberapa contoh ini, ini adalah apigee-cassandra-default-0cluster sedang berjalan, host seed adalah 10.0.0.11.
6. Di pusat data 2, salin file pengganti Anda ke file baru yang namanya menyertakan cluster nama. Misalnya, overrides_your_cluster_name.yaml.
7. Di pusat data 2, konfigurasi cassandra.multiRegionSeedHost dan cassandra.datacenter inci overrides_your_cluster_name.yaml, dengan multiRegionSeedHost adalah salah satu IP yang ditampilkan oleh perintah sebelumnya:

   cassandra:
        hostNetwork: true
        multiRegionSeedHost: seed_host_IP # Cassandra pod IP address from the source region.
        datacenter: data_center_name
        rack: rack_name
        clusterName: cluster_name # must be the same for all regions

   Contoh:

   cassandra:
     hostNetwork: true
     multiRegionSeedHost: 10.0.0.11
     datacenter: "dc-2"
     rack: "ra-1"
     clusterName: my-apigee-cluster

8. Di pusat data/region baru, sebelum menginstal hybrid, setel sertifikat TLS yang sama dan kredensial dalam overrides_your_cluster_name.yaml seperti yang Anda tetapkan di region pertama.
   Catatan: Pastikan untuk menggunakan sertifikat dan kredensial Cassandra TLS yang sama di pusat data kedua seperti yang Anda berikan di pusat data asli. Kredensial yang Anda dalam file pengganti di pusat data pertama harus cocok dengan yang Anda tentukan di akan menimpa file di pusat data kedua. Untuk mengetahui detailnya, lihat Mengonfigurasi TLS untuk Cassandra.

Menyiapkan wilayah baru

Setelah mengonfigurasi host inti, Anda dapat menyiapkan region baru.

Untuk menyiapkan wilayah baru:

1. Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA yang baru adalah digunakan oleh Cassandra dan komponen hibrida lainnya untuk mTLS. Oleh karena itu, penting untuk memiliki sertifikat yang konsisten di seluruh cluster.
   1. Tetapkan konteks ke namespace asli:

      kubectl config use-context original-cluster-name

   2. Ekspor konfigurasi namespace saat ini ke sebuah file:

      kubectl get namespace namespace -o yaml > apigee-namespace.yaml

   3. Ekspor rahasia apigee-ca ke file:

      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml

   4. Tetapkan konteks ke nama cluster region baru:

      kubectl config use-context new-cluster-name

   5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk memperbarui "ruang nama" pada file jika menggunakan namespace yang berbeda di wilayah baru:

      kubectl apply -f apigee-namespace.yaml

   6. Impor rahasia ke cluster baru:

      kubectl -n cert-manager apply -f apigee-ca.yaml

2. Instal hybrid di region baru. Pastikan bahwa overrides_your_cluster_name.yaml menyertakan sertifikat TLS yang sama yang dikonfigurasi di region pertama, seperti yang dijelaskan di bagian sebelumnya.

   Jalankan dua perintah berikut untuk menginstal hybrid di region baru:

   Penting: Saat memperluas Apigee Hybrid ke pusat data regional baru, pastikan untuk menginstal versi hibrida yang sama seperti yang Anda miliki di pusat data. Hindari menjalankan versi hybrid yang berbeda di beberapa pusat data.

   apigeectl init -f overrides_your_cluster_name.yaml

   apigeectl apply -f overrides_your_cluster_name.yaml

3. Pastikan penginstalan hybrid berhasil dengan menjalankan perintah berikut:

   apigeectl check-ready -f overrides_your_cluster_name.yaml

4. Verifikasi penyiapan cluster Cassandra dengan menjalankan perintah berikut. Output harus menunjukkan pusat data yang ada dan yang baru.
   Peringatan: Jika output perintah ini tidak menampilkan kedua pusat data yang ada dan yang baru, konfigurasinya gagal. Dalam kasus ini, jangan lanjutkan lebih lanjut.

   Untuk memperbaiki masalah ini, instalasi hybrid di region baru harus dihapus dan dibuat ulang. Lihat Meng-uninstal runtime hybrid. Jika jika konfigurasi gagal, jangan mencoba melanjutkan atau mencoba bergabung ke cluster.

   kubectl exec apigee-cassandra-default-0 -n apigee  \
     -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh yang menunjukkan penyiapan yang berhasil:

   Datacenter: dc-1
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
   UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
   UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d
   
   Datacenter: dc-2
   ====================
   Status=Up/Down
   |/ State=Normal/Leaving/Joining/Moving
   --  Address        Load       Tokens  Owns  Host ID                               Rack
   UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
   UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
   UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

5. Siapkan Cassandra di semua pod di pusat data yang baru.
   1. Dapatkan apigeeorg dari cluster dengan perintah berikut:

      kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      

      Contoh:

      Ex: kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name"
      "rg-hybrid-b7d3b9c"
      

   2. Buat file resource kustom replikasi data cassandra (YAML). Tujuan {i>file<i} dapat memiliki nama apa pun. Pada contoh berikut, file akan memiliki nama datareplication.yaml.

      File harus berisi hal-hal berikut:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: REGION_EXPANSION
        namespace: NAMESPACE
      spec:
        organizationRef: APIGEEORG_VALUE
        force: false
        source:
          region: SOURCE_REGION

      Dengan keterangan:

      • REGION_EXPANSION adalah nama yang Anda berikan metadata ini. Anda dapat gunakan nama apa pun.
      • NAMESPACE adalah namespace yang sama dengan yang disediakan di overrides.yaml. Nama ini biasanya adalah "apigee".
      • APIGEEORG_VALUE adalah output nilai dari kubectl get apigeeorg -n apigee -o json | jq ".items[].metadata.name" perintah di langkah sebelumnya. Misalnya, rg-hybrid-b7d3b9c
      • SOURCE_REGION adalah region sumber, nilai pusat data pada bagian cassandra dari penggantian region sumber.yaml

      Contoh:

      apiVersion: apigee.cloud.google.com/v1alpha1
      kind: CassandraDataReplication
      metadata:
        name: region-expansion
        namespace: apigee
      spec:
        organizationRef: rg-hybrid-b7d3b9c
        force: false
        source:
          region: "dc-1"

   3. Terapkan CassandraDataReplication dengan perintah berikut:

      kubectl apply -f datareplication.yaml

   4. Verifikasi status pembuatan ulang menggunakan perintah berikut.
      Catatan: Operasi build ulang dapat memerlukan waktu hingga beberapa jam bergantung pada ukuran datanya.

      kubectl -n apigee get apigeeds -o json | jq ".items[].status.cassandraDataReplication"

      Hasilnya akan terlihat seperti:

      {
        "rebuildDetails": {
          "apigee-cassandra-default-0": {
            "state": "complete",
            "updated": 1623105760
          },
          "apigee-cassandra-default-1": {
            "state": "complete",
            "updated": 1623105765
          },
          "apigee-cassandra-default-2": {
            "state": "complete",
            "updated": 1623105770
          }
        },
        "state": "complete",
        "updated": 1623105770
      }

6. Verifikasi proses build ulang dari log. Juga, verifikasi ukuran data menggunakan perintah nodetool status.
   Catatan: Jika operasi build ulang menampilkan status selesai dan log proses build ulang berisi "Semua sesi selesai" semua data telah berhasil disalin ke region baru.

   kubectl logs apigee-cassandra-default-0 -f -n apigee

   kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status

   Contoh berikut menunjukkan contoh entri log:

   INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
   INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
   INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
   INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

7. Memperbarui host seed. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DC_name.yaml dan ajukan permohonan kembali.
   Catatan: Host seed adalah anggota cluster lokal. Untuk melakukan booting region baru yang diperlukan host inti eksternal. Setelah region melakukan booting, Anda perlu untuk mengubah host seed kembali ke cluster lokalnya di overrides.yaml, lalu menerapkan ulang konfigurasi.

   apigeectl apply -f overrides/overrides-DC_name.yaml

Memeriksa status cluster Cassandra

Perintah berikut berguna untuk melihat apakah penyiapan cluster berhasil di dua pusat data. Perintah tersebut memeriksa status nodetool untuk kedua region.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u APIGEE_JMX_USER -pw APIGEE_JMX_PASSWORD status


Datacenter: dc-1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          100.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          100.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          100.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

Pemecahan masalah

Lihat Kegagalan replikasi data Cassandra.