Halaman ini diterjemahkan oleh Cloud Translation API.

Deployment multi-region

Topik ini menjelaskan deployment multi-region untuk Apigee hybrid di GKE, Anthos GKE yang di-deploy di lokal, Microsoft® Azure Kubernetes Service (AKS), Amazon Elastic Kubernetes Service (EKS), dan di RedHat OpenShift. Pilih platform Anda di prasyarat dan prosedur.

Topologi untuk deployment multi-region mencakup hal berikut:

Aktif-Aktif: Jika Anda memiliki aplikasi yang di-deploy di beberapa lokasi geografis dan memerlukan respons API latensi rendah untuk deployment. Anda memiliki opsi untuk men-deploy hybrid di beberapa lokasi geografis yang paling dekat dengan klien Anda. Misalnya: Pantai Barat Amerika Serikat, Pantai Timur Amerika Serikat, Eropa, APAC.
Aktif-Pasif: Jika Anda memiliki region utama dan region failover atau disaster recovery.

Region dalam deployment hybrid multi-region berkomunikasi melalui Cassandra, seperti yang ditunjukkan gambar berikut:

Prasyarat

Sebelum mengonfigurasi hybrid untuk beberapa region, Anda harus menyelesaikan prasyarat berikut:

GKE

Saat menginstal deployment Apigee multi-region di antara jaringan yang berbeda (misalnya, penyedia cloud yang berbeda, jaringan VPC yang berbeda, cloud, dan lokal, dll.), Anda harus menyediakan konektivitas internal di antara jaringan terpisah ini yang dapat digunakan Cassandra untuk berkomunikasi antar-node. Hal ini dapat dilakukan dengan VPN atau solusi konektivitas khusus cloud.
Menyiapkan cluster Kubernetes di beberapa region dengan blok CIDR yang berbeda
Pastikan cert-manager diinstal di setiap cluster
Pastikan ASM telah diinstal
Menyiapkan komunikasi lintas region
Persyaratan Multi-Wilayah Cassandra:
- Pastikan namespace jaringan pod memiliki konektivitas di seluruh region, termasuk firewall, vpn, peering VPC, dan peering vNet. Hal ini berlaku untuk sebagian besar penginstalan GKE.
- Jika namespace jaringan pod tidak memiliki konektivitas antar-cluster (cluster berjalan dalam "mode jaringan pulau"), aktifkan fitur hostNetwork Kubernetes dengan menetapkan cassandra.hostNetwork: true dalam file penggantian untuk semua region dalam penginstalan multi-region hybrid Apigee Anda.
  Untuk informasi tentang fitur hostNetwork Kubernetes, lihat Namespace host dalam dokumentasi Kubernetes.
- Aktifkan hostNetwork di cluster yang ada sebelum memperluas konfigurasi multi-region ke wilayah baru.
- Jika hostNetwork diaktifkan, pastikan node pekerja dapat melakukan pencarian DNS terbalik. Apigee cassandra menggunakan pencarian DNS maju dan mundur untuk mendapatkan IP host saat memulai.
  Tips: Jika resolusi DNS tidak berfungsi, coba solusi ini.
  Tambahkan entri host statis dalam file /etc/hosts dari setiap node pekerja cassandra yang mirip dengan berikut:
```
echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"
```
  atau
```
"\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"
```
- Buka port Cassandra di antara cluster Kubernetes di semua region untuk memungkinkan node pekerja di seluruh region dan pusat data berkomunikasi. Lihat Mengonfigurasi port untuk mengetahui nomor port Cassandra.

Untuk mengetahui informasi mendetail, lihat dokumentasi Kubernetes.

GKE on-prem

Saat menginstal deployment Apigee multi-region di antara jaringan yang berbeda (misalnya, penyedia cloud yang berbeda, jaringan VPC yang berbeda, cloud, dan lokal, dll.), Anda harus menyediakan konektivitas internal di antara jaringan terpisah ini yang dapat digunakan Cassandra untuk berkomunikasi antar-node. Hal ini dapat dilakukan dengan VPN atau solusi konektivitas khusus cloud.
Menyiapkan cluster Kubernetes di beberapa region dengan blok CIDR yang berbeda
Pastikan cert-manager diinstal di setiap cluster
Pastikan ASM telah diinstal
Menyiapkan komunikasi lintas region
Persyaratan Multi-Wilayah Cassandra:
- Jika namespace jaringan pod tidak memiliki konektivitas antar-cluster (cluster berjalan dalam "mode jaringan pulau", kasus default dalam penginstalan on-prem GKE), aktifkan fitur hostNetwork Kubernetes dengan menetapkan cassandra.hostNetwork: true dalam file penggantian untuk semua region dalam penginstalan multi-region hibrida Apigee Anda.
  Untuk informasi tentang fitur hostNetwork Kubernetes, lihat Namespace host dalam dokumentasi Kubernetes.
- Aktifkan hostNetwork di cluster yang ada sebelum memperluas konfigurasi multi-region ke wilayah baru.
- Jika hostNetwork diaktifkan, pastikan node pekerja dapat melakukan pencarian DNS terbalik. Apigee cassandra menggunakan pencarian DNS maju dan mundur untuk mendapatkan IP host saat memulai.
  Tips: Jika resolusi DNS tidak berfungsi, coba solusi ini.
  Tambahkan entri host statis dalam file /etc/hosts dari setiap node pekerja cassandra yang mirip dengan berikut:
```
echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"
```
  atau
```
"\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"
```
- Buka port Cassandra di antara cluster Kubernetes di semua region untuk memungkinkan node pekerja di seluruh region dan pusat data berkomunikasi. Lihat Mengonfigurasi port untuk mengetahui nomor port Cassandra.

Untuk mengetahui informasi mendetail, lihat dokumentasi Kubernetes.

AKS

Saat menginstal deployment Apigee multi-region di antara jaringan yang berbeda (misalnya, penyedia cloud yang berbeda, jaringan VPC yang berbeda, cloud, dan lokal, dll.), Anda harus menyediakan konektivitas internal di antara jaringan terpisah ini yang dapat digunakan Cassandra untuk berkomunikasi antar-node. Hal ini dapat dilakukan dengan VPN atau solusi konektivitas khusus cloud.
Ikuti panduan penginstalan hybrid untuk prasyarat apa pun seperti konfigurasi Google Cloud dan organisasi sebelum beralih ke langkah-langkah penyiapan cluster.
Pastikan cert-manager diinstal di setiap cluster
Pastikan ASM telah diinstal
Persyaratan Multi-Wilayah Cassandra:
- Jika namespace jaringan pod tidak memiliki konektivitas antar-cluster (cluster berjalan dalam "mode jaringan pulau", kasus default dalam penginstalan AKS), aktifkan fitur hostNetwork Kubernetes dengan menetapkan cassandra.hostNetwork: true dalam file penggantian untuk semua region dalam penginstalan multi-region hibrida Apigee Anda.
  Untuk informasi tentang fitur hostNetwork Kubernetes, lihat Namespace host dalam dokumentasi Kubernetes.
- Aktifkan hostNetwork di cluster yang ada sebelum memperluas konfigurasi multi-region ke wilayah baru.
- Jika hostNetwork diaktifkan, pastikan node pekerja dapat melakukan pencarian DNS terbalik. Apigee cassandra menggunakan pencarian DNS maju dan mundur untuk mendapatkan IP host saat memulai.
  Tips: Jika resolusi DNS tidak berfungsi, coba solusi ini.
  Tambahkan entri host statis dalam file /etc/hosts dari setiap node pekerja cassandra yang mirip dengan berikut:
```
echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"
```
  atau
```
"\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"
```
- Buka port Cassandra di antara cluster Kubernetes di semua region untuk memungkinkan node pekerja di seluruh region dan pusat data berkomunikasi. Lihat Mengonfigurasi port untuk mengetahui nomor port Cassandra.

Untuk mengetahui informasi mendetail, lihat dokumentasi Kubernetes.

EKS

Saat menginstal deployment Apigee multi-region di antara jaringan yang berbeda (misalnya, penyedia cloud yang berbeda, jaringan VPC yang berbeda, cloud, dan lokal, dll.), Anda harus menyediakan konektivitas internal di antara jaringan terpisah ini yang dapat digunakan Cassandra untuk berkomunikasi antar-node. Hal ini dapat dilakukan dengan VPN atau solusi konektivitas khusus cloud.
Ikuti panduan penginstalan hybrid untuk prasyarat apa pun seperti konfigurasi Google Cloud dan organisasi sebelum beralih ke langkah-langkah penyiapan cluster.
Pastikan cert-manager diinstal di setiap cluster
Pastikan ASM telah diinstal
Persyaratan Multi-Wilayah Cassandra:
- Jika namespace jaringan pod tidak memiliki konektivitas antar-cluster (cluster berjalan dalam "mode jaringan pulau"), aktifkan fitur hostNetwork Kubernetes dengan menetapkan cassandra.hostNetwork: true dalam file penggantian untuk semua region di penginstalan multi-region hybrid Apigee Anda. Amazon EKS menggunakan terintegrasi sepenuhnya secara default.
  Untuk informasi tentang fitur hostNetwork Kubernetes, lihat Namespace host dalam dokumentasi Kubernetes.
- Aktifkan hostNetwork di cluster yang ada sebelum memperluas konfigurasi multi-region ke wilayah baru.
- Jika hostNetwork diaktifkan, pastikan node pekerja dapat melakukan pencarian DNS terbalik. Apigee cassandra menggunakan pencarian DNS maju dan mundur untuk mendapatkan IP host saat memulai.
  Tips: Jika resolusi DNS tidak berfungsi, coba solusi ini.
  Tambahkan entri host statis dalam file /etc/hosts dari setiap node pekerja cassandra yang mirip dengan berikut:
```
echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"
```
  atau
```
"\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"
```
- Buka port Cassandra di antara cluster Kubernetes di semua region untuk memungkinkan node pekerja di seluruh region dan pusat data berkomunikasi. Lihat Mengonfigurasi port untuk mengetahui nomor port Cassandra.

Untuk mengetahui informasi mendetail, lihat dokumentasi Kubernetes.

OpenShift

Saat menginstal deployment Apigee multi-region di antara jaringan yang berbeda (misalnya, penyedia cloud yang berbeda, jaringan VPC yang berbeda, cloud, dan lokal, dll.), Anda harus menyediakan konektivitas internal di antara jaringan terpisah ini yang dapat digunakan Cassandra untuk berkomunikasi antar-node. Hal ini dapat dilakukan dengan VPN atau solusi konektivitas khusus cloud.
Ikuti panduan penginstalan hybrid untuk prasyarat apa pun seperti konfigurasi Google Cloud dan organisasi sebelum beralih ke langkah-langkah penyiapan cluster.
Pastikan cert-manager diinstal di setiap cluster
Pastikan ASM telah diinstal
Persyaratan Multi-Wilayah Cassandra:
- Jika namespace jaringan pod tidak memiliki konektivitas antar-cluster (cluster berjalan dalam "mode jaringan pulau", kasus default dalam penginstalan OpenShift), aktifkan fitur hostNetwork Kubernetes dengan menetapkan cassandra.hostNetwork: true dalam file penggantian untuk semua region dalam penginstalan multi-region hybrid Apigee Anda.
  Untuk informasi tentang fitur hostNetwork Kubernetes, lihat Namespace host dalam dokumentasi Kubernetes.
- Aktifkan hostNetwork di cluster yang ada sebelum memperluas konfigurasi multi-region ke wilayah baru.
- Jika hostNetwork diaktifkan, pastikan node pekerja dapat melakukan pencarian DNS terbalik. Apigee cassandra menggunakan pencarian DNS maju dan mundur untuk mendapatkan IP host saat memulai.
  Tips: Jika resolusi DNS tidak berfungsi, coba solusi ini.
  Tambahkan entri host statis dalam file /etc/hosts dari setiap node pekerja cassandra yang mirip dengan berikut:
```
echo -e "\\n127.0.1.1 ${HOSTNAME}" >> "/etc/hosts"
```
  atau
```
"\\nWORKER-NODE-IP ${HOSTNAME}" >> "/etc/hosts"
```
- Buka port Cassandra di antara cluster Kubernetes di semua region untuk memungkinkan node pekerja di seluruh region dan pusat data berkomunikasi. Lihat Mengonfigurasi port untuk mengetahui nomor port Cassandra.

Untuk mengetahui informasi mendetail, lihat dokumentasi Kubernetes.

Mengonfigurasi Apigee hybrid untuk multi-region

Bagian ini menjelaskan cara mengonfigurasi Apigee Hybrid untuk multi-wilayah.

GKE

Mengonfigurasi host seed multi-region

Bagian ini menjelaskan cara memperluas cluster Cassandra yang ada ke region baru. Penyiapan ini memungkinkan region baru mem-bootstrap cluster dan bergabung dengan pusat data yang ada. Tanpa konfigurasi ini, cluster Kubernetes multi-region tidak akan saling mengetahui.

Tetapkan konteks kubectl ke cluster asli sebelum mengambil nama seed:
```
kubectl config use-context original-cluster-name
```

Jalankan perintah kubectl berikut untuk mengidentifikasi alamat host seed untuk Cassandra di region saat ini.

Alamat host seed memungkinkan instance regional baru menemukan cluster asli pada startup pertama untuk mempelajari topologi cluster. Alamat host seed ditetapkan sebagai titik kontak di cluster.

kubectl get pods -o wide -n apigee

NAME                      READY   STATUS      RESTARTS   AGE   IP          NODE                                          NOMINATED NODE
apigee-cassandra-default-0        1/1     Running     0          5d    10.0.0.11   gke-k8s-dc-1-default-pool-a2206492-p55d
apigee-cassandra-default-1        1/1     Running     0          5d    10.0.2.4    gke-k8s-dc-1-default-pool-e9daaab3-tjmz
apigee-cassandra-default-2        1/1     Running     0          5d    10.0.3.5    gke-k8s-dc-1-default-pool-e589awq3-kjch

Tentukan IP mana yang ditampilkan dari perintah sebelumnya yang akan menjadi host seed multi-region.

Di data center 2, konfigurasikan cassandra.multiRegionSeedHost dan cassandra.datacenter di Manage runtime plane components, dengan multiRegionSeedHost adalah salah satu IP yang ditampilkan oleh perintah sebelumnya:

cassandra:
  multiRegionSeedHost: seed_host_IP
  datacenter: data_center_name
  rack: rack_name
  hostNetwork: false

Contoh:

cassandra:
  multiRegionSeedHost: 10.0.0.11
  datacenter: "dc-1"
  rack: "ra-1"
  hostNetwork: false

Di pusat data/region baru, sebelum menginstal hybrid, tetapkan kredensial dan sertifikat TLS yang sama di overrides.yaml seperti yang Anda tetapkan di region pertama.
Catatan: Pastikan untuk menggunakan kredensial dan sertifikat TLS Cassandra yang sama di pusat data kedua seperti yang Anda berikan di pusat data asli. Kredensial yang Anda tetapkan dalam file penggantian di pusat data pertama harus cocok dengan kredensial yang Anda tentukan dalam file penggantian di pusat data kedua. Untuk mengetahui detailnya, lihat Mengonfigurasi TLS untuk Cassandra.

Menyiapkan region baru

Setelah mengonfigurasi host seed, Anda dapat menyiapkan region baru.

Untuk menyiapkan region baru:

Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA baru digunakan oleh Cassandra dan komponen campuran lainnya untuk mTLS. Oleh karena itu, penting untuk memiliki sertifikat yang konsisten di seluruh cluster.
1. Tetapkan konteks ke namespace asli:
```
kubectl config use-context original-cluster-name
```
2. Ekspor konfigurasi namespace saat ini ke file:
```
kubectl get namespace namespace -o yaml > apigee-namespace.yaml
```
3. Ekspor secret apigee-ca ke file:
```
kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
```
4. Tetapkan konteks ke nama cluster region baru:
```
kubectl config use-context new-cluster-name
```
5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk memperbarui "namespace" dalam file jika Anda menggunakan namespace yang berbeda di region baru:
```
kubectl apply -f apigee-namespace.yaml
```
6. Impor secret ke cluster baru:
```
kubectl -n cert-manager apply -f apigee-ca.yaml
```
Instal hybrid di region baru. Pastikan file overrides-DC_name.yaml menyertakan sertifikat TLS yang sama dengan yang dikonfigurasi di region pertama, seperti yang dijelaskan di bagian sebelumnya.
Jalankan dua perintah berikut untuk menginstal hybrid di region baru:

Penting: Saat memperluas Apigee hybrid ke datacenter regional baru, pastikan untuk menginstal versi hybrid yang sama seperti yang Anda miliki di datacenter yang ada. Hindari menjalankan versi campuran yang berbeda di beberapa datacenter.
```
apigeectl init -f overrides/overrides-DC_name.yaml
```
```
apigeectl apply -f overrides/overrides-DC_name.yaml
```
Pastikan penginstalan campuran berhasil dengan menjalankan perintah berikut:
```
apigeectl check-ready -f overrides_DC_name.yaml
```

Verifikasi penyiapan cluster Cassandra dengan menjalankan perintah berikut. Output akan menampilkan pusat data yang ada dan baru.

kubectl exec apigee-cassandra-default-0 -n apigee  \
  -- nodetool -u JMX_user -pw JMX_password status

Contoh yang menunjukkan penyiapan yang berhasil:

Datacenter: dc-1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address        Load       Tokens  Owns  Host ID                               Rack
UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d

Datacenter: dc-1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address        Load       Tokens  Owns  Host ID                               Rack
UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

Siapkan Cassandra di semua pod di pusat data baru.

Dapatkan apigeeorg dari cluster dengan perintah berikut:

kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name

Contoh:

Ex: kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name
"rg-hybrid-b7d3b9c"

Buat file resource kustom (YAML) replikasi data cassandra. File dapat bernama apa saja. Dalam contoh berikut, file akan memiliki nama datareplication.yaml.
File harus berisi hal berikut:
```
apiVersion: apigee.cloud.google.com/v1alpha1
kind: CassandraDataReplication
metadata:
  name: REGION_EXPANSION
  namespace: NAMESPACE
spec:
  organizationRef: APIGEEORG_VALUE
  force: false
  source:
    region: SOURCE_REGION
```
Dengan keterangan:
- REGION_EXPANSION adalah nama yang Anda berikan ke metadata ini. Anda dapat menggunakan nama apa pun.
- NAMESPACE adalah namespace yang sama dengan yang disediakan di overrides.yaml. Nilai ini biasanya "apigee".
- APIGEEORG_VALUE adalah output nilai dari perintah kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name di langkah sebelumnya. Misalnya, rg-hybrid-b7d3b9c
- SOURCE_REGION adalah nama datacenter di region sumber. Ini adalah nilai yang ditetapkan untuk cassandra:datacenter: di overrides.yaml Anda.
Contoh:
```
apiVersion: apigee.cloud.google.com/v1alpha1
kind: CassandraDataReplication
metadata:
  name: region-expansion
  namespace: apigee
spec:
  organizationRef: rg-hybrid-b7d3b9c
  force: false
  source:
    region: "dc-1"
```
Terapkan CassandraDataReplication dengan perintah berikut:
```
kubectl apply -f datareplication.yaml
```

Verifikasi status build ulang menggunakan perintah berikut.

kubectl -n apigee get apigeeds -o json | jq .items[].status.cassandraDataReplication

Hasilnya akan terlihat seperti ini:

{
  "rebuildDetails": {
    "apigee-cassandra-default-0": {
      "state": "complete",
      "updated": 1623105760
    },
    "apigee-cassandra-default-1": {
      "state": "complete",
      "updated": 1623105765
    },
    "apigee-cassandra-default-2": {
      "state": "complete",
      "updated": 1623105770
    }
  },
  "state": "complete",
  "updated": 1623105770
}

Verifikasi proses build ulang dari log. Selain itu, verifikasi ukuran data menggunakan perintah nodetool status:

kubectl logs apigee-cassandra-default-0 -f -n apigee

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status

Contoh berikut menunjukkan contoh entri log:

INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

Perbarui host seed. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DC_name.yaml dan terapkan kembali.
Catatan: Host seed adalah anggota cluster lokal. Untuk mem-booting region baru, host seed eksternal diperlukan. Setelah region dimulai, Anda perlu mengubah host seed kembali ke cluster lokalnya di overrides.yaml, lalu menerapkan ulang konfigurasi.
```
apigeectl apply -f overrides/overrides-DC_name.yaml
```

Memeriksa status cluster Cassandra

Perintah berikut berguna untuk melihat apakah penyiapan cluster berhasil di dua pusat data. Perintah ini memeriksa status nodetool untuk kedua region.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status


Datacenter: dc-1
================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: dc-1
================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          0.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          0.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          0.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

GKE on-prem

Mengonfigurasi host seed multi-region

Dalam file overrides.yaml untuk cluster asli Anda, pastikan cassandra:hostNetwork ditetapkan ke true. Contoh:
```
cassandra:
  hostNetwork: true
```
Lihat Prasyarat untuk mengetahui informasi selengkapnya tentang kapan harus menetapkan hostNetwork: true.
Jika cassandra:hostNetwork tidak ditetapkan ke true, lakukan tindakan berikut:
1. Ubah cassandra.hostNetwork menjadi true.
2. Terapkan file konfigurasi overrides.yaml dengan perintah:
```
apigeectl apply -f overrides.yaml --datastore
```
3. Tunggu hingga pod Cassandra menyelesaikan mulai ulang bertahap.
4. Pastikan cluster Cassandra berfungsi dengan baik dengan perintah berikut:
```
kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
```
```
nodetool -u $APIGEE_JMX_USER -pw $APIGEE_JMX_PASSWORD status
```
  Pastikan semua node Cassandra dalam output berada dalam status UN (Up/Normal):
```
nodetool -u $APIGEE_JMX_USER -pw $APIGEE_JMX_PASSWORD describecluster
```
  Pastikan tidak ada node yang tidak dapat dijangkau yang tercantum dalam output.
Tetapkan konteks kubectl ke cluster asli sebelum mengambil nama seed:
```
kubectl config use-context original-cluster-name
```

Jalankan perintah kubectl berikut untuk mengidentifikasi alamat host seed untuk Cassandra di region saat ini.

Alamat host seed memungkinkan instance regional baru menemukan cluster asli pada startup pertama untuk mempelajari topologi cluster. Alamat host seed ditetapkan sebagai titik kontak di cluster.

kubectl get pods -o wide -n apigee

NAME                      READY   STATUS      RESTARTS   AGE   IP          NODE                                          NOMINATED NODE
apigee-cassandra-default-0        1/1     Running     0          5d    10.0.0.11   gke-k8s-dc-1-default-pool-a2206492-p55d
apigee-cassandra-default-1        1/1     Running     0          5d    10.0.2.4    gke-k8s-dc-1-default-pool-e9daaab3-tjmz
apigee-cassandra-default-2        1/1     Running     0          5d    10.0.3.5    gke-k8s-dc-1-default-pool-e589awq3-kjch

Tentukan IP mana yang ditampilkan dari perintah sebelumnya yang akan menjadi host seed multi-region.

Di pusat data 2, konfigurasikan cassandra.multiRegionSeedHost dalam file penggantian, dengan multiRegionSeedHost adalah salah satu IP yang ditampilkan oleh perintah sebelumnya:

cassandra:
  hostNetwork: true
  multiRegionSeedHost: seed_host_IP
  datacenter: data_center_name

Contoh:

cassandra:
  hostNetwork: true
  multiRegionSeedHost: 10.0.0.11
  datacenter: "dc-1"

Di pusat data/region baru, sebelum menginstal hybrid, tetapkan kredensial dan sertifikat TLS yang sama di overrides.yaml seperti yang Anda tetapkan di region pertama.
Catatan: Pastikan untuk menggunakan kredensial dan sertifikat TLS Cassandra yang sama di pusat data kedua seperti yang Anda berikan di pusat data asli. Kredensial yang Anda tetapkan dalam file penggantian di pusat data pertama harus cocok dengan kredensial yang Anda tentukan dalam file penggantian di pusat data kedua. Untuk mengetahui detailnya, lihat Mengonfigurasi TLS untuk Cassandra.

Menyiapkan region baru

Setelah mengonfigurasi host seed, Anda dapat menyiapkan region baru.

Untuk menyiapkan region baru:

Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA baru digunakan oleh Cassandra dan komponen campuran lainnya untuk mTLS. Oleh karena itu, penting untuk memiliki sertifikat yang konsisten di seluruh cluster.
1. Tetapkan konteks ke namespace asli:
```
kubectl config use-context original-cluster-name
```
2. Ekspor konfigurasi namespace saat ini ke file:
```
kubectl get namespace namespace -o yaml > apigee-namespace.yaml
```
3. Ekspor secret apigee-ca ke file:
```
kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
```
4. Tetapkan konteks ke nama cluster region baru:
```
kubectl config use-context new-cluster-name
```
5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk memperbarui "namespace" dalam file jika Anda menggunakan namespace yang berbeda di region baru:
```
kubectl apply -f apigee-namespace.yaml
```
6. Impor secret ke cluster baru:
```
kubectl -n cert-manager apply -f apigee-ca.yaml
```
Instal hybrid di region baru. Pastikan file overrides-DC_name.yaml menyertakan sertifikat TLS yang sama dengan yang dikonfigurasi di region pertama, seperti yang dijelaskan di bagian sebelumnya.
Jalankan dua perintah berikut untuk menginstal hybrid di region baru:

Penting: Saat memperluas Apigee hybrid ke datacenter regional baru, pastikan untuk menginstal versi hybrid yang sama seperti yang Anda miliki di datacenter yang ada. Hindari menjalankan versi campuran yang berbeda di beberapa datacenter.
```
apigeectl init -f overrides/overrides-DC_name.yaml
```
```
apigeectl apply -f overrides/overrides-DC_name.yaml
```
Pastikan penginstalan campuran berhasil dengan menjalankan perintah berikut:
```
apigeectl check-ready -f overrides_DC_name.yaml
```

Verifikasi penyiapan cluster Cassandra dengan menjalankan perintah berikut. Output akan menampilkan pusat data yang ada dan baru.

kubectl exec apigee-cassandra-default-0 -n apigee  \
  -- nodetool -u JMX_user -pw JMX_password status

Contoh yang menunjukkan penyiapan yang berhasil:

Datacenter: dc-1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address        Load       Tokens  Owns  Host ID                               Rack
UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d

Datacenter: dc-1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address        Load       Tokens  Owns  Host ID                               Rack
UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

Siapkan Cassandra di semua pod di pusat data baru.

Dapatkan apigeeorg dari cluster dengan perintah berikut:

kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name

Contoh:

Ex: kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name
"rg-hybrid-b7d3b9c"

Buat file resource kustom (YAML) replikasi data cassandra. File dapat bernama apa saja. Dalam contoh berikut, file akan memiliki nama datareplication.yaml.
File harus berisi hal berikut:
```
apiVersion: apigee.cloud.google.com/v1alpha1
kind: CassandraDataReplication
metadata:
  name: REGION_EXPANSION
  namespace: NAMESPACE
spec:
  organizationRef: APIGEEORG_VALUE
  force: false
  source:
    region: SOURCE_REGION
```
Dengan keterangan:
- REGION_EXPANSION adalah nama yang Anda berikan ke metadata ini. Anda dapat menggunakan nama apa pun.
- NAMESPACE adalah namespace yang sama dengan yang disediakan di overrides.yaml. Nilai ini biasanya "apigee".
- APIGEEORG_VALUE adalah output nilai dari perintah kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name di langkah sebelumnya. Misalnya, rg-hybrid-b7d3b9c
- SOURCE_REGION adalah nama datacenter di region sumber. Ini adalah nilai yang ditetapkan untuk cassandra:datacenter: di overrides.yaml Anda.
Contoh:
```
apiVersion: apigee.cloud.google.com/v1alpha1
kind: CassandraDataReplication
metadata:
  name: region-expansion
  namespace: apigee
spec:
  organizationRef: rg-hybrid-b7d3b9c
  force: false
  source:
    region: "dc-1"
```
Terapkan CassandraDataReplication dengan perintah berikut:
```
kubectl apply -f datareplication.yaml
```

Verifikasi status build ulang menggunakan perintah berikut.

kubectl -n apigee get apigeeds -o json | jq .items[].status.cassandraDataReplication

Hasilnya akan terlihat seperti ini:

{
  "rebuildDetails": {
    "apigee-cassandra-default-0": {
      "state": "complete",
      "updated": 1623105760
    },
    "apigee-cassandra-default-1": {
      "state": "complete",
      "updated": 1623105765
    },
    "apigee-cassandra-default-2": {
      "state": "complete",
      "updated": 1623105770
    }
  },
  "state": "complete",
  "updated": 1623105770
}

Verifikasi proses build ulang dari log. Selain itu, verifikasi ukuran data menggunakan perintah nodetool status:

kubectl logs apigee-cassandra-default-0 -f -n apigee

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status

Contoh berikut menunjukkan contoh entri log:

INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

Perbarui host seed. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DC_name.yaml dan terapkan kembali.
Catatan: Host seed adalah anggota cluster lokal. Untuk mem-booting region baru, host seed eksternal diperlukan. Setelah region dimulai, Anda perlu mengubah host seed kembali ke cluster lokalnya di overrides.yaml, lalu menerapkan ulang konfigurasi.
```
apigeectl apply -f overrides/overrides-DC_name.yaml
```

Memeriksa status cluster Cassandra

Perintah berikut berguna untuk melihat apakah penyiapan cluster berhasil di dua pusat data. Perintah ini memeriksa status nodetool untuk kedua region.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status


Datacenter: dc-1
================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: dc-1
================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          0.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          0.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          0.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

AKS

Membuat jaringan virtual di setiap region

Ikuti rekomendasi Azure untuk membuat komunikasi lintas region di sini: VNet-to-VNet: Menghubungkan Virtual Network di Azure di Berbagai Region.

Membuat cluster multi-regional

Siapkan cluster Kubernetes di beberapa region dengan blok CIDR yang berbeda. Lihat juga Langkah 1: Membuat cluster. Gunakan lokasi dan nama jaringan virtual yang Anda buat sebelumnya.

Buka port Cassandra di antara cluster Kubernetes di semua region untuk memungkinkan node pekerja di seluruh region dan pusat data berkomunikasi. Lihat Mengonfigurasi port untuk mengetahui nomor port Cassandra.

Mengonfigurasi host seed multi-region

Dalam file overrides.yaml untuk cluster asli Anda, pastikan cassandra:hostNetwork ditetapkan ke true. Contoh:
```
cassandra:
  hostNetwork: true
```
Lihat Prasyarat untuk mengetahui informasi selengkapnya tentang kapan harus menetapkan hostNetwork: true.
Jika cassandra:hostNetwork tidak ditetapkan ke true, lakukan tindakan berikut:
1. Ubah cassandra.hostNetwork menjadi true.
2. Terapkan file konfigurasi overrides.yaml dengan perintah:
```
apigeectl apply -f overrides.yaml --datastore
```
3. Tunggu hingga pod Cassandra menyelesaikan mulai ulang bertahap.
4. Pastikan cluster Cassandra berfungsi dengan baik dengan perintah berikut:
```
kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
```
```
nodetool -u $APIGEE_JMX_USER -pw $APIGEE_JMX_PASSWORD status
```
  Pastikan semua node Cassandra dalam output berada dalam status UN (Up/Normal):
```
nodetool -u $APIGEE_JMX_USER -pw $APIGEE_JMX_PASSWORD describecluster
```
  Pastikan tidak ada node yang tidak dapat dijangkau yang tercantum dalam output.
Tetapkan konteks kubectl ke cluster asli sebelum mengambil nama seed:
```
kubectl config use-context original-cluster-name
```
Jalankan perintah kubectl berikut untuk mengidentifikasi alamat host seed untuk Cassandra di region saat ini.

Alamat host seed memungkinkan instance regional baru menemukan cluster asli pada startup pertama untuk mempelajari topologi cluster. Alamat host seed ditetapkan sebagai titik kontak di cluster.
```
kubectl get pods -o wide -n apigee | grep apigee-cassandra
```
```
apigee-cassandra-default-0  1/1   Running   0   4d17h   120.38.1.9  aks-agentpool-21207753-vmss000000
```
Tentukan IP mana yang ditampilkan dari perintah sebelumnya yang akan menjadi host seed multi-region. Dalam contoh ini, saat hanya satu cluster cassandra node yang berjalan, host seed adalah 120.38.1.9.
Di pusat data 2, salin file penggantian Anda ke file baru yang namanya menyertakan nama cluster. Misalnya, overrides_your_cluster_name.yaml.

Di pusat data 2, konfigurasikan cassandra.multiRegionSeedHost dan cassandra.datacenter di overrides_your_cluster_name.yaml, dengan multiRegionSeedHost adalah salah satu IP yang ditampilkan oleh perintah sebelumnya:

cassandra:
     multiRegionSeedHost: seed_host_IP
     datacenter: data_center_name
     rack: rack_name
     hostNetwork: true

Contoh:

cassandra:
  multiRegionSeedHost: 120.38.1.9
  datacenter: "dc-1"
  rack: "ra-1"
  hostNetwork: true

Di pusat data/region baru, sebelum menginstal hybrid, tetapkan kredensial dan sertifikat TLS yang sama di overrides_your_cluster_name.yaml seperti yang Anda tetapkan di region pertama.
Catatan: Pastikan untuk menggunakan kredensial dan sertifikat TLS Cassandra yang sama di pusat data kedua seperti yang Anda berikan di pusat data asli. Kredensial yang Anda tetapkan dalam file penggantian di pusat data pertama harus cocok dengan kredensial yang Anda tentukan dalam file penggantian di pusat data kedua. Untuk mengetahui detailnya, lihat Mengonfigurasi TLS untuk Cassandra.

Menyiapkan region baru

Setelah mengonfigurasi host seed, Anda dapat menyiapkan region baru.

Untuk menyiapkan region baru:

Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA baru digunakan oleh Cassandra dan komponen campuran lainnya untuk mTLS. Oleh karena itu, penting untuk memiliki sertifikat yang konsisten di seluruh cluster.
1. Tetapkan konteks ke namespace asli:
```
kubectl config use-context original-cluster-name
```
2. Ekspor konfigurasi namespace saat ini ke file:
```
kubectl get namespace namespace -o yaml > apigee-namespace.yaml
```
3. Ekspor secret apigee-ca ke file:
```
kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
```
4. Tetapkan konteks ke nama cluster region baru:
```
kubectl config use-context new-cluster-name
```
5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk memperbarui "namespace" dalam file jika Anda menggunakan namespace yang berbeda di region baru:
```
kubectl apply -f apigee-namespace.yaml
```
6. Impor secret ke cluster baru:
```
kubectl -n cert-manager apply -f apigee-ca.yaml
```
Instal hybrid di region baru. Pastikan file overrides_your_cluster_name.yaml menyertakan sertifikat TLS yang sama dengan yang dikonfigurasi di region pertama, seperti yang dijelaskan di bagian sebelumnya.
Jalankan dua perintah berikut untuk menginstal hybrid di region baru:

Penting: Saat memperluas Apigee hybrid ke datacenter regional baru, pastikan untuk menginstal versi hybrid yang sama seperti yang Anda miliki di datacenter yang ada. Hindari menjalankan versi campuran yang berbeda di beberapa datacenter.
```
apigeectl init -f overrides_your_cluster_name.yaml
```
```
apigeectl apply -f overrides_your_cluster_name.yaml
```
Pastikan penginstalan campuran berhasil dengan menjalankan perintah berikut:
```
apigeectl check-ready -f overrides_your_cluster_name.yaml
```

Verifikasi penyiapan cluster Cassandra dengan menjalankan perintah berikut. Output akan menampilkan pusat data yang ada dan baru.

kubectl exec apigee-cassandra-default-0 -n apigee  \
  -- nodetool -u JMX_user -pw JMX_password status

Contoh yang menunjukkan penyiapan yang berhasil:

Datacenter: dc-1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address        Load       Tokens  Owns  Host ID                               Rack
UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d

Datacenter: dc-1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address        Load       Tokens  Owns  Host ID                               Rack
UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

Siapkan Cassandra di semua pod di pusat data baru.

Dapatkan apigeeorg dari cluster dengan perintah berikut:

kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name

Contoh:

Ex: kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name
"rg-hybrid-b7d3b9c"

Buat file resource kustom (YAML) replikasi data cassandra. File dapat bernama apa saja. Dalam contoh berikut, file akan memiliki nama datareplication.yaml.
File harus berisi hal berikut:
```
apiVersion: apigee.cloud.google.com/v1alpha1
kind: CassandraDataReplication
metadata:
  name: REGION_EXPANSION
  namespace: NAMESPACE
spec:
  organizationRef: APIGEEORG_VALUE
  force: false
  source:
    region: SOURCE_REGION
```
Dengan keterangan:
- REGION_EXPANSION adalah nama yang Anda berikan ke metadata ini. Anda dapat menggunakan nama apa pun.
- NAMESPACE adalah namespace yang sama dengan yang disediakan di overrides.yaml. Nilai ini biasanya "apigee".
- APIGEEORG_VALUE adalah output nilai dari perintah kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name di langkah sebelumnya. Misalnya, rg-hybrid-b7d3b9c
- SOURCE_REGION adalah nama datacenter di region sumber. Ini adalah nilai yang ditetapkan untuk cassandra:datacenter: di overrides.yaml Anda.
Contoh:
```
apiVersion: apigee.cloud.google.com/v1alpha1
kind: CassandraDataReplication
metadata:
  name: region-expansion
  namespace: apigee
spec:
  organizationRef: rg-hybrid-b7d3b9c
  force: false
  source:
    region: "dc-1"
```
Terapkan CassandraDataReplication dengan perintah berikut:
```
kubectl apply -f datareplication.yaml
```

Verifikasi status build ulang menggunakan perintah berikut.

kubectl -n apigee get apigeeds -o json | jq .items[].status.cassandraDataReplication

Hasilnya akan terlihat seperti ini:

{
  "rebuildDetails": {
    "apigee-cassandra-default-0": {
      "state": "complete",
      "updated": 1623105760
    },
    "apigee-cassandra-default-1": {
      "state": "complete",
      "updated": 1623105765
    },
    "apigee-cassandra-default-2": {
      "state": "complete",
      "updated": 1623105770
    }
  },
  "state": "complete",
  "updated": 1623105770
}

Verifikasi proses build ulang dari log. Selain itu, verifikasi ukuran data menggunakan perintah nodetool status:

kubectl logs apigee-cassandra-default-0 -f -n apigee

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status

Contoh berikut menunjukkan contoh entri log:

INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

Perbarui host seed. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DC_name.yaml dan terapkan kembali.
Catatan: Host seed adalah anggota cluster lokal. Untuk mem-booting region baru, host seed eksternal diperlukan. Setelah region dimulai, Anda perlu mengubah host seed kembali ke cluster lokalnya di overrides.yaml, lalu menerapkan ulang konfigurasi.
```
apigeectl apply -f overrides/overrides-DC_name.yaml
```

Memeriksa status cluster Cassandra

Perintah berikut berguna untuk melihat apakah penyiapan cluster berhasil di dua pusat data. Perintah ini memeriksa status nodetool untuk kedua region.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status


Datacenter: dc-1
================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: dc-1
================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          0.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          0.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          0.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

EKS

Membuat jaringan virtual di setiap region

Ikuti rekomendasi AWS untuk membuat komunikasi lintas region seperti yang dijelaskan dalam: Apa yang dimaksud dengan peering VPC?. Istilah AWS untuk menggunakan region yang berbeda adalah peering VPC antar-Region.

Membuat cluster multi-regional

Siapkan cluster Kubernetes di beberapa region dengan blok CIDR yang berbeda. Lihat juga Langkah 1: Membuat cluster. Gunakan lokasi dan nama jaringan virtual yang Anda buat sebelumnya.

Mengonfigurasi host seed multi-region

Dalam file overrides.yaml untuk cluster asli Anda, pastikan cassandra:hostNetwork ditetapkan ke true. Contoh:
```
cassandra:
  hostNetwork: true
```
Lihat Prasyarat untuk mengetahui informasi selengkapnya tentang kapan harus menetapkan hostNetwork: true.
Jika cassandra:hostNetwork tidak ditetapkan ke true, lakukan tindakan berikut:
1. Ubah cassandra.hostNetwork menjadi true.
2. Terapkan file konfigurasi overrides.yaml dengan perintah:
```
apigeectl apply -f overrides.yaml --datastore
```
3. Tunggu hingga pod Cassandra menyelesaikan mulai ulang bertahap.
4. Pastikan cluster Cassandra berfungsi dengan baik dengan perintah berikut:
```
kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
```
```
nodetool -u $APIGEE_JMX_USER -pw $APIGEE_JMX_PASSWORD status
```
  Pastikan semua node Cassandra dalam output berada dalam status UN (Up/Normal):
```
nodetool -u $APIGEE_JMX_USER -pw $APIGEE_JMX_PASSWORD describecluster
```
  Pastikan tidak ada node yang tidak dapat dijangkau yang tercantum dalam output.
Tetapkan konteks kubectl ke cluster asli sebelum mengambil nama seed:
```
kubectl config use-context original-cluster-name
```
Jalankan perintah kubectl berikut untuk mengidentifikasi alamat host seed untuk Cassandra di region saat ini.

Alamat host seed memungkinkan instance regional baru menemukan cluster asli pada startup pertama untuk mempelajari topologi cluster. Alamat host seed ditetapkan sebagai titik kontak di cluster.
```
kubectl get pods -o wide -n apigee | grep apigee-cassandra
```
```
apigee-cassandra-default-0  1/1   Running   0   4d17h   120.38.1.9  aks-agentpool-21207753-vmss000000
```
Tentukan IP mana yang ditampilkan dari perintah sebelumnya yang akan menjadi host seed multi-region. Dalam contoh ini, saat hanya satu cluster cassandra node yang berjalan, host seed adalah 120.38.1.9.
Di pusat data 2, salin file penggantian Anda ke file baru yang namanya menyertakan nama cluster. Misalnya, overrides_your_cluster_name.yaml.

cassandra:
     multiRegionSeedHost: seed_host_IP
     datacenter: data_center_name
     rack: rack_name
     hostNetwork: true

Contoh:

cassandra:
  multiRegionSeedHost: 120.38.1.9
  datacenter: "dc-1"
  rack: "ra-1"
  hostNetwork: true

Di pusat data/region baru, sebelum menginstal hybrid, tetapkan kredensial dan sertifikat TLS yang sama di overrides_your_cluster_name.yaml seperti yang Anda tetapkan di region pertama.
Catatan: Pastikan untuk menggunakan kredensial dan sertifikat TLS Cassandra yang sama di pusat data kedua seperti yang Anda berikan di pusat data asli. Kredensial yang Anda tetapkan dalam file penggantian di pusat data pertama harus cocok dengan kredensial yang Anda tentukan dalam file penggantian di pusat data kedua. Untuk mengetahui detailnya, lihat Mengonfigurasi TLS untuk Cassandra.

Menyiapkan region baru

Setelah mengonfigurasi host seed, Anda dapat menyiapkan region baru.

Untuk menyiapkan region baru:

Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA baru digunakan oleh Cassandra dan komponen campuran lainnya untuk mTLS. Oleh karena itu, penting untuk memiliki sertifikat yang konsisten di seluruh cluster.
1. Tetapkan konteks ke namespace asli:
```
kubectl config use-context original-cluster-name
```
2. Ekspor konfigurasi namespace saat ini ke file:
```
kubectl get namespace namespace -o yaml > apigee-namespace.yaml
```
3. Ekspor secret apigee-ca ke file:
```
kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
```
4. Tetapkan konteks ke nama cluster region baru:
```
kubectl config use-context new-cluster-name
```
5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk memperbarui "namespace" dalam file jika Anda menggunakan namespace yang berbeda di region baru:
```
kubectl apply -f apigee-namespace.yaml
```
6. Impor secret ke cluster baru:
```
kubectl -n cert-manager apply -f apigee-ca.yaml
```
Instal hybrid di region baru. Pastikan file overrides_your_cluster_name.yaml menyertakan sertifikat TLS yang sama dengan yang dikonfigurasi di region pertama, seperti yang dijelaskan di bagian sebelumnya.
Jalankan dua perintah berikut untuk menginstal hybrid di region baru:

Penting: Saat memperluas Apigee hybrid ke datacenter regional baru, pastikan untuk menginstal versi hybrid yang sama seperti yang Anda miliki di datacenter yang ada. Hindari menjalankan versi campuran yang berbeda di beberapa datacenter.
```
apigeectl init -f overrides_your_cluster_name.yaml
```
```
apigeectl apply -f overrides_your_cluster_name.yaml
```
Pastikan penginstalan campuran berhasil dengan menjalankan perintah berikut:
```
apigeectl check-ready -f overrides_your_cluster_name.yaml
```

Verifikasi penyiapan cluster Cassandra dengan menjalankan perintah berikut. Output akan menampilkan pusat data yang ada dan baru.

kubectl exec apigee-cassandra-default-0 -n apigee  \
  -- nodetool -u JMX_user -pw JMX_password status

Contoh yang menunjukkan penyiapan yang berhasil:

Datacenter: dc-1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address        Load       Tokens  Owns  Host ID                               Rack
UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d

Datacenter: dc-1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address        Load       Tokens  Owns  Host ID                               Rack
UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

Siapkan Cassandra di semua pod di pusat data baru.

Dapatkan apigeeorg dari cluster dengan perintah berikut:

kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name

Contoh:

Ex: kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name
"rg-hybrid-b7d3b9c"

Buat file resource kustom (YAML) replikasi data cassandra. File dapat bernama apa saja. Dalam contoh berikut, file akan memiliki nama datareplication.yaml.
File harus berisi hal berikut:
```
apiVersion: apigee.cloud.google.com/v1alpha1
kind: CassandraDataReplication
metadata:
  name: REGION_EXPANSION
  namespace: NAMESPACE
spec:
  organizationRef: APIGEEORG_VALUE
  force: false
  source:
    region: SOURCE_REGION
```
Dengan keterangan:
- REGION_EXPANSION adalah nama yang Anda berikan ke metadata ini. Anda dapat menggunakan nama apa pun.
- NAMESPACE adalah namespace yang sama dengan yang disediakan di overrides.yaml. Nilai ini biasanya "apigee".
- APIGEEORG_VALUE adalah output nilai dari perintah kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name di langkah sebelumnya. Misalnya, rg-hybrid-b7d3b9c
- SOURCE_REGION adalah nama datacenter di region sumber. Ini adalah nilai yang ditetapkan untuk cassandra:datacenter: di overrides.yaml Anda.
Contoh:
```
apiVersion: apigee.cloud.google.com/v1alpha1
kind: CassandraDataReplication
metadata:
  name: region-expansion
  namespace: apigee
spec:
  organizationRef: rg-hybrid-b7d3b9c
  force: false
  source:
    region: "dc-1"
```
Terapkan CassandraDataReplication dengan perintah berikut:
```
kubectl apply -f datareplication.yaml
```

Verifikasi status build ulang menggunakan perintah berikut.

kubectl -n apigee get apigeeds -o json | jq .items[].status.cassandraDataReplication

Hasilnya akan terlihat seperti ini:

{
  "rebuildDetails": {
    "apigee-cassandra-default-0": {
      "state": "complete",
      "updated": 1623105760
    },
    "apigee-cassandra-default-1": {
      "state": "complete",
      "updated": 1623105765
    },
    "apigee-cassandra-default-2": {
      "state": "complete",
      "updated": 1623105770
    }
  },
  "state": "complete",
  "updated": 1623105770
}

Verifikasi proses build ulang dari log. Selain itu, verifikasi ukuran data menggunakan perintah nodetool status:

kubectl logs apigee-cassandra-default-0 -f -n apigee

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status

Contoh berikut menunjukkan contoh entri log:

INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

Perbarui host seed. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DC_name.yaml dan terapkan kembali.
Catatan: Host seed adalah anggota cluster lokal. Untuk mem-booting region baru, host seed eksternal diperlukan. Setelah region dimulai, Anda perlu mengubah host seed kembali ke cluster lokalnya di overrides.yaml, lalu menerapkan ulang konfigurasi.
```
apigeectl apply -f overrides/overrides-DC_name.yaml
```

Memeriksa status cluster Cassandra

Perintah berikut berguna untuk melihat apakah penyiapan cluster berhasil di dua pusat data. Perintah ini memeriksa status nodetool untuk kedua region.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status


Datacenter: dc-1
================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: dc-1
================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          0.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          0.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          0.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

OpenShift

Mengonfigurasi host seed multi-region

Dalam file overrides.yaml untuk cluster asli Anda, pastikan cassandra:hostNetwork ditetapkan ke true. Contoh:
```
cassandra:
  hostNetwork: true
```
Lihat Prasyarat untuk mengetahui informasi selengkapnya tentang kapan harus menetapkan hostNetwork: true.
Jika cassandra:hostNetwork tidak ditetapkan ke true, lakukan tindakan berikut:
1. Ubah cassandra.hostNetwork menjadi true.
2. Terapkan file konfigurasi overrides.yaml dengan perintah:
```
apigeectl apply -f overrides.yaml --datastore
```
3. Tunggu hingga pod Cassandra menyelesaikan mulai ulang bertahap.
4. Pastikan cluster Cassandra berfungsi dengan baik dengan perintah berikut:
```
kubectl exec -it -n apigee apigee-cassandra-default-0 -- /bin/bash
```
```
nodetool -u $APIGEE_JMX_USER -pw $APIGEE_JMX_PASSWORD status
```
  Pastikan semua node Cassandra dalam output berada dalam status UN (Up/Normal):
```
nodetool -u $APIGEE_JMX_USER -pw $APIGEE_JMX_PASSWORD describecluster
```
  Pastikan tidak ada node yang tidak dapat dijangkau yang tercantum dalam output.
Tetapkan konteks kubectl ke cluster asli sebelum mengambil nama seed:
```
kubectl config use-context original-cluster-name
```

Jalankan perintah kubectl berikut untuk mengidentifikasi alamat host seed untuk Cassandra di region saat ini.

Alamat host seed memungkinkan instance regional baru menemukan cluster asli pada startup pertama untuk mempelajari topologi cluster. Alamat host seed ditetapkan sebagai titik kontak di cluster.

kubectl get pods -o wide -n apigee

NAME                      READY   STATUS      RESTARTS   AGE   IP          NODE                                          NOMINATED NODE
apigee-cassandra-default-0        1/1     Running     0          5d    10.0.0.11   gke-k8s-dc-1-default-pool-a2206492-p55d
apigee-cassandra-default-1        1/1     Running     0          5d    10.0.2.4    gke-k8s-dc-1-default-pool-e9daaab3-tjmz
apigee-cassandra-default-2        1/1     Running     0          5d    10.0.3.5    gke-k8s-dc-1-default-pool-e589awq3-kjch

Pilih alamat IP host Cassandra sumber Anda yang akan digunakan sebagai host seed multi-region. Dalam contoh ini, ini adalah apigee-cassandra-default-0cluster yang berjalan, host seed adalah 10.0.0.11.
Di pusat data 2, salin file penggantian Anda ke file baru yang namanya menyertakan nama cluster. Misalnya, overrides_your_cluster_name.yaml.

cassandra:
     hostNetwork: true
     multiRegionSeedHost: seed_host_IP # Cassandra pod IP address from the source region.
     datacenter: data_center_name

Contoh:

cassandra:
  hostNetwork: true
  multiRegionSeedHost: 10.0.0.11
  datacenter: "dc-1"

Di pusat data/region baru, sebelum menginstal hybrid, tetapkan kredensial dan sertifikat TLS yang sama di overrides_your_cluster_name.yaml seperti yang Anda tetapkan di region pertama.
Catatan: Pastikan untuk menggunakan kredensial dan sertifikat TLS Cassandra yang sama di pusat data kedua seperti yang Anda berikan di pusat data asli. Kredensial yang Anda tetapkan dalam file penggantian di pusat data pertama harus cocok dengan kredensial yang Anda tentukan dalam file penggantian di pusat data kedua. Untuk mengetahui detailnya, lihat Mengonfigurasi TLS untuk Cassandra.

Menyiapkan region baru

Setelah mengonfigurasi host seed, Anda dapat menyiapkan region baru.

Untuk menyiapkan region baru:

Salin sertifikat Anda dari cluster yang ada ke cluster baru. Root CA baru digunakan oleh Cassandra dan komponen campuran lainnya untuk mTLS. Oleh karena itu, penting untuk memiliki sertifikat yang konsisten di seluruh cluster.
1. Tetapkan konteks ke namespace asli:
```
kubectl config use-context original-cluster-name
```
2. Ekspor konfigurasi namespace saat ini ke file:
```
kubectl get namespace namespace -o yaml > apigee-namespace.yaml
```
3. Ekspor secret apigee-ca ke file:
```
kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
```
4. Tetapkan konteks ke nama cluster region baru:
```
kubectl config use-context new-cluster-name
```
5. Impor konfigurasi namespace ke cluster baru. Pastikan untuk memperbarui "namespace" dalam file jika Anda menggunakan namespace yang berbeda di region baru:
```
kubectl apply -f apigee-namespace.yaml
```
6. Impor secret ke cluster baru:
```
kubectl -n cert-manager apply -f apigee-ca.yaml
```
Instal hybrid di region baru. Pastikan file overrides_your_cluster_name.yaml menyertakan sertifikat TLS yang sama dengan yang dikonfigurasi di region pertama, seperti yang dijelaskan di bagian sebelumnya.
Jalankan dua perintah berikut untuk menginstal hybrid di region baru:

Penting: Saat memperluas Apigee hybrid ke datacenter regional baru, pastikan untuk menginstal versi hybrid yang sama seperti yang Anda miliki di datacenter yang ada. Hindari menjalankan versi campuran yang berbeda di beberapa datacenter.
```
apigeectl init -f overrides_your_cluster_name.yaml
```
```
apigeectl apply -f overrides_your_cluster_name.yaml
```
Pastikan penginstalan campuran berhasil dengan menjalankan perintah berikut:
```
apigeectl check-ready -f overrides_your_cluster_name.yaml
```

Verifikasi penyiapan cluster Cassandra dengan menjalankan perintah berikut. Output akan menampilkan pusat data yang ada dan baru.

kubectl exec apigee-cassandra-default-0 -n apigee  \
  -- nodetool -u JMX_user -pw JMX_password status

Contoh yang menunjukkan penyiapan yang berhasil:

Datacenter: dc-1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address        Load       Tokens  Owns  Host ID                               Rack
UN  10.132.87.93   68.07 GiB  256     ?     fb51465c-167a-42f7-98c9-b6eba1de34de  c
UN  10.132.84.94   69.9 GiB   256     ?     f621a5ac-e7ee-48a9-9a14-73d69477c642  b
UN  10.132.84.105  76.95 GiB  256     ?     0561086f-e95b-4232-ba6c-ad519ff30336  d

Datacenter: dc-1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address        Load       Tokens  Owns  Host ID                               Rack
UN  10.132.0.8     71.61 GiB  256     ?     8894a98b-8406-45de-99e2-f404ab10b5d6  c
UN  10.132.9.204   75.1 GiB   256     ?     afa0ffa3-630b-4f1e-b46f-fc3df988092e  a
UN  10.132.3.133   68.08 GiB  256     ?     25ae39ab-b39e-4d4f-9cb7-de095ab873db  b

Siapkan Cassandra di semua pod di pusat data baru.

Dapatkan apigeeorg dari cluster dengan perintah berikut:

kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name

Contoh:

Ex: kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name
"rg-hybrid-b7d3b9c"

Buat file resource kustom (YAML) replikasi data cassandra. File dapat bernama apa saja. Dalam contoh berikut, file akan memiliki nama datareplication.yaml.
File harus berisi hal berikut:
```
apiVersion: apigee.cloud.google.com/v1alpha1
kind: CassandraDataReplication
metadata:
  name: REGION_EXPANSION
  namespace: NAMESPACE
spec:
  organizationRef: APIGEEORG_VALUE
  force: false
  source:
    region: SOURCE_REGION
```
Dengan keterangan:
- REGION_EXPANSION adalah nama yang Anda berikan ke metadata ini. Anda dapat menggunakan nama apa pun.
- NAMESPACE adalah namespace yang sama dengan yang disediakan di overrides.yaml. Nilai ini biasanya "apigee".
- APIGEEORG_VALUE adalah output nilai dari perintah kubectl get apigeeorg -n apigee -o json | jq .items[].metadata.name di langkah sebelumnya. Misalnya, rg-hybrid-b7d3b9c
- SOURCE_REGION adalah nama datacenter di region sumber. Ini adalah nilai yang ditetapkan untuk cassandra:datacenter: di overrides.yaml Anda.
Contoh:
```
apiVersion: apigee.cloud.google.com/v1alpha1
kind: CassandraDataReplication
metadata:
  name: region-expansion
  namespace: apigee
spec:
  organizationRef: rg-hybrid-b7d3b9c
  force: false
  source:
    region: "dc-1"
```
Terapkan CassandraDataReplication dengan perintah berikut:
```
kubectl apply -f datareplication.yaml
```

Verifikasi status build ulang menggunakan perintah berikut.

kubectl -n apigee get apigeeds -o json | jq .items[].status.cassandraDataReplication

Hasilnya akan terlihat seperti ini:

{
  "rebuildDetails": {
    "apigee-cassandra-default-0": {
      "state": "complete",
      "updated": 1623105760
    },
    "apigee-cassandra-default-1": {
      "state": "complete",
      "updated": 1623105765
    },
    "apigee-cassandra-default-2": {
      "state": "complete",
      "updated": 1623105770
    }
  },
  "state": "complete",
  "updated": 1623105770
}

Verifikasi proses build ulang dari log. Selain itu, verifikasi ukuran data menggunakan perintah nodetool status:

kubectl logs apigee-cassandra-default-0 -f -n apigee

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status

Contoh berikut menunjukkan contoh entri log:

INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed

Perbarui host seed. Hapus multiRegionSeedHost: 10.0.0.11 dari overrides-DC_name.yaml dan terapkan kembali.
Catatan: Host seed adalah anggota cluster lokal. Untuk mem-booting region baru, host seed eksternal diperlukan. Setelah region dimulai, Anda perlu mengubah host seed kembali ke cluster lokalnya di overrides.yaml, lalu menerapkan ulang konfigurasi.
```
apigeectl apply -f overrides/overrides-DC_name.yaml
```

Memeriksa status cluster Cassandra

Perintah berikut berguna untuk melihat apakah penyiapan cluster berhasil di dua pusat data. Perintah ini memeriksa status nodetool untuk kedua region.

kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status


Datacenter: dc-1
================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: dc-1
================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          0.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          0.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          0.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1

Pemecahan masalah

Lihat Kegagalan replikasi data Cassandra.