AKS でのマルチリージョン デプロイ

このトピックでは、Microsoft® Azure Kubernetes Service(AKS)に Apigee ハイブリッドのマルチリージョン デプロイを設定する方法について説明します。

マルチリージョン デプロイのトポロジには、次のものがあります。

  • アクティブ - アクティブ: 複数の地理的位置にアプリケーションをデプロイし、それらのデプロイで API レスポンスのレイテンシを低く抑える必要がある場合。クライアントに最も近い複数の地理的位置にハイブリッドをデプロイすることもできます。例: 米国西海岸、米国東海岸、ヨーロッパ、アジア太平洋など。
  • アクティブ - パッシブ: プライマリ リージョンおよびフェイルオーバー リージョンまたは障害復旧リージョンがある場合。

次の図に示すように、マルチリージョン ハイブリッド デプロイのリージョンは Cassandra を介して通信します。

要件

複数のリージョンでハイブリッドを構成する前に、次の前提条件を満たす必要があります。

詳細については、Kubernetes のドキュメントをご覧ください。

各リージョンに仮想ネットワークを作成する

マルチリージョン デプロイ用の仮想ネットワークを作成します。たとえば、次の例のコマンドでは、米国中部リージョンと米国東部リージョンにネットワークが作成されます。

次のコマンドを実行して、米国東部リージョンに my-hybrid-rg-vnet という名前の仮想ネットワークを作成します。

az network vnet create \
 --name my-hybrid-rg-vnet \
 --location eastus \
 --resource-group my-hybrid-rg \
 --address-prefixes 120.38.1.0/24 \
 --subnet-name my-hybrid-rg-vnet-subnet \
 --subnet-prefix 120.38.1.0/26

次のコマンドを実行して、米国中部リージョンに my-hybrid-rg-vnet-ext01 という名前の仮想ネットワークを作成します。

az network vnet create \
 --name my-hybrid-rg-vnet-ext01 \
 --location centralus \
 --resource-group my-hybrid-rg \
 --address-prefixes 192.138.0.0/24 \
 --subnet-name my-hybrid-rg-vnet-ext01-subnet \
 --subnet-prefix 192.138.0.0/26

ネットワーク ピアリングを作成する

仮想ネットワーク間のネットワーク ピアリングを作成します。

仮想ネットワーク ID を取得する

仮想ネットワーク ID 間のピアリングが確立されます。az network vnet show コマンドで各仮想ネットワークの ID を取得し、その ID を変数に格納します。

my-hybrid-rg-vnet と名前をつけた最初の仮想ネットワークの ID を取得します。

vNet1Id=$(az network vnet show \
 --resource-group my-hybrid-rg \
 --name my-hybrid-rg-vnet \
 --query id --out tsv)

my-hybrid-rg-vnet-ext01 と名前をつけた 2 番目の仮想ネットワークの ID を取得します。

vNet2Id=$(az network vnet show \
 --resource-group my-hybrid-rg \
 --name my-hybrid-rg-vnet-ext01 \
 --query id \
 --out tsv)

最初の仮想ネットワークから 2 番目の仮想ネットワークへのピアリングを作成する

仮想ネットワーク ID を使用すると、次の例に示すように、最初の仮想ネットワーク(my-hybrid-rg-vnet)から 2 番目の仮想ネットワーク(my-hybrid-rg-vnet-ext01)へのピアリングを作成できます。

az network vnet peering create \
 --name my-hybrid-rg-vnet1-peering \     # The name of the virtual network peering.
 --resource-group my-hybrid-rg \
 --vnet-name my-hybrid-rg-vnet \         # The virtual network name.
 --remote-vnet $vNet2Id \                # Resource ID of the remote virtual network.
 --allow-vnet-access

コマンドの出力で、peeringStateInitiated であることを確認します。 2 番目の仮想ネットワークから最初の仮想ネットワークにピアリングを作成するまで、ピアリングは Initiated 状態のままになります。

{
  ...
  "peeringState": "Initiated",
  ...
}

2 番目の仮想ネットワークから最初の仮想ネットワークへのピアリングを作成する

コマンドの例:

az network vnet peering create \
 --name my-hybrid-rg-vnet2-peering \        # The name of the virtual network peering.
 --resource-group my-hybrid-rg \
 --vnet-name my-hybrid-rg-vnet-ext01 \      # The virtual network name.
 --remote-vnet $vNet1Id \                   # Resource ID of the remote virtual network.
 --allow-vnet-access

コマンドの出力で、peeringStateConnected であることを確認します。Azure ではまた、1 番目の仮想ネットワークから 2 番目の仮想ネットワークへのピアリングの状態が、Connected に変更されます。

{
  ...
  "peeringState": "Connected",
  ...
}

また、my-hybrid-rg-vnet1-peeringmy-hybrid-rg-vnet2-peering のピアリング状態について、次のコマンドで、Connected に変更されたことを確認できます。

az network vnet peering show \
 --name my-hybrid-rg-vnet1-peering \
 --resource-group my-hybrid-rg \
 --vnet-name my-hybrid-rg-vnet \
 --query peeringState

予想される出力:

Connected

マルチリージョン クラスタを作成する

異なる CIDR ブロックを持つ複数のリージョンで Kubernetes クラスタを設定します。ステップ 1: クラスタを作成するもご覧ください。ロケーションと先ほど作成した仮想ネットワーク名を使用します。

すべてのリージョンの Kubernetes クラスタ間で Cassandra ポート 7000 と 7001 を開きます(トラブルシューティング中にバックアップ オプションとして 7000 を使用できます)。

マルチリージョン シードホストを構成する

このセクションでは、既存の Cassandra クラスタを新しいリージョンに拡張する方法について説明します。 この設定によって、新しいリージョンがクラスタをブートストラップし、既存のデータセンターに参加できるようになります。この構成がないと、マルチリージョンの Kubernetes クラスタは相互に認識しません。

  1. シード名を取得する前に、kubectl コンテキストを元のクラスタに設定します。
    kubectl config use-context original-cluster-name
  2. 次の kubectl コマンドを実行して、現在のリージョンの Cassandra のシードホスト アドレスを特定します。

    シードホスト アドレスによって、新しいリージョン インスタンスは初回起動時の元のクラスタを見つけて、そのクラスタのトポロジを学習することができます。シードホストのアドレスは、クラスタ内の連絡先として指定されます。

    kubectl get pods -o wide -n apigee | grep apigee-cassandra
    
    apigee-cassandra-default-0  1/1   Running   0   4d17h   120.38.1.9  aks-agentpool-21207753-vmss000000
    
  3. 前のコマンドから返されたどの IP をマルチリージョン シードホストにするかを決定します。この例では、単一ノード Cassandra クラスタのみが実行されており、シードホストは 120.38.1.9 です。
  4. データセンター 2 で、名前にクラスタ名を含む新しいファイルにオーバーライド ファイルをコピーします。例:overrides_your_cluster_name.yaml
  5. データセンター 2 で、overrides_your_cluster_name.yamlcassandra.multiRegionSeedHostcassandra.datacenter を構成します。ここで multiRegionSeedHost は、前のコマンドで返された IP の 1 つです。
    cassandra:
      multiRegionSeedHost: seed_host_IP
      datacenter: data_center_name
      rack: rack_name

    例:

    cassandra:
      multiRegionSeedHost: 120.38.1.9
      datacenter: "centralus"
      rack: "ra-1"
  6. 新しいデータセンター / リージョンで、ハイブリッドをインストールする前に、最初のリージョンで設定したものと同じ TLS 証明書と認証情報を overrides_your_cluster_name.yaml に設定します。

新しいリージョンを設定する

シードホストの構成後、新しいリージョンを設定できます。

新しいリージョンを設定するには:

  1. 証明書を既存のクラスタから新しいクラスタにコピーします。新しい CA ルートは、Cassandra やその他のハイブリッド コンポーネントで mTLS 用に使用されます。したがって、クラスタ全体で一貫した証明書を用意することが不可欠です。
    1. コンテキストを元の Namespace に設定します。
      kubectl config use-context original-cluster-name
    2. 現在の Namespace の構成をファイルにエクスポートします。
      $ kubectl get namespace  -o yaml > apigee-namespace.yaml
    3. apigee-ca Secret をファイルにエクスポートします。
      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
    4. コンテキストを新しいリージョンのクラスタ名に設定します。
      kubectl config use-context new-cluster-name
    5. 新しいクラスタに Namespace の構成をインポートします。 新しいリージョンで別の Namespace を使用する場合は、ファイル内の「Namespace」を必ず更新してください。
      kubectl apply -f apigee-namespace.yaml
    6. Secret を新しいクラスタにインポートします。

      kubectl -n cert-manager apply -f apigee-ca.yaml
  2. 新しいリージョンにハイブリッドをインストールします。前のセクションで説明したように、overrides_your_cluster_name.yaml ファイルに最初のリージョンで構成されたものと同じ TLS 証明書が含まれていることを確認します。

    次の 2 つのコマンドを実行して、ハイブリッドを新しいリージョンにインストールします。

    apigeectl init -f overrides_your_cluster_name.yaml
    apigeectl apply -f overrides_your_cluster_name.yaml
  3. 新しいデータセンターのすべてのノードで nodetool rebuild を順次実行します。データのサイズによっては、数分から数時間かかることがあります。
    kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool rebuild -- dc-1
  4. ログから再構築プロセスを確認します。また、nodetool status コマンドを使用してデータサイズを確認します。
    kubectl logs apigee-cassandra-default-0 -f -n apigee

    次の例は、ログエントリの例を示しています。

    INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
    INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
    INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
  5. シードホストを更新します。overrides-DC_name.yaml から multiRegionSeedHost: 10.0.0.11 を削除して、再度適用します。
    apigeectl apply -f overrides-DC_name.yaml