負荷分散処理能力に基づくスケーリング

コレクションでコンテンツを整理 必要に応じて、コンテンツの保存と分類を行います。

このドキュメントでは、外部 HTTP(S) ロードバランサの処理能力に基づいてマネージド インスタンス グループ(MIG)をスケーリングする方法について説明します。この方法では、グループが最大能力のうちの一定の割合(この値は構成可能)に達したことをロードバランサが示したときに、自動スケーリングによって VM インスタンスがグループに追加または削除されます。最大能力は、バックエンド インスタンス グループの、選択されている分散モードターゲット容量によって定義されます。

また、CPU 使用率またはモニタリング指標に基づいて MIG をスケーリングすることもできます。

制限事項

外部 HTTP(S) ロードバランサの処理能力に基づいてマネージド インスタンス グループを自動スケーリングできます。他のタイプのロードバランサはサポートされていません。

始める前に

HTTP(S) 負荷分散処理能力に基づくスケーリング

Compute Engine ではインスタンス グループ内での負荷分散のサポートが提供されています。インスタンスの負荷に基づいてスケーリングするオートスケーラーをセットアップすることによって、自動スケーリングを負荷分散と組み合わせて使用できます。

外部 HTTP(S) ロードバランサは、その URL マップに沿ってバックエンド サービスにリクエストを分散します。ロードバランサには 1 つまたは複数のバックエンド サービスを接続できます。それぞれのバックエンド サービスが、インスタンス グループまたはネットワーク エンドポイント グループ(NEG)バックエンドをサポートします。バックエンドがインスタンス グループである場合、外部 HTTP(S) ロードバランサでは UTILIZATIONRATE の 2 つの分散モードを使用できます。UTILIZATION では、インスタンス グループ内のインスタンスの平均バックエンド使用率の最大ターゲットを指定できます。RATE では、インスタンス単位またはグループ単位での 1 秒あたりのリクエスト数のターゲット数を指定する必要があります(グループ全体の最大レートを指定できるのは、ゾーン インスタンス グループのみです。リージョン マネージド インスタンス グループでは、グループ単位の最大レートを定義できません)。

分散モードとターゲット容量を指定することで、バックエンド VM が最大容量に達したと Google Cloud が判断する条件を定義します。Google Cloud は、容量が残っている正常な VM にトラフィックを送信しようとします。すべての VM がすでに容量に達すると、ターゲット使用率またはレートの超過が発生します。

外部 HTTP(S) ロードバランサのインスタンス グループ バックエンドにオートスケーラーを接続すると、オートスケーラーはマネージド インスタンス グループをスケーリングして負荷分散の処理能力の割合を維持します。

たとえば、マネージド インスタンス グループの負荷分散処理能力が、インスタンスあたり 100 RPS であると仮定します。HTTP(S) 負荷分散ポリシーを使用するオートスケーラーを作成し、0.8 つまり 80% のターゲット使用率レベルを維持するように設定している場合、オートスケーラーは、マネージド インスタンス グループからインスタンスを追加または削除して、80% の処理能力つまりインスタンスあたり 80 RPS を維持します。

次の図は、オートスケーラーとマネージド インスタンス グループおよびバックエンド サービスとのやり取りを示しています。

オートスケーラー、マネージド インスタンス グループ、負荷分散バックエンド サービスの間の関係
オートスケーラーは、バックエンド サービスで定義されている、マネージド インスタンス グループの処理能力を監視し、ターゲット使用率に基づいてスケーリングします。この例では、処理能力は maxRatePerInstance の値で測定されています。

適用可能な負荷分散構成

負荷分散処理能力は 3 つのうちのいずれかを設定できます。バックエンドを最初に作成する際に、最大バックエンド使用率、インスタンスごとの 1 秒あたりの最大リクエスト数、グループ全体での 1 秒あたりの最大リクエスト数から選択できます。最大バックエンド使用率秒 / インスタンスあたりの最大リクエスト数の値は、インスタンスの追加または削除によって制御できるため、オートスケーラーではこれらの設定のみを使用できます。たとえば、あるバックエンドがインスタンスにつき毎秒 10 個のリクエストを処理するように設定し、その能力の 80% を維持するようにオートスケーラーを構成している場合、インスタンス / 秒あたりのリクエスト数が変化するとオートスケーラーはインスタンスを追加または削除できます。

グループあたりの最大リクエスト数の設定はインスタンス グループ内のインスタンス数とは無関係であるため、オートスケーラーではこの設定を使用できません。ロードバランサは、グループ内のインスタンス数に関係なく、グループあたりの最大数のリクエストをそのインスタンス グループに送信し続けます。

たとえば、グループあたり 1 秒あたりの最大 100 個のリクエスト数を処理するようにバックエンドを設定している場合、そのグループのインスタンス数が 2 であっても 100 であっても、ロードバランサはそのグループに 1 秒あたり 100 個のリクエストを送信します。この値は調整できないため、オートスケーラーでは、グループごとに 1 秒あたりの最大リクエスト数を使用する負荷分散構成を使用できません。

負荷分散処理能力に基づく自動スケーリングの有効化

Console

  1. Cloud Console の [インスタンス グループ] ページに移動します。

    [インスタンス グループ] に移動

  2. インスタンス グループがある場合は、それを選択して [編集] をクリックします。インスタンス グループがない場合は、[インスタンス グループを作成] をクリックします。
  3. [自動スケーリング モード] で [オン: グループに対してインスタンスを追加および削除します] を選択して、自動スケーリングを有効にします。
  4. このグループでオートスケーラーが作成するインスタンスの数の最小値と最大値を指定します。
  5. [自動スケーリング指標] セクションで、[指標を追加] をクリックします。
  6. [指標タイプ] を [HTTP 負荷分散の使用率] に設定します。
  7. [HTTP 負荷分散の目標使用率] に入力します。この値はパーセント値として扱われます。たとえば、HTTP 負荷分散使用率 60% を指定するには「60」と入力します。

  8. クールダウン期間を使用すると、アプリケーションの初期化に要する時間をオートスケーラーに指定できます。正確なクールダウン期間を指定することで、オートスケーラーによる判断が向上します。たとえば、スケールアウト時、オートスケーラーは初期化中の VM のデータを無視します。初期化中の VM はアプリケーションの通常の使用状況を表していない可能性があるためです。クールダウン期間のデフォルト値は 60 秒です。

  9. 変更を保存します。

gcloud

処理能力に応じて拡張するオートスケーラーを有効にするには、set-autoscaling サブコマンドを使用します。たとえば次のコマンドでは、対象のマネージド インスタンス グループが処理能力の 60% を維持するようにスケーリングするオートスケーラーが作成されます。オートスケーラーを作成する場合は、--target-load-balancing-utilization パラメータだけではなく、--max-num-replicas パラメータも必要です。

gcloud compute instance-groups managed set-autoscaling example-managed-instance-group \
    --max-num-replicas 20 \
    --target-load-balancing-utilization 0.6 \
    --cool-down-period 90

--cool-down-period フラグを使用して、アプリケーションの初期化に要する時間をオートスケーラーに指定できます。正確なクールダウン期間を指定することで、オートスケーラーによる判断が向上します。たとえば、スケールアウト時、オートスケーラーは初期化中の VM のデータを無視します。初期化中の VM はアプリケーションの通常の使用状況を表していない可能性があるためです。クールダウン期間のデフォルト値は 60 秒です。

instance-groups managed describe サブコマンドを使用して、オートスケーラーが正常に作成されたことを確認できます。

gcloud compute instance-groups managed describe example-managed-instance-group

利用可能な gcloud コマンドとフラグの一覧については、gcloud リファレンスをご覧ください。

API

オートスケーラーを作成するには、autoscalers.insert メソッド(ゾーン MIG の場合)または regionAutoscalers.insert メソッド(リージョン MIG の場合)を使用します。

次の例では、ゾーン MIG にオートスケーラーを作成します。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/autoscalers/

リクエスト本文には name フィールド、target フィールド、autoscalingPolicy フィールドを含める必要があります。autoscalingPolicyloadBalancingUtilization を定義する必要があります。

coolDownPeriodSec フィールドを使用して、アプリケーションの初期化に要する時間をオートスケーラーに指定できます。正確なクールダウン期間を指定することで、オートスケーラーによる判断が向上します。たとえば、スケールアウト時、オートスケーラーは初期化中の VM のデータを無視します。初期化中の VM はアプリケーションの通常の使用状況を表していない可能性があるためです。クールダウン期間のデフォルト値は 60 秒です。

{

 "name": "example-autoscaler",
 "target": "zones/us-central1-f/instanceGroupManagers/example-managed-instance-group",
 "autoscalingPolicy": {
    "maxNumReplicas": 20,
    "loadBalancingUtilization": {
       "utilizationTarget": 0.8
     },
    "coolDownPeriodSec": 90
  }
}

ロード バランシングの処理能力に基づく自動スケーリングの有効化の詳細については、チュートリアルの Compute Engine でウェブサービスのグローバルな自動スケーリングを行うを完了してください。

次のステップ