Scalabilità basata sulla capacità di gestione del bilanciamento del carico

Questo documento descrive come eseguire la scalabilità di un gruppo di istanze gestite (MIG) in base alla capacità di gestione di un bilanciatore del carico delle applicazioni esterno o interno. Ciò significa che la scalabilità automatica aggiunge o rimuove istanze VM nel gruppo quando il bilanciatore del carico indica che il gruppo ha raggiunto una frazione configurabile della sua completezza, dove la completezza è definita dalla capacità target della modalità di bilanciamento selezionata del gruppo di istanza di backend.

Puoi anche scalare un gruppo di istanze gestite in base al suo utilizzo della CPU o alle metriche di monitoraggio.

Limitazioni

Puoi eseguire la scalabilità automatica di un gruppo di istanze gestite in base alla capacità di gestione di un bilanciatore del carico delle applicazioni esterno e di un bilanciatore del carico delle applicazioni interno. Altri tipi di bilanciatori del carico non sono supportati.

Prima di iniziare

  • Esamina le limitazioni del gestore della scalabilità automatica.
  • Scopri i concetti fondamentali dell'autoscalabilità.
  • Se non l'hai ancora fatto, configura l'autenticazione. L'autenticazione è la procedura mediante la quale la tua identità viene verificata per l'accesso alle API e ai servizi Google Cloud. Per eseguire codice o esempi da un ambiente di sviluppo locale, puoi autenticarti su Compute Engine selezionando una delle seguenti opzioni:

    Select the tab for how you plan to use the samples on this page:

    Console

    When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

    gcloud

    1. Install the Google Cloud CLI, then initialize it by running the following command: 

      gcloud init
    2. Set a default region and zone.

      3. REST

      Per utilizzare gli esempi dell'API REST in questa pagina in un ambiente di sviluppo locale, utilizza le credenziali fornite a gcloud CLI.

        Install the Google Cloud CLI, then initialize it by running the following command: 

        gcloud init

      Per saperne di più, consulta Eseguire l'autenticazione per l'utilizzo di REST nella documentazione sull'autenticazione di Google Cloud.

Scalabilità basata sulla capacità di gestione del bilanciamento del carico HTTP(S)

Compute Engine fornisce il supporto per il bilanciamento del carico all'interno dei gruppi di istanze. Puoi utilizzare la scalabilità automatica in combinazione con il bilanciamento del carico impostando un'opzione di scalabilità automatica che esegue la scalabilità in base al carico delle istanze.

Un bilanciatore del carico HTTP(S) esterno o interno distribuisce le richieste ai servizi di backend in base alla relativa mappa URL. Il bilanciatore del carico può avere uno o più servizi di backend, ciascuno dei quali supporta i backend di gruppi di istanze o gruppi di endpoint di rete (NEG). Quando i backend sono gruppi di istanze, il bilanciatore del carico HTTP(S) offre due modalità di bilanciamento: UTILIZATION e RATE. Con UTILIZATION, puoi specificare un target massimo per l'utilizzo medio del backend delle istanze nel gruppo di istanze. Con RATE, devi specificare un numero target di richieste al secondo su base per istanza o per gruppo. Solo i gruppi di istanze zonali supportano l'indicazione di una frequenza massima per l'intero gruppo. I gruppi di istanze gestite a livello di regione non supportano la definizione di una tariffa massima per gruppo.

La modalità di bilanciamento e la capacità target specificate definiscono le condizioni in base alle quali Google Cloud determina quando una VM di backend è a piena capacità. Google Cloud tenta di inviare il traffico a VM in stato integro che hanno capacità rimanente. Se tutte le VM sono già al limite della capacità, la percentuale o la frequenza di utilizzo target viene superata.

Quando colleghi un'autoscalabilità al backend di un gruppo di istanze di un bilanciatore del carico HTTP(S), l'autoscalabilità scala il gruppo di istanze gestite per mantenere una frazione della capacità di gestione del bilanciamento del carico.

Ad esempio, supponiamo che la capacità di servizio di bilanciamento del carico di un gruppo di istanze gestite sia definita come 100 RPS per istanza. Se crei un gestore della scalabilità automatica con il criterio di bilanciamento del carico HTTP(S) e lo imposti per mantenere un livello di utilizzo target di 0,8 o 80%, il gestore della scalabilità automatica aggiunge o rimuove istanze dal gruppo di istanze gestite per mantenere l'80% della capacità di gestione o 80 RPS per istanza.

Il seguente diagramma mostra l'interazione del gestore della scalabilità automatica con un gruppo di istanze e un servizio di backend gestiti:

Le relazioni tra lo strumento di scalabilità automatica, i gruppi di istanze gestite e i servizi di bilanciamento del carico di backend.
Il gestore della scalabilità automatica controlla la capacità di gestione del gruppo di istanze gestite, che è definita nel servizio di backend, e esegue la scalabilità in base all'utilizzo target. In questo esempio, la capacità di pubblicazione viene misurata nel valore maxRatePerInstance.

Configurazioni di bilanciamento del carico applicabili

Puoi impostare una di tre opzioni per la capacità di pubblicazione del bilanciamento del carico. Quando crei per la prima volta il backend, puoi scegliere tra utilizzo massimo del backend, richieste massime al secondo per istanza o richieste massime al secondo dell'intero gruppo. La scalabilità automatica funziona solo con utilizzo massimo del backend e richieste massime per secondo/istanza perché il valore di queste impostazioni può essere controllato aggiungendo o rimuovendo istanze. Ad esempio, se imposti un backend per gestire 10 richieste al secondo per istanza e lo scalare automatico è configurato per mantenere l'80% di questa frequenza, lo scalare automatico può aggiungere o rimuovere istanze quando le richieste al secondo per istanza cambiano.

La scalabilità automatica non funziona con le richieste massime per gruppo perché questa impostazione è indipendente dal numero di istanze nel gruppo di istanze. Il bilanciatore del carico invia continuamente il numero massimo di richieste per gruppo al gruppo di istanze, indipendentemente dal numero di istanze nel gruppo.

Ad esempio, se imposti il backend in modo da gestire un massimo di 100 richieste al secondo per gruppo, il bilanciatore del carico invia 100 richieste al secondo al gruppo, indipendentemente dal fatto che il gruppo abbia due o 100 istanze. Poiché questo valore non può essere modificato, la scalabilità automatica non funziona con una configurazione di bilanciamento del carico che utilizza il numero massimo di richieste al secondo per gruppo.

Attivare la scalabilità automatica in base alla capacità di gestione del bilanciamento del carico

Console

  1. Vai alla pagina Gruppi di istanze nella console Google Cloud.

    Vai a Gruppi di istanze

  2. Se hai un gruppo di istanze, selezionalo e fai clic su Modifica. Se non hai un gruppo di istanze, fai clic su Crea gruppo di istanze.
  3. In Modalità di scalabilità automatica, seleziona On: aggiungi e rimuovi istanze al gruppo per attivare la scalabilità automatica.
  4. Specifica il numero minimo e massimo di istanze che il gestore della scalabilità automatica dovrà creare in questo gruppo.
  5. Nella sezione Indicatori di scalabilità automatica, fai clic su Aggiungi un indicatore.
  6. Imposta Tipo di indicatore su Utilizzo bilanciamento del carico HTTP.

  7. Inserisci l'utilizzo del bilanciamento del carico HTTP target. Questo valore viene trattato come una percentuale. Ad esempio, per il 60% di utilizzo del bilanciamento del carico HTTP, inserisci 60.

  8. Puoi utilizzare il periodo di attesa per impostare il periodo di inizializzazione, che indica al gestore della scalabilità automatica il tempo necessario per l'inizializzazione dell'applicazione. Specificare un periodo di inizializzazione preciso migliora le decisioni del gestore della scalabilità automatica. Ad esempio, durante lo scale out, il gestore della scalabilità automatica ignora i dati provenienti dalle VM che sono ancora in fase di inizializzazione, perché potrebbero non rappresentare il normale utilizzo della tua applicazione. Il periodo di inizializzazione predefinito è di 60 secondi.

  9. Salva le modifiche.

gcloud

Per attivare un gestore della scalabilità automatica che esegue la scalabilità in base alla capacità di pubblicazione, utilizza il subcomando set-autoscaling. Ad esempio, il seguente comando crea un gestore della scalabilità automatica che scala il gruppo di istanze gestite di destinazione per mantenere il 60% della capacità di pubblicazione. Oltre al parametro --target-load-balancing-utilization, è necessario anche il parametro --max-num-replicas quando crei un autoscaler:

gcloud compute instance-groups managed set-autoscaling example-managed-instance-group \
    --max-num-replicas 20 \
    --target-load-balancing-utilization 0.6 \
    --cool-down-period 90

Puoi utilizzare il flag --cool-down-period per impostare il periodo di inizializzazione, che indica al gestore della scalabilità automatica il tempo necessario per l'inizializzazione dell'applicazione. Specificare un periodo di inizializzazione preciso migliora le decisioni del gestore della scalabilità automatica. Ad esempio, durante lo scale out, il gestore della scalabilità automatica ignora i dati provenienti dalle VM che sono ancora in fase di inizializzazione, perché potrebbero non rappresentare il normale utilizzo della tua applicazione. Il periodo di inizializzazione predefinito è di 60 secondi.

Puoi verificare che il gestore della scalabilità automatica sia stato creato correttamente utilizzando il comando secondario instance-groups managed describe:

gcloud compute instance-groups managed describe example-managed-instance-group

Per un elenco dei comandi e dei flag gcloud disponibili, consulta la documentazione di riferimento di gcloud.

REST

Per creare un gestore della scalabilità automatica, utilizza il metodo autoscalers.insert per un gruppo di istanze gestite a livello di zona o il metodo regionAutoscalers.insert per un gruppo di istanze gestite a livello di regione.

L'esempio seguente crea un gestore della scalabilità automatica per un gruppo di istanze gestite a livello di zona:

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/autoscalers/

Il corpo della richiesta deve contenere i campi name, target e autoscalingPolicy. autoscalingPolicy deve definire loadBalancingUtilization.

Puoi utilizzare il campo coolDownPeriodSec per impostare il periodo di inizializzazione, che indica al gestore della scalabilità automatica il tempo necessario per l'inizializzazione dell'applicazione. Specificare un periodo di inizializzazione preciso migliora le decisioni del gestore della scalabilità automatica. Ad esempio, durante lo scale out, il gestore della scalabilità automatica ignora i dati provenienti dalle VM che sono ancora in fase di inizializzazione, perché potrebbero non rappresentare il normale utilizzo della tua applicazione. Il periodo di inizializzazione predefinito è di 60 secondi. 

{

 "name": "example-autoscaler",
 "target": "zones/us-central1-f/instanceGroupManagers/example-managed-instance-group",
 "autoscalingPolicy": {
    "maxNumReplicas": 20,
    "loadBalancingUtilization": {
       "utilizationTarget": 0.8
     },
    "coolDownPeriodSec": 90
  }
}

Per ulteriori informazioni sull'attivazione della scalabilità automatica in base alla capacità di servizio di bilanciamento del carico, completa il tutorial Scalabilità automatica globale di un servizio web su Compute Engine.

Passaggi successivi