Configurazione della scalabilità automatica del pod orizzontale

Mantieni tutto organizzato con le raccolte Salva e classifica i contenuti in base alle tue preferenze.

Questa pagina spiega come utilizzare la scalabilità automatica pod orizzontale per scalare automaticamente un deployment utilizzando diversi tipi di metriche. Puoi utilizzare le stesse linee guida per configurare un HorizontalPodAutoscaler per qualsiasi oggetto di deployment scalabile.

Prima di iniziare

Prima di iniziare, assicurati di aver eseguito le seguenti attività:

  • Abilita l'API Google Kubernetes Engine.
  • Abilita l'API Google Kubernetes Engine
  • Se vuoi utilizzare Google Cloud CLI per questa attività, installa e poi inizializza l'interfaccia a riga di comando gcloud.

Versioni API per HorizontalPodAutoscaler oggetti

Quando utilizzi la console Google Cloud, gli oggetti HorizontalPodAutoscaler vengono creati utilizzando l'API autoscaling/v2beta2.

Quando utilizzi kubectl per creare o visualizzare informazioni su un gestore della scalabilità automatica pod orizzontale, puoi specificare l'API autoscaling/v1 o l'API autoscaling/v2beta2.

  • apiVersion: autoscaling/v1 è l'impostazione predefinita e consente di applicare la scalabilità automatica solo in base all'utilizzo della CPU. Per applicare la scalabilità automatica in base ad altre metriche, è consigliabile utilizzare apiVersion: autoscaling/v2beta2. L'esempio in Configurazione di un deployment utilizza apiVersion: autoscaling/v1.

  • apiVersion: autoscaling/v2beta2 è consigliato per la creazione di nuovi oggetti HorizontalPodAutoscaler. Consente di applicare la scalabilità automatica in base a più metriche, tra cui metriche personalizzate o esterne. Tutti gli altri esempi in questo argomento utilizzano apiVersion: autoscaling/v2beta2.

Per controllare quali versioni dell'API sono supportate, usa il comando kubectl api-versions.

Puoi specificare l'API da utilizzare quando visualizza i dettagli su un Horizontal Pod Autoscaler che utilizza apiVersion: autoscaling/v2beta2.

Crea il deployment di esempio

Prima di poter creare un Horizontal Pod Autoscaler, devi creare il carico di lavoro che monitora. Gli esempi in questo argomento applicano diverse configurazioni del gestore della scalabilità automatica pod orizzontale al deployment nginx di seguito. Esempi distinti mostrano un gestore della scalabilità automatica pod orizzontale basato sull'utilizzo delle risorse, su una metrica personalizzata o esterna e sulla base di più metriche.

Salva il file seguente in un file denominato nginx.yaml:

apiVersion: apps/v1
kind: Deployment
metadata:
  name: nginx
  namespace: default
spec:
  replicas: 3
  selector:
    matchLabels:
      app: nginx
  template:
    metadata:
      labels:
        app: nginx
    spec:
      containers:
      - name: nginx
        image: nginx:1.7.9
        ports:
        - containerPort: 80
        resources:
          # You must specify requests for CPU to autoscale
          # based on CPU utilization
          requests:
            cpu: "250m"

Questo manifest specifica un valore per le richieste di CPU. Se vuoi scalare automaticamente in base all'utilizzo di una risorsa come percentuale, devi specificare le richieste per quella risorsa. Se non specifichi alcuna richiesta, puoi scalare automaticamente solo in base al valore assoluto dell'utilizzo della risorsa, ad esempio milliCPU per l'utilizzo della CPU.

Per creare il deployment, applica il manifest nginx.yaml:

kubectl apply -f nginx.yaml

Il deployment ha spec.replicas impostato su 3, quindi viene eseguito il deployment di tre pod. Puoi verificare utilizzando il comando kubectl get deployment nginx.

Ciascuno degli esempi in questo argomento applica un gestore della scalabilità automatica pod orizzontale diverso a un deployment nginx di esempio.

Scalabilità automatica basata sull'utilizzo delle risorse

Questo esempio crea un oggetto HorizontalPodAutoscaler per scalare automaticamente il deployment di nginx quando l'utilizzo della CPU supera il 50% e garantisce che ci siano sempre un minimo di 1 replica e un massimo di 10 repliche.

Puoi creare un gestore della scalabilità automatica pod orizzontale che abbia come target la CPU utilizzando la console Google Cloud, il comando kubectl apply oppure, solo per la CPU media, il comando kubectl autoscale.

Console

  1. Vai alla pagina Carichi di lavoro di Google Cloud Console.

    Vai a Carichi di lavoro

  2. Fai clic sul nome del deployment nginx.

  3. Fai clic su Azioni > Scalabilità automatica.

  4. Specifica i seguenti valori:

    • Numero minimo di repliche: 1
    • Numero massimo di repliche: 10
    • Metrica di scalabilità automatica: CPU
    • Target: 50
    • Unità: %
  5. Fai clic su Fine.

  6. Fai clic su Scalabilità automatica.

kubectl apply

Salva il seguente manifest YAML come file denominato nginx-hpa.yaml:

apiVersion: autoscaling/v1
kind: HorizontalPodAutoscaler
metadata:
  name: nginx
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: nginx
  minReplicas: 1
  maxReplicas: 10
  targetCPUUtilizationPercentage: 50

Per creare l'HPA, applica il manifest utilizzando il seguente comando:

kubectl apply -f nginx-hpa.yaml

kubectl autoscale

Per creare un oggetto HorizontalPodAutoscaler che ha come target solo l'utilizzo medio della CPU, puoi utilizzare il comando kubectl autoscale:

kubectl autoscale deployment nginx --cpu-percent=50 --min=1 --max=10

Per visualizzare un elenco di gestori della scalabilità automatica pod orizzontale nel cluster, utilizza il comando seguente:

kubectl get hpa

L'output è simile al seguente:

NAME    REFERENCE          TARGETS   MINPODS   MAXPODS   REPLICAS   AGE
nginx   Deployment/nginx   0%/50%    1         10        3          61s

Per ottenere informazioni dettagliate sul gestore della scalabilità automatica pod orizzontale, puoi utilizzare la console Google Cloud o il comando kubectl.

Console

  1. Vai alla pagina Carichi di lavoro di Google Cloud Console.

    Vai a Carichi di lavoro

  2. Fai clic sul nome del deployment nginx.

  3. Visualizza la configurazione del gestore della scalabilità automatica orizzontale nella sezione Autoscaler.

  4. Per visualizzare ulteriori dettagli sugli eventi di scalabilità automatica, vai alla scheda Eventi.

kubectl get

Per ottenere informazioni dettagliate sul gestore della scalabilità automatica pod orizzontale, puoi utilizzare kubectl get hpa con il flag -o yaml. Il campo status contiene informazioni sul numero corrente di repliche ed eventuali eventi recenti di scalabilità automatica.

kubectl get hpa nginx -o yaml

L'output è simile al seguente:

apiVersion: autoscaling/v1
kind: HorizontalPodAutoscaler
metadata:
  annotations:
    autoscaling.alpha.kubernetes.io/conditions: '[{"type":"AbleToScale","status":"True","lastTransitionTime":"2019-10-30T19:42:59Z","reason":"ScaleDownStabilized","message":"recent
      recommendations were higher than current one, applying the highest recent recommendation"},{"type":"ScalingActive","status":"True","lastTransitionTime":"2019-10-30T19:42:59Z","reason":"ValidMetricFound","message":"the
      HPA was able to successfully calculate a replica count from cpu resource utilization
      (percentage of request)"},{"type":"ScalingLimited","status":"False","lastTransitionTime":"2019-10-30T19:42:59Z","reason":"DesiredWithinRange","message":"the
      desired count is within the acceptable range"}]'
    autoscaling.alpha.kubernetes.io/current-metrics: '[{"type":"Resource","resource":{"name":"cpu","currentAverageUtilization":0,"currentAverageValue":"0"}}]'
    kubectl.kubernetes.io/last-applied-configuration: |
      {"apiVersion":"autoscaling/v1","kind":"HorizontalPodAutoscaler","metadata":{"annotations":{},"name":"nginx","namespace":"default"},"spec":{"maxReplicas":10,"minReplicas":1,"scaleTargetRef":{"apiVersion":"apps/v1","kind":"Deployment","name":"nginx"},"targetCPUUtilizationPercentage":50}}
  creationTimestamp: "2019-10-30T19:42:43Z"
  name: nginx
  namespace: default
  resourceVersion: "220050"
  selfLink: /apis/autoscaling/v1/namespaces/default/horizontalpodautoscalers/nginx
  uid: 70d1067d-fb4d-11e9-8b2a-42010a8e013f
spec:
  maxReplicas: 10
  minReplicas: 1
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: nginx
  targetCPUUtilizationPercentage: 50
status:
  currentCPUUtilizationPercentage: 0
  currentReplicas: 3
  desiredReplicas: 3

Prima di seguire gli esempi restanti in questo argomento, elimina l'HPA:

kubectl delete hpa nginx

Quando elimini un Horizontal Pod Autoscaler, il numero di repliche del deployment rimane invariato. Un deployment non torna automaticamente allo stato prima dell'applicazione del gestore della scalabilità automatica pod orizzontale.

Scopri di più sull'eliminazione di un gestore della scalabilità automatica pod orizzontale.

Scalabilità automatica basata sul traffico del bilanciatore del carico

La scalabilità automatica basata sul traffico è una funzionalità di GKE che integra indicatori di utilizzo del traffico dai bilanciatori del carico ai pod a scalabilità automatica.

L'utilizzo del traffico come indicatore di scalabilità automatica potrebbe essere utile, dato che il traffico è un indicatore leader del carico complementare alla CPU e alla memoria. L'integrazione incorporata con GKE garantisce che la configurazione sia semplice e che la scalabilità automatica reagisca rapidamente ai picchi di traffico per soddisfare la domanda.

La scalabilità automatica basata sul traffico viene attivata dal controller gateway e dalle sue funzionalità di gestione del traffico globale. Per scoprire di più, consulta Scalabilità automatica basata sul traffico.

La scalabilità automatica basata sul traffico del bilanciatore del carico è disponibile solo per i carichi di lavoro del gateway.

Requisiti

La scalabilità automatica basata sul traffico prevede i seguenti requisiti:

  • Supportato per GKE 1.24 e versioni successive.
  • API Gateway abilitata nel tuo cluster GKE.
  • Supportato per il traffico che passa attraverso i bilanciatori del carico di cui è stato eseguito il deployment utilizzando l'API Gateway e il gke-l7-rilb o la classe Gatewaygke-l7-gxlb.

Limitazioni

La scalabilità automatica basata sul traffico presenta le seguenti limitazioni:

  • Non supportato dai GatewayClass multi-cluster (gke-l7-rilb-mc e gke-l7-gxlb-mc).
  • Non supportato per il traffico con servizi di tipo ClusterIP o LoadBalancer.

Deployment della scalabilità automatica basata sul traffico

L'esercizio seguente utilizza il HorizontalPodAutoscaler per scalare automaticamente il deployment di store-autoscale in base al traffico che riceve. Un Gateway accetta il traffico in entrata da Internet per i pod. Il gestore della scalabilità automatica confronta i segnali del traffico provenienti dal gateway con la capacità di traffico per pod configurata nella risorsa di servizio store-autoscale. La generazione del traffico nel gateway influisce sul numero di pod di cui è stato eseguito il deployment.

Il seguente diagramma mostra come funziona la scalabilità automatica basata sul traffico:

Scalabilità automatica basata sul traffico

Per eseguire il deployment della scalabilità automatica basata sul traffico, segui questi passaggi:

  1. Per i cluster standard, verifica che i gateway siano installati nel cluster. Per i cluster Autopilot, i GatewayClass sono installati per impostazione predefinita.

    kubectl get gatewayclass
    

    L'output conferma che le risorse GatewayClass di GKE sono pronte per essere utilizzate nel cluster:

    NAME          CONTROLLER
    gke-l7-rilb   networking.gke.io/gateway
    gke-l7-gxlb   networking.gke.io/gateway
    

    Se non vedi questo output, abilita l'API Gateway nel tuo cluster GKE.

  2. Esegui il deployment dell'applicazione di esempio e del bilanciatore del carico del gateway nel tuo cluster:

    kubectl apply -f https://raw.githubusercontent.com/GoogleCloudPlatform/gke-networking-recipes/master/gateway/docs/store-autoscale.yaml
    

    L'applicazione di esempio crea:

    • Un deployment con 2 repliche.
    • Una capacità del servizio con max-rate-per-endpoint impostata su 10. Quando questa funzionalità è in anteprima, utilizza un'annotazione nel servizio. Quando questa funzionalità è disponibile a livello generale, il criterio Service sostituirà l'annotazione. Per scoprire di più sulle funzionalità di Gateway, consulta Funzionalità di GatewayClass.
    • Un gateway esterno per l'accesso all'applicazione su Internet. Per saperne di più su come utilizzare i bilanciatori del carico del gateway, consulta la pagina relativa al deployment dei gateway.
    • Una route HTTP che corrisponde a tutto il traffico e la invia al servizio store-autoscale.

    La funzionalità del servizio è un elemento critico quando si utilizza la scalabilità automatica basata sul traffico perché determina la quantità di traffico per pod che attiva un evento di scalabilità automatica. È configurato come capacità del servizio utilizzando l'annotazione del servizio networking.gke.io/max-rate-per-endpoint, che definisce il traffico massimo che un servizio dovrebbe ricevere in richieste al secondo, per pod. La capacità del servizio è specifica per la tua applicazione. Per ulteriori informazioni, consulta la sezione Determinare la capacità del servizio.

  3. Salva il seguente manifest come hpa.yaml:

    apiVersion: autoscaling/v2beta2
    kind: HorizontalPodAutoscaler
    metadata:
      name: store-autoscale
    spec:
      scaleTargetRef:
        apiVersion: apps/v1
        kind: Deployment
        name: store-autoscale
      minReplicas: 1
      maxReplicas: 10
      metrics:
      - type: Object
        object:
          describedObject:
            kind: Service
            name: store-autoscale
          metric:
            name: "autoscaling.googleapis.com|gclb-capacity-utilization"
          target:
            averageValue: 70
            type: AverageValue
    

    Questo manifest descrive un HorizontalPodAutoscaler con le seguenti proprietà:

    • minReplicas e maxReplicas: imposta il numero minimo e massimo di repliche per questo deployment. In questa configurazione, il numero di pod può scalare da 1 a 10 repliche.
    • describedObject.name: store-autoscale: il riferimento al servizio store-autoscale che definisce la capacità del traffico.
    • scaleTargetRef.name: store-autoscale: il riferimento al deployment store-autoscale che definisce la risorsa scalata dal gestore della scalabilità automatica orizzontale dei pod.
    • averageValue: 70: valore medio target di utilizzo della capacità. In questo modo, il gestore della scalabilità automatica pod orizzontale ha un margine di crescita in modo che i pod in esecuzione possano elaborare il traffico in eccesso durante la creazione di nuovi pod.

Il gestore della scalabilità automatica pod orizzontale determina il comportamento del traffico seguente:

  • Il numero di pod viene regolato su un valore compreso tra 1 e 10 repliche per raggiungere il 70% della frequenza massima per endpoint. Ciò si traduce in 7 RPS per pod quando max-rate-per-endpoint=10.
  • A più di 7 RPS per pod, i pod vengono sottoposti a scale up fino a quando non hanno raggiunto il numero massimo di 10 repliche o fino a quando il traffico medio è di 7 RPS per pod.
  • Se il traffico è ridotto, i pod scalano a una velocità ragionevole utilizzando l'algoritmo Horizontal Pod Autoscaler.

Puoi anche eseguire il deployment di un generatore di traffico per convalidare il comportamento della scalabilità automatica basata sul traffico.

A 30 RPS, il deployment viene scalato a 5 repliche in modo che ogni replica riceva idealmente 6 RPS di traffico, ovvero un utilizzo del 60% per pod. Questo valore è al di sotto dell'utilizzo target del 70%, quindi i pod vengono scalati in modo appropriato. A seconda delle fluttuazioni del traffico, può variare anche il numero di repliche con scalabilità automatica. Per una descrizione più dettagliata di come viene calcolato il numero di repliche, consulta la pagina Comportamento di scalabilità automatica.

Scalabilità automatica basata su una metrica personalizzata o esterna

Puoi seguire i tutorial passo passo per creare Horizontal Pod Autoscaler per metriche personalizzate e metriche esterne.

Scalabilità automatica basata su più metriche

In questo esempio viene creato un gestore della scalabilità automatica pod orizzontale che scala automaticamente in base all'utilizzo della CPU e una metrica personalizzata packets_per_second.

Se hai seguito l'esempio precedente e hai ancora un Horizontal Pod Autoscaler con nome nginx, eliminalo prima di seguire questo esempio.

Questo esempio richiede apiVersion: autoscaling/v2beta2. Per ulteriori informazioni sulle API disponibili, consulta Versioni API per gli oggetti HorizontalPodAutoscaler.

Salva questo manifest YAML come file denominato nginx-multiple.yaml:

apiVersion: autoscaling/v2beta2
kind: HorizontalPodAutoscaler
metadata:
  name: nginx
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: nginx
  minReplicas: 1
  maxReplicas: 10
  metrics:
  - type: Resource
    resource:
      name: cpu
      target:
        type: Utilization
        averageUtilization: 50
  - type: Resource
    resource:
      name: memory
      target:
        type: AverageValue
        averageValue: 100Mi
  # Uncomment these lines if you create the custom packets_per_second metric and
  # configure your app to export the metric.
  # - type: Pods
  #   pods:
  #     metric:
  #       name: packets_per_second
  #     target:
  #       type: AverageValue
  #       averageValue: 100

Applica il manifest YAML:

kubectl apply -f nginx-multiple.yaml

Quando viene creato, Horizontal Pod Autoscaler monitora il deployment nginx per l'utilizzo medio della CPU, l'utilizzo medio della memoria e (se non lo hai commentato) della metrica personalizzata packets_per_second. Il gestore della scalabilità automatica pod orizzontale scala automaticamente il deployment in base alla metrica il cui valore creerebbe l'evento di scalabilità automatica maggiore.

Visualizzazione dei dettagli su un gestore della scalabilità automatica pod orizzontale

Per visualizzare la configurazione e le statistiche di un pod di scalabilità automatica pod orizzontale, utilizza il comando seguente:

kubectl describe hpa HPA_NAME

Sostituisci HPA_NAME con il nome del tuo oggetto HorizontalPodAutoscaler.

Se il Horizontal Pod Autoscaler utilizza apiVersion: autoscaling/v2beta2 e si basa su più metriche, il comando kubectl describe hpa mostra solo la metrica CPU. Per visualizzare tutte le metriche, utilizza invece il seguente comando:

kubectl describe hpa.v2beta2.autoscaling HPA_NAME

Sostituisci HPA_NAME con il nome del tuo oggetto HorizontalPodAutoscaler.

Lo stato attuale di ogni gestore della scalabilità automatica pod orizzontale è visualizzato nel campo Conditions, mentre gli eventi di scalabilità automatica sono elencati nel campo Events.

L'output è simile al seguente:

Name:                                                  nginx
Namespace:                                             default
Labels:                                                <none>
Annotations:                                           kubectl.kubernetes.io/last-applied-configuration:
                                                         {"apiVersion":"autoscaling/v2beta2","kind":"HorizontalPodAutoscaler","metadata":{"annotations":{},"name":"nginx","namespace":"default"},"s...
CreationTimestamp:                                     Tue, 05 May 2020 20:07:11 +0000
Reference:                                             Deployment/nginx
Metrics:                                               ( current / target )
  resource memory on pods:                             2220032 / 100Mi
  resource cpu on pods  (as a percentage of request):  0% (0) / 50%
Min replicas:                                          1
Max replicas:                                          10
Deployment pods:                                       1 current / 1 desired
Conditions:
  Type            Status  Reason              Message
  ----            ------  ------              -------
  AbleToScale     True    ReadyForNewScale    recommended size matches current size
  ScalingActive   True    ValidMetricFound    the HPA was able to successfully calculate a replica count from memory resource
  ScalingLimited  False   DesiredWithinRange  the desired count is within the acceptable range
Events:                                                <none>

Eliminazione di un gestore della scalabilità automatica pod orizzontale

Puoi eliminare un gestore della scalabilità automatica pod orizzontale utilizzando la console Google Cloud o il comando kubectl delete.

Console

Per eliminare nginx Horizontal Pod Autoscaler:

  1. Vai alla pagina Carichi di lavoro di Google Cloud Console.

    Vai a Carichi di lavoro

  2. Fai clic sul nome del deployment nginx.

  3. Fai clic su Azioni > Scalabilità automatica.

  4. Fai clic su Elimina.

kubectl delete

Per eliminare nginx Horizontal Pod Autoscaler, utilizza il seguente comando:

kubectl delete hpa nginx

Quando elimini un Horizontal Pod Autoscaler, il deployment o (o un altro oggetto di deployment) rimane alla sua scala esistente e non torna al numero di repliche nel manifest originale del deployment. Per ripristinare manualmente il deployment a tre pod, puoi utilizzare il comando kubectl scale:

kubectl scale deployment nginx --replicas=3

Eseguire la pulizia

  1. Elimina il Horizontal Pod Autoscaler, se non l'hai ancora fatto:

    kubectl delete hpa nginx
    
  2. Elimina il deployment di nginx:

    kubectl delete deployment nginx
    
  3. (Facoltativo) Elimina il cluster.

Risolvere i problemi

Quando configuri un gestore della scalabilità automatica orizzontale,potresti visualizzare messaggi di avviso come i seguenti:

unable to fetch pod metrics for pod

È normale che questo messaggio venga visualizzato all'avvio del server delle metriche. Tuttavia, se continui a vedere gli avvisi e noti che i pod non vengono scalati per il tuo carico di lavoro, assicurati di aver specificato le richieste di risorse per ciascun container nel carico di lavoro. Per utilizzare le destinazioni percentuale di utilizzo delle risorse con la scalabilità automatica pod orizzontale, devi configurare le richieste per la risorsa per ogni container in esecuzione in ogni pod nel carico di lavoro. In caso contrario, il gestore della scalabilità automatica pod orizzontale non può eseguire i calcoli necessari e non esegue alcuna azione correlata alla metrica.

Passaggi successivi