Scalabilità e scalabilità automatica dei servizi di runtime

Stai visualizzando la versione 1.8 di Documentazione di Apigee hybrid. This version is end of life. You should upgrade to a newer version. Per ulteriori informazioni, vedi Versioni supportate.

Version 1.8 (unsupported)

Versioni supportate:

• v1.13 (ultima versione)                        
• v1.12                         
• v1.11                         
• Elenco delle versioni supportate

   Versioni non supportate:

• v1.10                                      
• v1.9                                         
• v1.8                                         
• v1.7                                         
• v1.6                                         
• v1.5                                         
• v1.4                                         
• v1.3                                         
• v1.2                                         
• v1.1                                         

Puoi scalare la maggior parte dei servizi in esecuzione in Kubernetes alla riga di comando o in un override della configurazione. Puoi impostare i parametri di scalabilità per i servizi di runtime di Apigee hybrid nel file overrides.yaml.

Servizio	Implementata come	Scalabilità
Cassandra	ApigeeDatastore (CRD)	Consulta Scalabilità di Cassandra.
Bilanciatore del carico/in entrata	Deployment	Anthos Service Mesh utilizza la scalabilità automatica orizzontale dei pod (HPA).
Registratore	DaemonSet	I DaemonSet gestiscono le repliche di un pod su tutti i nodi, quindi scalano quando scali i pod stessi.
MART Apigee Connect Visione	ApigeeOrganization (CRD)	Per eseguire il ridimensionamento tramite configurazione, aumenta il valore della proprietà di configurazione replicaCountMin del deployment per le stanza mart, watcher e/o connectAgent. Ad esempio: mart: replicaCountMax: 2 replicaCountMin: 1 watcher: replicaCountMax: 2 replicaCountMin: 1 connectAgent: replicaCountMax: 2 replicaCountMin: 1 Questi deployment utilizzano Horizontal Pod Autoscaler per la scalabilità automatica. Imposta la proprietà targetCPUUtilizationPercentage dell'oggetto Deployment sulla soglia per l'aumento di scala. Quando questo valore viene superato, Kubernetes aggiunge i pod fino al valore di replicaCountMax. Per ulteriori informazioni sull'impostazione delle proprietà di configurazione, consulta Gestire i componenti del piano di runtime.
Runtime Sincronizzatore UDCA	ApigeeEnvironment (CRD)	Per eseguire il ridimensionamento tramite configurazione, aumenta il valore della proprietà replicaCountMin per le stanza udca, synchronizer e/o runtime nel file delle sostituzioni. Ad esempio: synchronizer: replicaCountMax: 10 replicaCountMin: 1 runtime: replicaCountMax: 10 replicaCountMin: 1 udca: replicaCountMax: 10 replicaCountMin: 1 Nota: queste modifiche si applicano a TUTTI gli ambienti nel file delle sostituzioni. Se vuoi personalizzare il ridimensionamento per ogni ambiente, consulta Configurazioni avanzate di seguito. Questi deployment utilizzano un Horizontal Pod Autoscaler per la scalabilità automatica. Imposta la proprietà targetCPUUtilizationPercentage dell'oggetto Deployment sulla soglia per l'aumento di scala. Quando questo valore viene superato, Kubernetes aggiunge i pod fino al valore di replicaCountMax. Per ulteriori informazioni sull'impostazione delle proprietà di configurazione, consulta Gestire i componenti del piano di runtime.

Configurazioni avanzate

In alcuni scenari, potrebbe essere necessario utilizzare opzioni di ridimensionamento avanzate. Ecco alcuni scenari di esempio:

• Impostazione di opzioni di ridimensionamento diverse per ogni ambiente. Ad esempio, dove env1 ha a minReplica di 5 e env2 ha un minReplica di 2.
• Impostare opzioni di scalabilità diverse per ogni componente all'interno di un ambiente. Ad esempio: in cui il componente udca ha un valore maxReplica pari a 5 e Il componente synchronizer ha un valore maxReplica pari a 2.

L'esempio seguente mostra come utilizzare il comando kubernetes patch per modificare la proprietà maxReplicas del componente runtime:

1. Crea le variabili di ambiente da utilizzare con il comando:

   export ENV=my-environment-name
   export NAMESPACE=apigee  #the namespace where apigee is deployed
   export COMPONENT=runtime #can be udca or synchronizer
   export MAX_REPLICAS=2
   export MIN_REPLICAS=1

2. Applica la patch. Tieni presente che questo esempio presuppone che kubectl sia in PATH:

   kubectl patch apigeeenvironment -n $NAMESPACE \
     $(kubectl get apigeeenvironments -n $NAMESPACE -o jsonpath='{.items[?(@.spec.name == "'$ENV'" )]..metadata.name}') \
     --patch "$(echo -e "spec:\n  components:\n    $COMPONENT:\n      autoScaler:\n        maxReplicas: $MAX_REPLICAS\n        minReplicas: $MIN_REPLICAS")" \
     --type merge

3. Verifica la modifica:

   kubectl get hpa -n $NAMESPACE

Scalabilità basata sulle metriche

Con la scalabilità basata sulle metriche, il runtime può utilizzare le metriche di CPU e applicazione per scalare i pod apigee-runtime. L'API Horizontal Pod Autoscaler (HPA) di Kubernetes utilizza il campo hpaBehavior per configurare i comportamenti di scalabilità verso l'alto e verso il basso del servizio target. La scalabilità basata sulle metriche non è disponibile per altri componenti in un deployment ibrido.

Nota: per ricevere i dati delle metriche e abilitare il ridimensionamento, deve essere aperta una connessione interna tra Prometheus e Prometheus-Adapter sulla porta 6443. Per ulteriori informazioni sulle porte richieste, consulta la sezione Connessioni interne.

La scalabilità può essere regolata in base alle seguenti metriche:

Metrica	Misura	Considerazioni
serverNioTaskWaitTime	Tempo di attesa medio (in picosecondi) della coda di elaborazione nelle istanze di runtime per le richieste proxy a livello di protocollo HTTP.	Questa metrica misura l'impatto del numero e delle dimensioni del payload delle richieste e delle risposte del proxy.
serverMainTaskWaitTime	Tempo di attesa medio (in picosecondi) della coda di elaborazione nelle istanze di runtime per le richieste proxy per l'elaborazione delle norme.	Questa metrica misura l'impatto della complessità dei criteri associati al flusso di richieste proxy.

Il seguente esempio dalla stanza runtime nella overrides.yaml illustra i parametri standard (e gli intervalli consentiti) per la scalabilità dei pod apigee-runtime in un'implementazione ibrida:

hpaMetrics:
      serverMainTaskWaitTime: 400M (300M to 450M)
      serverNioTaskWaitTime: 400M (300M to 450M)
      targetCPUUtilizationPercentage: 75
    hpaBehavior:
      scaleDown:
        percent:
          periodSeconds: 60 (30 - 180)
          value: 20 (5 - 50)
        pods:
          periodSeconds: 60 (30 - 180)
          value: 2 (1 - 15)
        selectPolicy: Min
        stabilizationWindowSeconds: 120 (60 - 300)
      scaleUp:
        percent:
          periodSeconds: 60 (30 - 120)
          value: 20 (5 - 100)
        pods:
          periodSeconds: 60 (30 - 120)
          value: 4 (2 - 15)
        selectPolicy: Max
        stabilizationWindowSeconds: 30 (30 - 120)
  

Configurare una scalabilità più aggressiva

L'aumento dei valori percent e pods del criterio di scale up si tradurrà in una strategia una politica di scale up. Analogamente, l'aumento dei valori percent e pods in scaleDown comporterà un criterio di riduzione aggressivo. Ad esempio:

hpaMetrics:
    serverMainTaskWaitTime: 400M
    serverNioTaskWaitTime: 400M
    targetCPUUtilizationPercentage: 75
  hpaBehavior:
    scaleDown:
      percent:
        periodSeconds: 60
        value: 20
      pods:
        periodSeconds: 60
        value: 4
      selectPolicy: Min
      stabilizationWindowSeconds: 120
    scaleUp:
      percent:
        periodSeconds: 60
        value: 30
      pods:
        periodSeconds: 60
        value: 5
      selectPolicy: Max
      stabilizationWindowSeconds: 30

Nell'esempio precedente, il valore scaleDown.pods.value viene aumentato a 5, ovvero la metrica scaleUp.percent.value viene aumentato a 30 e scaleUp.pods.value viene aumentato a 5.

Nota: il valore di periodSeconds non deve essere inferiore a 30.

Configurare una scalabilità meno aggressiva

I valori della configurazione hpaBehavior possono anche essere ridotti per implementare criteri di scale up e scale down meno aggressivi. Ad esempio:

hpaMetrics:
    serverMainTaskWaitTime: 400M
    serverNioTaskWaitTime: 400M
    targetCPUUtilizationPercentage: 75
  hpaBehavior:
    scaleDown:
      percent:
        periodSeconds: 60
        value: 10
      pods:
        periodSeconds: 60
        value: 1
      selectPolicy: Min
      stabilizationWindowSeconds: 180
    scaleUp:
      percent:
        periodSeconds: 60
        value: 20
      pods:
        periodSeconds: 60
        value: 4
      selectPolicy: Max
      stabilizationWindowSeconds: 30

Nell'esempio riportato sopra, il valore scaleDown.percent.value viene ridotto a 10, il valore scaleDown.pods.value viene ridotto a 1 e il valore scaleUp.stablizationWindowSeconds viene aumentato a 180.

Per saperne di più sulla scalabilità basata su metriche che utilizza il campo hpaBehavior, consulta Criteri di scalabilità.

Disabilita la scalabilità basata su metriche

La scalabilità basata sulle metriche è abilitata per impostazione predefinita e non può essere completamente disattivata, configurare le soglie delle metriche a un livello che non attiva la scalabilità basata sulle metriche. Il comportamento di scalabilità risultante sarà lo stesso della scalabilità basata sulla CPU. Ad esempio, puoi utilizzare la seguente configurazione per impedire l'attivazione della scalabilità basata sulle metriche:

hpaMetrics:
      serverMainTaskWaitTime: 4000M
      serverNioTaskWaitTime: 4000M
      targetCPUUtilizationPercentage: 75
    hpaBehavior:
      scaleDown:
        percent:
          periodSeconds: 60
          value: 10
        pods:
          periodSeconds: 60
          value: 1
        selectPolicy: Min
        stabilizationWindowSeconds: 180
      scaleUp:
        percent:
          periodSeconds: 60
          value: 20
        pods:
          periodSeconds: 60
          value: 4
        selectPolicy: Max
        stabilizationWindowSeconds: 30

Risoluzione dei problemi

Questa sezione descrive i metodi di risoluzione dei problemi relativi agli errori comuni che potresti riscontrare durante la configurazione del ridimensionamento e del ridimensionamento automatico.

L'HPA mostra unknown per i valori delle metriche

Se la scalabilità basata sulle metriche non funziona e l'HPA mostra unknown Per i valori delle metriche, utilizza il comando seguente per verificare l'output HPA:

kubectl describe hpa HPA_NAME

Quando esegui il comando, sostituisci HPA_NAME con il nome dell'HPA che vuoi visualizzare.

L'output mostrerà il target e l'utilizzo della CPU del servizio, a indicare che la scalabilità della CPU funzionerà in assenza di scalabilità basata su metriche. Per il comportamento HPA che utilizza più consulta Scalabilità su più metriche.