Questa pagina descrive come configurare il bilanciamento del carico in bundle per GKE su Bare Metal. GKE su Bare Metal esegue il deployment di bilanciatori del carico di livello 4 che vengono eseguiti su un pool dedicato di nodi worker o sugli stessi nodi del piano di controllo.
Consulta la Panoramica dei bilanciatori del carico per alcuni esempi di topologie di bilanciamento del carico disponibili in GKE su Bare Metal.
Requisiti
- Tutti i nodi del bilanciatore del carico devono trovarsi nella stessa subnet di livello 2.
- Tutti i VIP devono trovarsi nella subnet dei nodi del bilanciatore del carico ed essere instradabili attraverso il gateway della subnet.
- Il gateway della subnet del bilanciatore del carico deve rimanere in ascolto di messaggi ARP gratuiti e inoltrare pacchetti ARP ai nodi del bilanciatore del carico.
Campi di configurazione
Modifica la sezione cluster.spec.loadBalancer
del file di configurazione del cluster per configurare il bilanciamento del carico in bundle. Per informazioni sui file di configurazione dei cluster ed esempi di configurazioni valide, consulta una delle seguenti pagine:
loadBalancer.mode
Questo valore deve essere bundled
per attivare il bilanciamento del carico in bundle.
loadBalancer.ports.controlPlaneLBPort
Questo valore specifica la porta di destinazione da utilizzare per il traffico inviato al piano di controllo Kubernetes (i server dell'API Kubernetes).
loadBalancer.vips.controlPlaneVIP
Questo valore specifica l'indirizzo IP di destinazione da utilizzare per il traffico inviato al piano di controllo Kubernetes (server API Kubernetes). Questo indirizzo IP deve trovarsi nella stessa subnet di livello 2 dei nodi nel cluster. Non elencare questo indirizzo nella sezione address pools
del file di configurazione.
loadBalancer.vips.ingressVIP
Questo valore specifica l'indirizzo IP da utilizzare per i servizi dietro il bilanciatore del carico per il traffico in entrata. Questo campo non è consentito nei file di configurazione del cluster di amministrazione. Questo indirizzo deve essere elencato nella sezione pool di indirizzi della configurazione.
loadBalancer.addressPools
Questa sezione della configurazione contiene uno o più pool di indirizzi. Ogni pool di indirizzi specifica un elenco di intervalli di indirizzi IP. Quando crei un
servizio di tipo LoadBalancer
,
gli indirizzi IP esterni per il servizio vengono scelti da questi intervalli. I pool di indirizzi sono specificati nel seguente formato:
- name: pool-name
avoidBuggyIPs: boolean
manualAssign: boolean
addresses:
- ip-range
- ip-range
- name: il nome del pool di indirizzi, pool-name, per i tuoi scopi organizzativi.
- avoidBuggyIPs: (facoltativo)
true
ofalse
. Setrue
, il pool omette gli indirizzi IP che terminano con.0
e.255
. Alcuni componenti hardware di rete riducono il traffico a questi indirizzi speciali. Puoi omettere questo campo, il suo valore predefinito èfalse
. - manualAssign: (facoltativo)
true
ofalse
. Setrue
, gli indirizzi in questo pool non vengono assegnati automaticamente ai servizi Kubernetes. Setrue
, un indirizzo IP in questo pool viene utilizzato solo quando è specificato esplicitamente da un servizio. Puoi omettere questo campo; il valore predefinito èfalse
. - addresses un elenco di uno o più intervalli di indirizzi IP non sovrapposti.
ip-range può essere specificato in notazione CIDR (come
198.51.100.0/24
) o notazione di intervallo (come198.51.100.0-198.51.100.10
, senza spazi intorno al trattino).
Gli intervalli di indirizzi IP nell'elenco addresses
non devono sovrapporsi e devono trovarsi nella stessa subnet dei nodi che eseguono i bilanciatori del carico.
loadBalancer.nodePoolSpec
Questa sezione della configurazione specifica un elenco di nodi su cui eseguire i bilanciatori del carico. I nodi del bilanciatore del carico possono eseguire carichi di lavoro regolari per impostazione predefinita, senza
incompatibilità su questi nodi. L'esempio seguente mostra un pool di nodi con due nodi. Il primo nodo, 1.2.3.4
, utilizza il campo k8sIP
per specificare l'indirizzo IP del nodo nel cluster. L'indirizzo 1.2.3.4
viene utilizzato solo per l'accesso SSH.
nodePoolSpec:
nodes:
- address: 1.2.3.4
k8sIP: 10.0.0.32
- address: 10.0.0.33
Tutti i nodi nel pool di nodi del bilanciatore del carico devono trovarsi nella stessa subnet di livello 2 dei VIP del bilanciatore del carico configurati nella sezione loadBalancer.addressPools
del file di configurazione.
Se in un nodo è configurato un k8sIP
, solo quell'indirizzo deve trovarsi nella stessa subnet di livello 2 degli altri VIP del bilanciatore del carico.
Se nodePoolSpec
non è impostato, i bilanciatori del carico in bundle vengono eseguiti sui nodi del piano di controllo. Ti consigliamo di eseguire i bilanciatori del carico su pool di nodi separati, se possibile.
Bilanciamento del carico del piano di controllo
Il bilanciatore del carico del piano di controllo gestisce l'indirizzo IP virtuale (VIP) del piano di controllo. GKE su Bare Metal esegue Keeparanking e HAProxy come pod statici di Kubernetes sui nodi del bilanciatore del carico per annunciare il VIP del piano di controllo. KeepaDuration utilizza il Virtual Router Redundancy Protocol (VRRP) sui nodi del bilanciatore del carico per garantire l'alta disponibilità.
Bilanciamento del carico del piano dati
Il bilanciatore del carico del piano dati è per tutti i servizi Kubernetes di tipo LoadBalancer
.
GKE su Bare Metal utilizza MetalLB in esecuzione in modalità di livello 2 per il bilanciamento del carico del piano dati. Il bilanciamento del carico del piano dati può essere configurato solo tramite GKE su Bare Metal; non modificare direttamente ConfigMap di MetalLB. Puoi utilizzare tutte le funzionalità di MetalLB, inclusa la
condivisione degli indirizzi IP tra i servizi.
Consulta la documentazione di MetalLB per informazioni sulle funzionalità.
MetalLB esegue un pod speaker su ciascun nodo utilizzando un daemonset e utilizzando memberlist per garantire l'alta disponibilità. Esiste un nodo del bilanciatore del carico MetalLB dedicato per ogni servizio Kubernetes, anziché uno per l'intero cluster. In questo modo il traffico viene distribuito tra i nodi del bilanciatore del carico se sono presenti più servizi.
I bilanciatori del carico del piano dati possono essere eseguiti sui nodi del piano di controllo o su un sottoinsieme di nodi worker. Il raggruppamento dei bilanciatori del carico del piano dati sui nodi del piano di controllo aumenta l'utilizzo dei nodi del piano di controllo. Tuttavia, il raggruppamento sui nodi del piano di controllo aumenta anche il rischio di sovraccarico del piano di controllo e il profilo di rischio delle informazioni riservate sul piano di controllo, ad esempio le chiavi SSH.
Conservazione dell'indirizzo IP di origine client
Il servizio LoadBalancer
creato con la soluzione di bilanciamento del carico di livello 2 in bundle utilizza l'impostazione Cluster
predefinita per il criterio del traffico esterno.
Questa impostazione, spec.externalTrafficPolicy: Cluster
, instrada il traffico esterno agli endpoint a livello di cluster, ma oscura anche l'indirizzo IP di origine del client.
Le seguenti sezioni descrivono come configurare il cluster per conservare l'indirizzo IP di origine client.
NodePort
servizi
Kubernetes si occupa Network Address Translation di origine (NAT) per i servizi NodePort
. Per conservare gli indirizzi IP di origine client, imposta service.spec.externalTrafficPolicy
su Local
. Kubernetes non eseguirà più le istanze NAT di origine, ma devi assicurarti che ci siano pod in esecuzione esattamente sull'IP del nodo selezionato.
LoadBalancer
servizi
Quando utilizzi externalTrafficPolicy: Local
nei servizi LoadBalancer
, imposta i pod dell'applicazione in modo che vengano eseguiti esattamente sui nodi del bilanciatore del carico. Per apportare questa modifica, aggiungi il seguente nodeSelector
ai pod dell'applicazione:
apiVersion: v1
kind: Pod
...
spec:
nodeSelector:
baremetal.cluster.gke.io/lbnode: "true"
...
In entrata
Se le tue applicazioni sono servizi HTTP, puoi ottenere la visibilità dell'IP client configurando i componenti in entrata:
Apri il servizio
istio-ingress
per la modifica:kubectl edit service -n gke-system istio-ingress
Aggiungi
externalTrafficPolicy: Local
aspec
, salva e esci dall'editor.apiVersion: v1 kind: Service ... spec: ... externalTrafficPolicy: Local
Apri il deployment
istio-ingress
per la modifica:kubectl edit deployment -n gke-system istio-ingress
Aggiungi il seguente
nodeSelector
al deployment, salva ed esci dall'editor.apiVersion: apps/v1 kind: Deployment ... spec: ... template: ... spec: ... nodeSelector: baremetal.cluster.gke.io/lbnode: "true" ...
Ora tutti i servizi che utilizzano Ingress vedono un'intestazione X-Forwarded-For
con l'IP client, come nell'esempio seguente:
X-Forwarded-For: 21.0.104.4