Configurare il supporto di più reti per i pod


Questa pagina mostra come abilitare più interfacce su nodi e pod in un cluster Google Kubernetes Engine (GKE) utilizzando il supporto di più reti per i pod.

Prima di leggere questa pagina, assicurati di acquisire familiarità con le nozioni di base concetti di networking, terminologia e concetti specifiche di questa funzionalità, oltre a requisiti e limitazioni per su più reti per i pod.

Per ulteriori informazioni, consulta Informazioni sul supporto di più reti per i pod.

Requisiti e limitazioni

Il supporto di più reti per i pod prevede i requisiti e le limitazioni seguenti:

Requisiti

  • GKE versione Standard 1.28 o successive.
  • GKE Autopilot versione 1.29.5-gke.1091000 e successive o versione 1.30.1-gke.1280000 e successive.
  • Il supporto di più reti per i pod utilizza lo stesso Specifiche a livello di VM come multi-NIC per Compute Engine.
  • Il supporto di più reti per i pod richiede GKE Dataplane V2.
  • Il supporto di più reti per i pod è disponibile solo per i nodi OS ottimizzati per i container che eseguono la versione m101 o successive.

Limitazioni generali

  • Il supporto di più reti per i pod non funziona per i cluster abilitati per il networking a doppio stack.
  • Il VPC condiviso è supportato solo su GKE versione 1.28 o successive.
  • CIDR multi-pod è supportato solo su GKE versione 1.29 o successive e solo per predefinita della rete di pod.
  • Le reti dei pod in un singolo cluster GKE non possono avere intervalli CIDR sovrapposti.
  • Quando attivi il supporto di più reti per i pod, non puoi aggiungere o rimuovere interfacce di rete dei nodi o reti dei pod dopo aver creato un pool di nodi. Per modificare queste impostazioni, devi ricreare il pool di nodi.
  • Per impostazione predefinita, l'accesso a internet non è disponibile sulle interfacce aggiuntive delle reti di pod all'interno del pod. Tuttavia, puoi attivarlo manualmente utilizzando Cloud NAT.
  • Non puoi modificare il gateway predefinito all'interno di un pod con più interfacce tramite l'API. Il gateway predefinito deve essere collegato alla rete del pod predefinita.
  • La rete pod predefinita deve sempre essere inclusa nei pod, anche se crei altre reti pod o interfacce.
  • Non puoi configurare la funzionalità di più reti se Managed Hubble è stato configurato.
  • Per utilizzare un VPC condiviso, assicurati che il cluster GKE sia con la versione 1.28.4 o successiva.
  • Per i deployment VPC condiviso, tutte le interfacce di rete (NIC) collegate ai nodi devono appartenere allo stesso progetto del progetto host.
  • Il nome degli oggetti di rete digitati dal dispositivo non può superare i 41 caratteri. Il percorso completo di ciascun socket di dominio UNIX, incluso il nome di rete corrispondente. Linux prevede un limite sulla lunghezza dei percorsi socket (inferiori a 107 byte). Dopo aver tenuto conto della directory, del prefisso del nome file e dell'estensione .sock, il nome della rete è limitato a un massimo di 41 caratteri.

Limitazioni relative a DPDK (Device and Data Plane Development Kit)

  • Una NIC VM passata a un pod come NIC di tipo Device non è disponibile per altri pod sullo stesso nodo.
  • I pod che utilizzano la modalità DPDK devono essere eseguiti in modalità con privilegi per accedere a VFIO dispositivi mobili.
  • La modalità Autopilot non supporta DPDK.
  • In modalità DPDK, un dispositivo viene trattato come risorsa del nodo ed è collegato solo al primo contenitore (non iniziale) del pod. Se vuoi suddividere più dispositivi DPDK tra i container nello stesso pod, devi eseguire questi container in pod separati.

Limitazioni di scalabilità

GKE offre un'architettura di rete flessibile scalare il tuo cluster. Puoi aggiungere altre reti di nodi e reti di pod al tuo cluster. Puoi scalare il tuo cluster nel seguente modo:

  • Puoi aggiungere fino a sette reti di nodi aggiuntive a ogni pool di nodi GKE. Si tratta dello stesso limite di scalabilità per le VM di Compute Engine.
  • A ogni pod devono essere collegate meno di 7 reti aggiuntive.
  • Puoi configurare fino a 35 reti di pod sulle 8 reti di nodi all'interno di un un pool di nodi singolo. Puoi suddividerlo in diverse combinazioni, ad esempio:
    • 7 reti di nodi con 5 reti di pod ciascuna
    • 5 reti di nodi con 7 reti di pod ciascuna
    • 1 rete di nodi con 30 reti di pod. Il limite per gli intervalli secondari per subnet è 30.
  • Puoi configurare fino a 50 reti di pod per cluster.
  • Puoi configurare un massimo di 32 pod multi-network per nodo.
  • Puoi avere fino a 5000 nodi con più interfacce.
  • Puoi avere fino a 100.000 interfacce aggiuntive in tutti i pod.

Esegui il deployment di pod multi-network

Per eseguire il deployment di pod multi-rete:

  1. Prepara un VPC aggiuntivo, una subnet (node-network) e intervalli secondari (Pod-network).
  2. Crea un cluster GKE abilitato per più reti con il comando Google Cloud CLI.
  3. Crea un nuovo pool di nodi GKE collegato alla rete di nodi e alla rete di pod aggiuntive utilizzando il comando Google Cloud CLI.
  4. Crea una rete di pod e fai riferimento alla gli intervalli VPC, subnet e secondari corretti in più reti utilizzando l'API Kubernetes.
  5. Nella configurazione del carico di lavoro, fai riferimento alla rete preparata per Kubernetes utilizzando l'API Kubernetes.

Prima di iniziare

Prima di iniziare, assicurati di aver eseguito le seguenti attività:

  • Attiva l'API Google Kubernetes Engine.
  • Attiva l'API Google Kubernetes Engine
  • Se vuoi utilizzare Google Cloud CLI per questa attività, installa e poi inizializza gcloud CLI. Se hai già installato gcloud CLI, ottieni la versione più recente eseguendo gcloud components update.

Prepara un'altra VPC

Google Cloud crea una rete di pod predefinita durante la creazione del cluster associata con il pool di nodi GKE utilizzato durante la creazione iniziale cluster GKE. La rete di pod predefinita è disponibile su tutti i nodi e i pod del cluster. Per facilitare le funzionalità multi-rete all'interno del pool di nodi, devi preparare VPC esistenti o nuovi che supportano reti di tipo Layer 3 e Device.

Per preparare un'altra VPC, tieni conto dei seguenti requisiti:

  • Tipo di rete Layer 3 e Netdevice:

    • Crea un intervallo secondario se utilizzi reti di tipo Layer 3.
    • Assicurati che le dimensioni del CIDR per l'intervallo secondario siano sufficientemente grandi da di nodi nel pool di nodi e il numero di pod per che vuoi avere.
    • Analogamente alla rete pod predefinita, le altre reti pod utilizzano il provisioning eccessivo degli indirizzi IP. L'intervallo di indirizzi IP secondario deve avere il doppio degli indirizzi IP per nodo rispetto al numero di pod per nodo.
  • Requisiti di rete di tipo Device: crea una subnet normale in una VPC. Non è necessaria una subnet secondaria.

Per abilitare le funzionalità di più reti nel pool di nodi, devi preparare VPC a cui vuoi stabilire connessioni aggiuntive. Puoi utilizzare un VPC esistente o crearne uno nuovo appositamente per il pool di nodi.

Crea una rete VPC che supporti il dispositivo di tipo Layer 3

Per creare una rete VPC che supporti il dispositivo di tipo Layer 3, segui questi passaggi:

  • Assicurati che le dimensioni del CIDR per l'intervallo secondario siano sufficientemente grandi da soddisfare il numero di nodi nel pool di nodi e il numero di pod per nodo che vuoi avere.
  • Analogamente alla rete di pod predefinita, le altre reti di pod utilizzano l'indirizzo IP l'overprovisioning. L'intervallo di indirizzi IP secondari deve contenere il doppio degli IP indirizzi IP per nodo come numero di pod per nodo.

gcloud

gcloud compute networks subnets create SUBNET_NAME \
    --project=PROJECT_ID \
    --range=SUBNET_RANGE \
    --network=NETWORK_NAME \
    --region=REGION \
    --secondary-range=SECONDARY_RANGE_NAME=<SECONDARY_RANGE_RANGE>

Sostituisci quanto segue:

  • SUBNET_NAME: il nome della subnet.
  • PROJECT_ID: l'ID del progetto che contiene la rete VPC in cui viene creata la subnet.
  • SUBNET_RANGE: l'intervallo di indirizzi IPv4 primario per la nuova subnet, in notazione CIDR.
  • NETWORK_NAME: il nome della rete VPC che contiene la nuova subnet.
  • REGION: la regione Google Cloud in cui viene creata la nuova subnet.
  • SECONDARY_RANGE_NAME: il nome del intervallo secondario.
  • SECONDARY_IP_RANGE l'IPv4 secondario di indirizzi IP in notazione CIDR.

Console

  1. Nella console Google Cloud, vai alla pagina Reti VPC.

  2. Fai clic su Crea rete VPC.

  3. Nel campo Nome, inserisci il nome della rete. Ad esempio, l3-vpc.

  4. Dal menu a discesa Unità massima di trasmissione (MTU), scegli il valore di MTU appropriato.

  5. Nella sezione Modalità creazione subnet, scegli Personalizzata.

  6. Fai clic su AGGIUNGI SUBNET.

  7. Nella sezione Nuova subnet, specifica la seguente configurazione per una subnet:

    1. Fornisci un nome. Ad esempio, l3-subnet.

    2. Seleziona una Regione.

    3. Inserisci un intervallo di indirizzi IP. Questo è l'indirizzo IPv4 principale per la subnet.

      Se selezioni un intervallo che non è un indirizzo RFC 1918, verifica che l'intervallo non entri in conflitto con una configurazione esistente. Per maggiori informazioni per informazioni, consulta Subnet IPv4 più intervalli.

    4. Per definire un intervallo secondario per la subnet, fai clic su Crea IP secondario di indirizzi IP esterni.

      Se selezioni un intervallo che non è un indirizzo RFC 1918, verifica che l'intervallo non entri in conflitto con una configurazione esistente. Per maggiori informazioni per informazioni, consulta Subnet IPv4 più intervalli.

    5. Accesso privato Google: puoi attivare l'accesso privato Google per la subnet quando la crei o in un secondo momento modificandola.

    6. Log di flusso: puoi attivare i log di flusso VPC per la subnet quando la crei o in un secondo momento modificandola.

    7. Fai clic su Fine.

  8. Nella sezione Regole firewall, in Regole firewall IPv4, seleziona zero o più regole firewall predefinite.

    Le regole riguardano casi d'uso comuni per la connettività alle istanze. Puoi creare le tue regole firewall dopo aver creato la rete. Ogni nome di regola predefinito inizia con il nome della rete VPC che stai creando.

  9. In Regole firewall IPv4, per modificare il firewall in entrata predefinito regola denominata allow-custom, fai clic su MODIFICA.

    Puoi modificare le subnet, aggiungere ulteriori intervalli IPv4 e specificare i protocolli e le porte.

    La regola firewall allow-custom non viene aggiornata automaticamente se aggiungi da altre subnet in un secondo momento. Se hai bisogno di regole firewall per le nuove sottoreti, per aggiungerle devi aggiornare la configurazione del firewall.

  10. Nella sezione Modalità di routing dinamico, per la rete VPC. Per ulteriori informazioni, consulta la modalità di routing dinamico. Puoi modificare le routing dinamico in un secondo momento.

  11. Fai clic su Crea.

Crea una rete VPC che supporti i dispositivi di tipo Netdevice o DPDK

gcloud

gcloud compute networks subnets create SUBNET_NAME \
    --project=PROJECT_ID \
    --range=SUBNET_RANGE \
    --network=NETWORK_NAME \
    --region=REGION \
    --secondary-range=SECONDARY_RANGE_NAME=<SECONDARY_RANGE_RANGE>

Sostituisci quanto segue:

  • SUBNET_NAME: il nome della subnet.
  • PROJECT_ID: l'ID del progetto che contiene la rete VPC in cui viene creata la subnet.
  • SUBNET_RANGE: l'intervallo di indirizzi IPv4 primario per la nuova subnet, in notazione CIDR.
  • NETWORK_NAME: il nome della rete VPC che contiene la nuova subnet.
  • REGION: la regione Google Cloud in cui viene creata la nuova subnet.
  • SECONDARY_RANGE_NAME: il nome del intervallo secondario.
  • SECONDARY_IP_RANGE l'IPv4 secondario di indirizzi IP in notazione CIDR.

Console

  1. Nella console Google Cloud, vai alla pagina Reti VPC.

  2. Fai clic su Crea rete VPC.

  3. Nel campo Nome, inserisci il nome della rete. Ad esempio, netdevice-vpc o dpdk-vpc.

  4. Nel menu a discesa Unità massima di trasmissione (MTU), scegli il valore MTU appropriato.

  5. Nella sezione Modalità di creazione subnet, scegli Personalizzata.

  6. Nella sezione Nuova subnet, specifica i seguenti parametri di configurazione per una subnet:

    1. Specifica un nome. Ad esempio, netdevice-subnet o dpdk-vpc.

    2. Seleziona una Regione.

    3. Inserisci un intervallo di indirizzi IP. Si tratta dell'intervallo IPv4 primario per la subnet.

      Se selezioni un intervallo che non è un indirizzo RFC 1918, verifica che l'intervallo non sia in conflitto con una configurazione esistente. Per maggiori informazioni, consulta Intervalli di subnet IPv4.

    4. Accesso privato Google: scegli se abilitarlo Accesso privato Google per quando la crei o in un secondo momento modificandola.

    5. Log di flusso: puoi abilitare flusso VPC log per la subnet quando la crei in un secondo momento modificandolo.

    6. Fai clic su Fine.

  7. Nella sezione Regole firewall, in Regole firewall IPv4, seleziona zero o più regole firewall predefinite.

    Le regole risolvono i casi d'uso comuni per la connettività alle istanze. Puoi creare le tue regole firewall dopo aver creato la rete. Ogni nome di regola predefinita inizia con il nome di alla rete VPC che stai creando.

  8. In Regole firewall IPv4, per modificare il firewall in entrata predefinito regola denominata allow-custom, fai clic su MODIFICA.

    Puoi modificare le subnet, aggiungere ulteriori intervalli IPv4 e specificare i protocolli e le porte.

    La regola firewall allow-custom non viene aggiornata automaticamente se aggiungi da altre subnet in un secondo momento. Se hai bisogno di regole firewall per le nuove sottoreti, per aggiungerle devi aggiornare la configurazione del firewall.

  9. Nella sezione Modalità di routing dinamico, per la rete VPC. Per ulteriori informazioni, vedi Routing dinamico . Puoi modificare le routing dinamico in un secondo momento.

  10. Fai clic su Crea.

Crea un cluster GKE con funzionalità multi-rete

L'abilitazione del networking multiplo per un cluster aggiunge il necessario CustomResourceDefinitions (CRD) al server API per quel cluster. Inoltre, viene eseguito il deployment di un network-controller-manager, che è responsabile della riconciliazione e della gestione degli oggetti multi-network. Non puoi modificare la configurazione del cluster dopo averlo creato.

Crea un cluster GKE Autopilot con funzionalità multi-rete

Crea un cluster GKE Autopilot con funzionalità multi-rete:

gcloud container clusters create-auto CLUSTER_NAME \
    --cluster-version=CLUSTER_VERSION \
    --enable-multi-networking

Sostituisci quanto segue:

  • CLUSTER_NAME: il nome del cluster.
  • CLUSTER_VERSION: la versione del cluster.

Il flag --enable-multi-networking abilita le definizioni di risorse personalizzate (CRD) per più reti nell'API server per questo cluster e esegue il deployment di un gestore di controller di rete che contiene la riconciliazione e la gestione del ciclo di vita per gli oggetti multi-network.

Creare un cluster GKE Standard con funzionalità multi-rete

gcloud

Crea un cluster GKE Standard con funzionalità di più reti:

gcloud container clusters create CLUSTER_NAME \
    --cluster-version=CLUSTER_VERSION \
    --enable-dataplane-v2 \
    --enable-ip-alias \
    --enable-multi-networking

Sostituisci quanto segue:

  • CLUSTER_NAME: il nome del cluster.
  • CLUSTER_VERSION: la versione del cluster.

Questo comando include i seguenti flag:

  • --enable-multi-networking: abilita il networking multiplo della risorsa personalizzata le definizioni (CRD) nel server API per questo cluster ed esegue il deployment network-controller-manager, che contiene la riconciliazione e il ciclo di vita per gli oggetti multi-rete.
  • --enable-dataplane-v2: abilita GKE Dataplane V2. Questo flag è obbligatorio per abilitare più reti.

Console

  1. Vai alla pagina Google Kubernetes Engine nella console Google Cloud.

    Vai a Google Kubernetes Engine

  2. Fai clic su Crea.

  3. Configura il cluster standard. Per ulteriori informazioni, consulta la sezione Creare a livello di zona cluster o Crea una regione cluster. Durante la creazione del cluster, seleziona la subnet di rete e quella del nodo appropriata.

  4. Nel riquadro di navigazione, in Cluster, fai clic su Networking.

  5. Seleziona la casella di controllo Attiva Dataplane V2.

  6. Seleziona Attiva più reti.

  7. Fai clic su Crea.

Crea un pool di nodi GKE Standard connesso a VPC aggiuntivi

Crea un pool di nodi che includa i nodi connessi alla rete di nodi (VPC e subnet) e alla rete di pod (intervallo secondario) creata in Creare una rete di pod.

Creare il nuovo pool di nodi e associarlo alle reti aggiuntive in il cluster GKE:

gcloud

gcloud container node-pools create POOL_NAME \
  --cluster=CLUSTER_NAME \
  --additional-node-network network=NETWORK_NAME,subnetwork=SUBNET_NAME \
  --additional-pod-network subnetwork=subnet-dp,pod-ipv4-range=POD_IP_RANGE,max-pods-per-node=NUMBER_OF_PODS \
  --additional-node-network network=highperformance,subnetwork=subnet-highperf

Sostituisci quanto segue:

  • POOL_NAME con il nome del nuovo pool di nodi.
  • CLUSTER_NAME con il nome del cluster esistente a cui aggiungi il pool di nodi.
  • NETWORK_NAME con il nome della rete a cui collegare i nodi del pool di nodi.
  • SUBNET_NAME con il nome della subnet all'interno della da utilizzare per i nodi.
  • POD_IP_RANGE l'intervallo di indirizzi IP del pod all'interno della subnet.
  • NUMBER_OF_PODS numero massimo di pod per nodo.

Questo comando contiene i seguenti flag:

  • --additional-node-network: definisce i dettagli della rete aggiuntiva a riga di comando, rete e subnet. Viene utilizzato per specificare le reti di nodi per la connessione ai nodi del pool di nodi. Specifica questo parametro quando vuoi connetterti a un'altra VPC. Se non specifichi questo parametro, viene utilizzata la VPC predefinita associata al cluster. Per le reti di tipo Layer 3, specifica Flag additional-pod-network che definisce la rete di pod esposta all'interno del cluster GKE come oggetto Network. Quando si utilizza il flag --additional-node-network, devi fornire una rete e come parametri obbligatori. Assicurati di separare i valori della rete e della sottorete con una virgola ed evita di utilizzare spazi.
  • --additional-pod-network: specifica i dettagli dell'intervallo secondario da utilizzare per la rete del pod. Questo parametro non è obbligatorio se utilizzi una rete di tipo Device. Questo argomento specifica i seguenti valori chiave: subnetwork, pod-ipv4-range e max-pods-per-node. Quando utilizzi il --additional-pod-network, devi fornire i pod-ipv4-range e max-pods-per-node valori, separati da virgole e senza spazi.
    • subnetwork: collega la rete del nodo alla rete del pod. La subnet è facoltativo. Se non lo specifichi, la rete di pod aggiuntiva associati alla subnet predefinita fornita durante la creazione del cluster.
    • --max-pods-per-node: il campo max-pods-per-node deve essere specificato e ha con una potenza di 2. Il valore minimo è 4. L'max-pods-per-node deve non sia superiore al valore max-pods-per-node nel pool di nodi.

Console

  1. Vai alla pagina Google Kubernetes Engine nella console Google Cloud.

    Vai a Google Kubernetes Engine

  2. Nel riquadro di navigazione, fai clic su Cluster.

  3. Nella sezione Cluster Kubernetes, fai clic sul cluster che hai creato.

  4. Nella parte superiore della pagina, per creare il tuo pool di nodi, fai clic su Aggiungi pool di nodi.

  5. Nella sezione Dettagli del pool di nodi, completa quanto segue:

    1. Inserisci un nome per il pool di nodi.
    2. Inserisci il numero di nodi da creare nel pool di nodi.
  6. Nel riquadro di navigazione, in Pool di nodi, fai clic su Nodi.

    1. Nell'elenco a discesa Tipo di immagine, seleziona la Container-Optimized OS con immagine del nodo containerd (cos_containerd).

  7. Quando crei una VM, selezioni un tipo di macchina da una famiglia di macchine che determina le risorse disponibili per quella VM. Ad esempio, un tipo di macchina come e2-standard-4 contiene 4 vCPU, pertanto può supportare fino a 4 VPC totali. Puoi scegliere tra diverse famiglie di macchine, ciascuna è ulteriormente organizzata in serie di macchine, mentre tipi di macchine personalizzate all'interno di ogni serie. Ogni tipo di macchina viene fatturato in modo diverso. Per ulteriori informazioni, consulta il listino prezzi dei tipi di macchine.

  8. Nel riquadro di navigazione, seleziona Networking.

  9. Nella sezione Node Networking (Rete del nodo), specifica il numero massimo di pod per nodo. La sezione Reti di nodi mostra la rete VPC utilizzata per creare in un cluster Kubernetes. È necessario designare reti di nodi aggiuntive correlate alle reti VPC e ai tipi di dispositivi stabiliti in precedenza.

  10. Crea associazione del pool di nodi:

    1. Per il dispositivo di tipo Layer 3:
      1. Nella sezione Node Networks (Reti di nodi), fai clic su ADD A NODE NETWORK (AGGIUNGI UNA RETE DI NODI).
      2. Nell'elenco a discesa della rete, seleziona la VPC che supporta i dispositivi di tipo Layer 3.
      3. Seleziona la subnet creata per la VPC Layer 3.
      4. Nella sezione Intervalli di indirizzi IP del pod alias, fai clic su Aggiungi intervallo di indirizzi IP del pod.
      5. Seleziona la Subnet secondaria e indica il Numero massimo di pod per nodo.
      6. Seleziona Done (Fine).
    2. Per i dispositivi di tipo Netdevice e DPDK:
      1. Nella sezione Reti di nodi, fai clic su AGGIUNGI UNA RETE DI NODI.
      2. Dall'elenco a discesa di rete, seleziona il VPC che supporta i dispositivi di tipo Netdevice o DPDK.
      3. Seleziona la subnet creata per il VPC Netdevice o DPDK.
      4. Seleziona Fine.
  11. Fai clic su Crea.

Note:

  • Se vengono specificate più reti pod aggiuntive all'interno della stessa rete di nodi, devono trovarsi nella stessa subnet.
  • Non puoi fare riferimento allo stesso intervallo secondario di una subnet più volte.

Esempio L'esempio seguente crea un pool di nodi denominato pool-multi-net che collega due reti aggiuntive ai nodi, Datapalane (rete di tipo Layer 3) e ad alte prestazioni (rete di tipo netdevice). Questo esempio presuppone che tu abbia già creato un cluster GKE denominato cluster-1:

gcloud container node-pools create pool-multi-net \
  --project my-project \
  --cluster cluster-1 \
  --zone us-central1-c \
  --additional-node-network network=dataplane,subnetwork=subnet-dp \
  --additional-pod-network subnetwork=subnet-dp,pod-ipv4-range=sec-range-blue,max-pods-per-node=8 \
  --additional-node-network network=highperformance,subnetwork=subnet-highperf

Per specificare interfacce di rete node-network e pod-network aggiuntive, definisci i parametri --additional-node-network e --additional-pod-network più volte come mostrato nell'esempio seguente:

--additional-node-network network=dataplane,subnetwork=subnet-dp \
--additional-pod-network subnetwork=subnet-dp,pod-ipv4-range=sec-range-blue,max-pods-per-node=8 \
--additional-pod-network subnetwork=subnet-dp,pod-ipv4-range=sec-range-green,max-pods-per-node=8 \
--additional-node-network network=managementdataplane,subnetwork=subnet-mp \
--additional-pod-network subnetwork=subnet-mp,pod-ipv4-range=sec-range-red,max-pods-per-node=4

Per specificare reti pod aggiuntive direttamente sull'interfaccia VPC principale del pool di nodi, come mostrato nell'esempio seguente:

--additional-pod-network subnetwork=subnet-def,pod-ipv4-range=sec-range-multinet,max-pods-per-node=8

Crea rete di pod

Definisci le reti di pod a cui accederanno i pod definendo gli oggetti Kubernetes e collegandoli alle risorse Compute Engine corrispondenti, come VPC, subnet e intervalli secondari.

Per creare una rete di pod, devi definire gli oggetti CRD di rete nel cluster.

Configura la rete VPC Layer 3

YAML

Per il VPC Layer 3, crea Network e GKENetworkParamSet oggetti:

  1. Salva il seguente manifest di esempio come blue-network.yaml:

    apiVersion: networking.gke.io/v1
    kind: Network
    metadata:
      name: blue-network
    spec:
      type: "L3"
      parametersRef:
        group: networking.gke.io
        kind: GKENetworkParamSet
        name: "l3-vpc"
    

    Il file manifest definisce una risorsa Network denominata blue-network di tipo Layer 3. L'oggetto Network fa riferimento all'oggetto GKENetworkParamSet chiamato l3-vpc, che associa una rete alle risorse Compute Engine.

  2. Applica il manifest al cluster:

    kubectl apply -f blue-network.yaml
    
  3. Salva il seguente manifest come dataplane.yaml:

    apiVersion: networking.gke.io/v1
    kind: GKENetworkParamSet
    metadata:
      name: "l3-vpc"
    spec:
      vpc: "l3-vpc"
      vpcSubnet: "subnet-dp"
      podIPv4Ranges:
        rangeNames:
        - "sec-range-blue"
    

    Questo manifest definisce l'oggetto GKENetworkParamSet denominato dataplane, imposta il nome della VPC su dataplane, il nome della subnet su subnet-dp e l'intervallo di indirizzi IPv4 secondario per i pod denominato sec-range-blue.

  4. Applica il manifest al cluster:

    kubectl apply -f dataplane.yaml
    

Console

  1. Vai alla pagina Google Kubernetes Engine nella console Google Cloud.

    Vai a Google Kubernetes Engine

  2. Nel riquadro di navigazione, fai clic su Network Function Optimizer.

  3. Nella parte superiore della pagina, fai clic su Crea per creare la rete del pod.

  4. Nella sezione Prima di iniziare, verifica i dettagli.

  5. Fai clic su SUCCESSIVO: LOCALITÀ DELLA RETE DEL POD.

  6. Nella sezione Località della rete di pod, dall'elenco a discesa Cluster, seleziona il cluster GKE con networking multiplo GKE Dataplane V2 abilitato.

  7. Fai clic su SUCCESSIVO: RIFERIMENTO DELLA RETE VPC.

  8. Nella sezione Riferimento rete VPC, dal Riferimento rete VPC seleziona la rete VPC utilizzata per Layer 3 pod con più NIC.

  9. Fai clic su SUCCESSIVO: TIPO DI RETE POD.

  10. Nella sezione Tipo di rete pod, seleziona L3 e inserisci il pod nome della rete.

  11. Fai clic su SUCCESSIVO: INTERVALLO SECONDARIO DELLA RETE DEL POD.

  12. Nella sezione Intervallo secondario della rete di pod, inserisci l'intervallo secondario.

  13. Fai clic su SUCCESSIVO: ROUTE DI RETE POD.

  14. Nella sezione Route della rete di pod, per definire le route personalizzate, seleziona AGGIUNGI ROUTE.

  15. Fai clic su CREA RETE POD.

Configura la rete DPDK

YAML

Per il VPC DPDK, crea gli oggetti Network e GKENetworkParamSet.

  1. Salva il seguente manifest di esempio come dpdk-network.yaml:

    apiVersion: networking.gke.io/v1
    kind: Network
    metadata:
      name: dpdk-network
    spec:
      type: "Device"
      parametersRef:
        group: networking.gke.io
        kind: GKENetworkParamSet
        name: "dpdk"
    

    Questo manifest definisce una risorsa Network denominata dpdk-network con un tipo Device. La risorsa Network fa riferimento a un oggetto GKENetworkParamSet chiamato dpdk per la relativa configurazione.

  2. Applica il manifest al cluster:

    kubectl apply -f dpdk-network.yaml
    
  3. Per l'oggetto GKENetworkParamSet, salva il seguente manifest come dpdk.yaml:

    apiVersion: networking.gke.io/v1
    kind: GKENetworkParamSet
    metadata:
      name: "dpdk"
    spec:
      vpc: "dpdk"
      vpcSubnet: "subnet-dpdk"
      deviceMode: "DPDK-VFIO"
    

    Questo manifest definisce l'oggetto GKENetworkParamSet denominato dpdk, imposta il nome della VPC su dpdk, il nome della subnet su subnet-dpdk e il nome di deviceMode su DPDK-VFIO.

  4. Applica il manifest al cluster:

    kubectl apply -f dpdk-network.yaml
    

Console

  1. Vai alla pagina Google Kubernetes Engine nella console Google Cloud.

    Vai a Google Kubernetes Engine

  2. Dal riquadro di navigazione, fai clic su Network Function Optimizer (Ottimizzatore delle funzioni di rete).

  3. Nella parte superiore della pagina, fai clic su Crea per creare la rete del pod.

  4. Nella sezione Prima di iniziare, verifica i dettagli.

  5. Fai clic su SUCCESSIVO: LOCALITÀ DELLA RETE DEL POD.

  6. Nella sezione Località della rete di pod, dall'elenco a discesa Cluster, seleziona il cluster GKE con networking multiplo GKE Dataplane V2 abilitato.

  7. Fai clic su SUCCESSIVO: RIFERIMENTO DELLA RETE VPC.

  8. Nella sezione Riferimento rete VPC, dal Riferimento rete VPC seleziona la rete VPC utilizzata per i pod dpdk multinic.

  9. Fai clic su SUCCESSIVO: TIPO DI RETE POD.

  10. Nella sezione Tipo di rete di pod, seleziona DPDK-VFIO (dispositivo) e inserisci il Nome della rete di pod.

  11. Fai clic su SUCCESSIVO: INTERVALLO SECONDARIO DELLA RETE DEL POD. La sezione Intervallo secondario della rete di pod non sarà disponibile

  12. Fai clic su SUCCESSIVO: ROUTE DELLA RETE DI POD. Nella sezione Route di rete del pod, seleziona AGGIUNGI ROUTE per definire route personalizzate

  13. Fai clic su CREA RETE POD.

Configura rete netdevice

Per il VPC netdevice, crea Network e GKENetworkParamSet di oggetti strutturati.

YAML

  1. Salva il seguente manifest di esempio come netdevice-network.yaml:

    apiVersion: networking.gke.io/v1
    kind: Network
    metadata:
        name: netdevice-network
    spec:
        type: "Device"
        parametersRef:
          group: networking.gke.io
          kind: GKENetworkParamSet
          name: "netdevice"
    

    Questo manifest definisce una risorsa Network denominata netdevice-network con un tipo Device. Fa riferimento all'oggetto GKENetworkParamSet denominato netdevice.

  2. Applica il manifest al cluster:

    kubectl apply -f netdevice-network.yaml
    
  3. Salva il seguente manifest come netdevice.yaml :

    apiVersion: networking.gke.io/v1
    kind: GKENetworkParamSet
    metadata:
      name: netdevice
    spec:
      vpc: netdevice
      vpcSubnet: subnet-netdevice
      deviceMode: NetDevice
    

    Questo manifest definisce una risorsa GKENetworkParamSet denominata netdevice, imposta il nome VPC come netdevice, il nome della subnet come subnet-netdevice, e specifica la modalità del dispositivo come NetDevice.

  4. Applica il manifest al cluster:

    kubectl apply -f netdevice.yaml
    

Console

  1. Vai alla pagina Google Kubernetes Engine nella console Google Cloud.

    Vai a Google Kubernetes Engine

  2. Dal riquadro di navigazione, fai clic su Network Function Optimizer (Ottimizzatore delle funzioni di rete).

  3. Nella parte superiore della pagina, fai clic su Crea per creare la rete del pod.

  4. Nella sezione Prima di iniziare, verifica i dettagli.

  5. Fai clic su SUCCESSIVO: LOCALITÀ DELLA RETE DEL POD.

  6. Nella sezione Località della rete di pod, dall'elenco a discesa Cluster, seleziona il cluster GKE con networking multiplo GKE Dataplane V2 abilitato.

  7. Fai clic su SUCCESSIVO: RIFERIMENTO RETE VPC.

  8. Nella sezione Riferimento rete VPC, dal Riferimento rete VPC seleziona la rete VPC utilizzata per i pod netdevice multinic.

  9. Fai clic su SUCCESSIVO: TIPO DI RETE POD.

  10. Nella sezione Tipo di rete del pod, seleziona NetDevice (Dispositivo) e inserisci il nome della rete del pod.

  11. Fai clic su SUCCESSIVO: INTERVALLO SECONDARIO DELLA RETE POD. La sezione dell'intervallo secondario della rete di pod non sarà disponibile

  12. Fai clic su SUCCESSIVO: ROUTE DI RETE POD. Nella sezione Route di rete del pod, per definire route personalizzate, seleziona AGGIUNGI ROUTE.

  13. Fai clic su CREA RETE POD.

Configurazione dei percorsi di rete

La configurazione della route di rete ti consente di definire route personalizzate per una rete specifica, che vengono configurate sui pod per indirizzare il traffico all'interfaccia corrispondente all'interno del pod.

YAML

  1. Salva il seguente manifest come red-network.yaml:

    apiVersion: networking.gke.io/v1
    kind: Network
    metadata:
      name: red-network
    spec:
      type: "L3"
      parametersRef:
        group: networking.gke.io
        kind: GKENetworkParamSet
        name: "management"
      routes:
      -   to: "10.0.2.0/28"
    

    Questo manifest definisce una risorsa di rete denominata red-network con un tipo Layer 3 e route personalizzata "10.0.2.0/28" attraverso l'interfaccia di rete.

  2. Applica il manifest al cluster:

    kubectl apply -f red-network.yaml
    

Console

  1. Vai alla pagina Google Kubernetes Engine nella console Google Cloud.

    Vai a Google Kubernetes Engine

  2. Fai clic su Crea.

  3. Dal riquadro di navigazione, fai clic su Network Function Optimizer (Ottimizzatore delle funzioni di rete).

  4. Nella sezione Cluster Kubernetes, fai clic sul cluster che hai creato.

  5. Nella parte superiore della pagina, fai clic su Crea per creare la rete del pod.

  6. Nella sezione Route della rete di pod, definisci le route personalizzate.

  7. Fai clic su CREA RETE POD.

Fai riferimento al Network preparato

Nella configurazione del carico di lavoro, fai riferimento all'oggetto Kubernetes Network preparato utilizzando l'API Kubernetes.

Connettere il pod a reti specifiche

Per connettere i pod alle reti specificate, devi includere i nomi dei pod Network oggetti come annotazioni all'interno della configurazione del pod. Assicurati di includi sia default Network sia le reti aggiuntive selezionate nell' annotazioni per stabilire le connessioni.

  1. Salva il seguente manifest di esempio come sample-l3-pod.yaml:

    apiVersion: v1
    kind: Pod
    metadata:
      name: sample-l3-pod
      annotations:
        networking.gke.io/default-interface: 'eth0'
        networking.gke.io/interfaces: |
          [
            {"interfaceName":"eth0","network":"default"},
            {"interfaceName":"eth1","network":"blue-network"}
          ]
    spec:
      containers:
      - name: sample-l3-pod
        image: busybox
        command: ["sleep", "10m"]
        ports:
        - containerPort: 80
      restartPolicy: Always
    

    Questo manifest crea un pod denominato sample-l3-pod con due interfacce di rete, eth0 e eth1, associati a default e blue-network rispettivamente sulle reti.

  2. Applica il manifest al cluster:

    kubectl apply -f sample-l3-pod.yaml
    

Connetti il pod a più reti

  1. Salva il seguente manifest di esempio come sample-l3-netdevice-pod.yaml:

    apiVersion: v1
    kind: Pod
    metadata:
      name: sample-l3-netdevice-pod
      annotations:
        networking.gke.io/default-interface: 'eth0'
        networking.gke.io/interfaces: |
          [
            {"interfaceName":"eth0","network":"default"},
            {"interfaceName":"eth1","network":"blue-network"},
            {"interfaceName":"eth2","network":"netdevice-network"}
          ]
    spec:
      containers:
      - name: sample-l3-netdevice-pod
        image: busybox
        command: ["sleep", "10m"]
        ports:
        - containerPort: 80
      restartPolicy: Always
    

    Questo manifest crea un pod denominato sample-l3-netdevice-pod con tre reti interfacce, eth0, eth1 e eth2 associate a default, rispettivamente blue-network e netdevice.

  2. Applica il manifest al cluster:

    kubectl apply -f sample-l3-netdevice-pod.yaml
    

Puoi utilizzare la stessa annotazione in qualsiasi ReplicaSet (Deployment o DaemonSet) nella sezione di annotazione del modello.

Configurazione di esempio di un pod con più interfacce:

1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN group default qlen 1000
    link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
    inet 127.0.0.1/8 scope host lo
      valid_lft forever preferred_lft forever
2: eth0@if9: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1460 qdisc noqueue state UP group default
    link/ether 2a:92:4a:e5:da:35 brd ff:ff:ff:ff:ff:ff link-netnsid 0
    inet 10.60.45.4/24 brd 10.60.45.255 scope global eth0
      valid_lft forever preferred_lft forever
10: eth1@if11: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1460 qdisc noqueue state UP group default qlen 1000
    link/ether ba:f0:4d:eb:e8:02 brd ff:ff:ff:ff:ff:ff link-netnsid 0
    inet 172.16.1.2/32 scope global eth1
      valid_lft forever preferred_lft forever

Verifica

  • Assicurati di creare cluster con --enable-multi-networking solo se --enable-dataplane-v2 è abilitato.
  • Verifica che tutti i pool di nodi del cluster eseguano immagini del sistema operativo ottimizzate per i container al momento della creazione del cluster e del pool di nodi.
  • Verifica che i pool di nodi vengano creati con --additional-node-network o --additional-pod-network solo se il networking multiplo è abilitato sul cluster.
  • Assicurati che la stessa subnet non sia specificata due volte --additional-node-network a un pool di nodi.
  • Verifica che lo stesso intervallo secondario non sia specificato come argomento --additional-pod-network per un pool di nodi.
  • Rispetta i limiti di scalabilità specificati per gli oggetti di rete, tenendo conto del numero massimo di nodi, pod e indirizzi IP consentiti.
  • Verifica che sia presente un solo oggetto GKENetworkParamSet che fa riferimento a un una specifica subnet e un intervallo secondario.
  • Verifica che ogni oggetto di rete faccia riferimento a un diverso GKENetworkParamSet .
  • Verifica che l'oggetto rete, se creato con una subnet specifica con la rete Device, non sia utilizzato nello stesso nodo con un'altra rete con un intervallo secondario. Puoi convalidare questa impostazione solo in fase di runtime.
  • Verifica che i vari intervalli secondari assegnati ai pool di nodi non che hanno indirizzi IP sovrapposti.

Risolvi i problemi dei parametri di networking multiplo in GKE

Quando crei un cluster e un pool di nodi, Google Cloud implementa determinati controlli per garantire che siano consentiti solo parametri di multi-networking validi. Ciò garantisce che la rete sia configurata correttamente per il cluster.

Se non riesci a creare carichi di lavoro su più reti, puoi controllare lo stato del pod e eventi per ulteriori informazioni:

kubectl describe pods samplepod

L'output è simile al seguente:

Name:         samplepod
Namespace:    default
Status:       Running
IP:           192.168.6.130
IPs:
  IP:  192.168.6.130
...
Events:
  Type     Reason                  Age   From               Message
  ----     ------                  ----  ----               -------
  Normal   NotTriggerScaleUp  9s               cluster-autoscaler  pod didn't trigger scale-up:
  Warning  FailedScheduling   8s (x2 over 9s)  default-scheduler   0/1 nodes are available: 1 Insufficient networking.gke.io.networks/my-net.IP. preemption: 0/1 nodes are available: 1 No preemption victims found for incoming pod

Di seguito sono riportati i motivi generali dell'errore di creazione del pod:

  • Impossibile pianificare il pod a causa della mancata soddisfazione dei requisiti delle risorse di networking multiplo
  • Impossibile identificare le reti specificate

Risolvere i problemi di creazione delle reti Kubernetes

Dopo aver creato una rete, i nodi che devono avere accesso alla rete configurata vengono annotati con un'annotazione dello stato della rete.

Per osservare le annotazioni, esegui il seguente comando:

kubectl describe node NODE_NAME

Sostituisci NODE_NAME con il nome del nodo.

L'output è simile al seguente:

networking.gke.io/network-status: [{"name":"default"},{"name":"dp-network"}]

L'output elenca ogni rete disponibile sul nodo. Se il valore previsto non sia visibile sul nodo, procedi nel seguente modo:

Verifica se il nodo può accedere alla rete

Se la rete non viene visualizzata nell'annotazione dello stato della rete del nodo:

  1. Verifica che il nodo faccia parte di un pool configurato per il networking multiplo.
  2. Controlla le interfacce del nodo per verificare se ha un'interfaccia per la rete che stai configurando.
  3. Se un nodo non è nello stato di rete e ha una sola interfaccia di rete, deve comunque creare un pool di nodi con il networking multiplo abilitato.
  4. Se il tuo nodo contiene l'interfaccia per la rete che stai configurando, ma non è visibile nell'annotazione dello stato della rete, controlla le risorse Network e GKENetworkParamSet (GNP).

Consulta le risorse Network e GKENetworkParamSet

Lo stato delle risorse Network e GKENetworkParamSet (GNP) include un campo condizioni per segnalare gli errori di configurazione. Ti consigliamo di controllare il GNP perché non si basa su un'altra risorsa per essere valida.

Per esaminare il campo delle condizioni, esegui questo comando:

kubectl get gkenetworkparamsets GNP_NAME -o yaml

Sostituisci GNP_NAME con il nome della risorsaGKENetworkParamSet.

Quando la condizione Ready è uguale a true, la configurazione è valida e l'output è simile al seguente:

apiVersion: networking.gke.io/v1
kind: GKENetworkParamSet
...
spec:
  podIPv4Ranges:
    rangeNames:
    -   sec-range-blue
  vpc: dataplane
  vpcSubnet: subnet-dp
status:
  conditions:
  -   lastTransitionTime: "2023-06-26T17:38:04Z"
    message: ""
    reason: GNPReady
    status: "True"
    type: Ready
  networkName: dp-network
  podCIDRs:
    cidrBlocks:
    -   172.16.1.0/24

Quando la condizione Ready è uguale a false, l'output mostra il motivo ed è simile al seguente:

apiVersion: networking.gke.io/v1
kind: GKENetworkParamSet
...
spec:
  podIPv4Ranges:
    rangeNames:
    -   sec-range-blue
  vpc: dataplane
  vpcSubnet: subnet-nonexist
status:
  conditions:
  -   lastTransitionTime: "2023-06-26T17:37:57Z"
    message: 'subnet: subnet-nonexist not found in VPC: dataplane'
    reason: SubnetNotFound
    status: "False"
    type: Ready
  networkName: ""

Se viene visualizzato un messaggio simile, assicurati che GNP sia stato configurato correttamente. Se verifica che la configurazione della rete Google Cloud sia corretta. Dopo aver aggiornato la configurazione di rete di Google Cloud, potrebbe essere necessario ricreare la risorsa GNP per attivare manualmente una ricorsione. Questo serve a evitare un polling infinito dell'API Google Cloud.

Quando GNP è pronto, controlla la risorsa Network.

kubectl get networks NETWORK_NAME -o yaml

Sostituisci NETWORK_NAME con il nome della risorsa Network.

L'output di una configurazione valida è simile al seguente:

apiVersion: networking.gke.io/v1
kind: Network
...
spec:
  parametersRef:
    group: networking.gke.io
    kind: GKENetworkParamSet
    name: dp-gnp
  type: L3
status:
  conditions:
  -   lastTransitionTime: "2023-06-07T19:31:42Z"
    message: ""
    reason: GNPParamsReady
    status: "True"
    type: ParamsReady
  -   lastTransitionTime: "2023-06-07T19:31:51Z"
    message: ""
    reason: NetworkReady
    status: "True"
    type: Ready
  • reason: NetworkReady indica che la risorsa di rete è configurata correttamente. reason: NetworkReady non implica che la risorsa di rete sia necessariamente disponibile su un nodo specifico o sia in uso attivo.
  • In caso di errori di configurazione o di errori, il campo reason nella condizione specifica la causa esatta del problema. In questi casi, modifica la configurazione di conseguenza.
  • GKE compila il campo ParamsReady, se il parametro parameterRef è impostato su una risorsa GKENetworkParamSet esistente nel cluster. Se hai specificato un parametro di tipo GKENetworkParamSetParameter Ref e il parametro condizione non viene visualizzata, assicurati che nome, tipo e gruppo corrispondano a GNP esistente all'interno del cluster.

Passaggi successivi