Configurare il supporto di più reti per i pod


Questa pagina mostra come abilitare più interfacce su nodi e pod in un cluster Google Kubernetes Engine (GKE) utilizzando il supporto di più reti per i pod.

Prima di leggere questa pagina, assicurati di conoscere i concetti di rete generali, la terminologia e i concetti specifici di questa funzionalità e i requisiti e le limitazioni per il supporto di più reti per i pod.

Per ulteriori informazioni, consulta Informazioni sul supporto di più reti per i pod.

Requisiti e limitazioni

Il supporto di più reti per i pod presenta i seguenti requisiti e limitazioni:

Requisiti

  • GKE versione Standard 1.28 o successive.
  • GKE Autopilot versione 1.29.5-gke.1091000 e successive o versione 1.30.1-gke.1280000 e successive.
  • Il supporto di più reti per i pod utilizza le stesse specifiche a livello di VM del multi-NIC per Compute Engine.
  • Il supporto di più reti per i pod richiede GKE Dataplane V2.
  • Il supporto di più reti per i pod è disponibile solo per i nodi Container-Optimized OS che eseguono la versione m101 o successive.

Limitazioni generali

  • Il supporto di più reti per i pod non funziona per i cluster per i quali è attivata la networking dual-stack.
  • VPC condiviso è supportata solo nella versione 1.28 o successive di GKE.
  • CIDR multi-pod è supportato solo nella versione 1.29 o successive di GKE e solo per la rete del pod predefinita.
  • Le reti dei pod in un singolo cluster GKE non possono avere intervalli CIDR sovrapposti.
  • Quando attivi il supporto di più reti per i pod, non puoi aggiungere o rimuovere interfacce di rete dei nodi o reti dei pod dopo aver creato un pool di nodi. Per modificare queste impostazioni, devi ricreare il pool di nodi.
  • Per impostazione predefinita, l'accesso a internet non è disponibile sulle interfacce aggiuntive delle reti di pod all'interno del pod. Tuttavia, puoi attivarlo manualmente utilizzando Cloud NAT.
  • Non puoi modificare il gateway predefinito all'interno di un pod con più interfacce tramite l'API. Il gateway predefinito deve essere collegato alla rete del pod predefinita.
  • La rete pod predefinita deve sempre essere inclusa nei pod, anche se crei altre reti pod o interfacce.
  • Non puoi configurare la funzionalità di più reti se è stato configurato Hubble gestito.
  • Per utilizzare il VPC condiviso, assicurati che il cluster GKE sia in esecuzione con la versione 1.28.4 o successive.
  • Per i deployment VPC condiviso, tutte le interfacce di rete (NIC) collegate ai nodi devono appartenere allo stesso progetto del progetto host.
  • Il nome degli oggetti di rete digitati del dispositivo non può superare i 41 caratteri. Viene composto il percorso completo di ogni socket di dominio UNIX, incluso il nome di rete corrispondente. Linux ha una limitazione per la lunghezza dei percorsi della socket (inferiore a 107 byte). Dopo aver tenuto conto della directory, del prefisso del nome file e dell'estensione .sock, il nome della rete è limitato a un massimo di 41 caratteri.

Limitazioni del kit di sviluppo Device and Data Plane (DPDK)

  • Una NIC VM passata a un pod come NIC di tipo Device non è disponibile per altri pod sullo stesso nodo.
  • I pod che utilizzano la modalità DPDK devono essere eseguiti in modalità privilegiata per accedere ai dispositivi VFIO.
  • La modalità Autopilot non supporta DPDK.
  • In modalità DPDK, un dispositivo viene trattato come risorsa del nodo ed è collegato solo al primo contenitore (non iniziale) del pod. Se vuoi suddividere più dispositivi DPDK tra i container nello stesso pod, devi eseguire questi container in pod separati.

Limitazioni della scalabilità

GKE fornisce un'architettura di rete flessibile che ti consente di scalare il cluster. Puoi aggiungere altre reti di nodi e reti di pod al tuo cluster. Puoi scalare il tuo cluster nel seguente modo:

  • Puoi aggiungere fino a 7 reti di nodi aggiuntive a ogni pool di nodi GKE. Si tratta dello stesso limite di scalabilità per le VM di Compute Engine.
  • A ogni pod devono essere collegate meno di 7 reti aggiuntive.
  • Puoi configurare fino a 35 reti pod nelle 8 reti di nodi all'interno di un singolo pool di nodi. Puoi suddividerlo in diverse combinazioni, ad esempio:
    • 7 reti di nodi con 5 reti di pod ciascuna
    • 5 reti di nodi con 7 reti di pod ciascuna
    • 1 rete di nodi con 30 reti di pod. Il limite per gli intervalli secondari per subnet è 30.
  • Puoi configurare fino a 50 reti pod per cluster.
  • Puoi configurare un massimo di 32 pod multi-network per nodo.
  • Puoi avere fino a 5000 nodi con più interfacce.
  • Puoi avere fino a 100.000 interfacce aggiuntive in tutti i pod.

Esegui il deployment di pod multi-network

Per eseguire il deployment di pod multi-rete:

  1. Prepara un'altra VPC, una subnet (rete del nodo) e intervalli secondari (rete del pod).
  2. Crea un cluster GKE abilitato per più reti utilizzando il comando Google Cloud CLI.
  3. Crea un nuovo node pool GKE collegato alla rete dei nodi e alla rete dei pod aggiuntive utilizzando il comando Google Cloud CLI.
  4. Crea una rete pod e fai riferimento ai valori VPC, subnet e intervalli secondari corretti negli oggetti multi-rete utilizzando l'API Kubernetes.
  5. Nella configurazione del carico di lavoro, fai riferimento all'oggetto Network Kubernetes utilizzando l'API Kubernetes.

Prima di iniziare

Prima di iniziare, assicurati di aver eseguito le seguenti operazioni:

  • Attiva l'API Google Kubernetes Engine.
  • Attiva l'API Google Kubernetes Engine
  • Se vuoi utilizzare Google Cloud CLI per questa attività, installa e poi inizializza gcloud CLI. Se hai già installato gcloud CLI, ottieni la versione più recente eseguendo gcloud components update.

Prepara un'altra VPC

Google Cloud crea una rete Pod predefinita durante la creazione del cluster associata al pool di nodi GKE utilizzato durante la creazione iniziale del cluster GKE. La rete di pod predefinita è disponibile su tutti i nodi e i pod del cluster. Per facilitare le funzionalità multi-rete all'interno del pool di nodi, devi preparare VPC esistenti o nuovi che supportano reti di tipo Layer 3 e Device.

Per preparare un'altra VPC, tieni conto dei seguenti requisiti:

  • Rete di tipo Layer 3 e Netdevice:

    • Crea un intervallo secondario se utilizzi reti di tipo Layer 3.
    • Assicurati che le dimensioni CIDR per l'intervallo secondario siano sufficientemente grandi da soddisfare il numero di nodi nel pool di nodi e il numero di pod per nodo che vuoi avere.
    • Analogamente alla rete pod predefinita, le altre reti pod utilizzano il provisioning eccessivo degli indirizzi IP. L'intervallo di indirizzi IP secondario deve avere il doppio degli indirizzi IP per nodo rispetto al numero di pod per nodo.
  • Requisiti di rete di tipo Device: crea una subnet normale in una VPC. Non è necessaria una subnet secondaria.

Per abilitare le funzionalità di più reti nel pool di nodi, devi preparare le VPC a cui vuoi stabilire connessioni aggiuntive. Puoi utilizzare un VPC esistente o crearne uno nuovo appositamente per il pool di nodi.

Crea una rete VPC che supporti il dispositivo di tipo Layer 3

Per creare una rete VPC che supporti il dispositivo di tipo Layer 3, segui questi passaggi:

  • Assicurati che le dimensioni CIDR per l'intervallo secondario siano sufficientemente grandi da soddisfare il numero di nodi nel pool di nodi e il numero di pod per nodo che vuoi avere.
  • Analogamente alla rete pod predefinita, le altre reti pod utilizzano il provisioning eccessivo degli indirizzi IP. L'intervallo di indirizzi IP secondario deve avere il doppio degli indirizzi IP per nodo rispetto al numero di pod per nodo.

gcloud

gcloud compute networks subnets create SUBNET_NAME \
    --project=PROJECT_ID \
    --range=SUBNET_RANGE \
    --network=NETWORK_NAME \
    --region=REGION \
    --secondary-range=SECONDARY_RANGE_NAME=<SECONDARY_RANGE_RANGE>

Sostituisci quanto segue:

  • SUBNET_NAME: il nome della subnet.
  • PROJECT_ID: l'ID del progetto che contiene la rete VPC in cui viene creata la subnet.
  • SUBNET_RANGE: l'intervallo di indirizzi IPv4 primario per la nuova subnet, in notazione CIDR.
  • NETWORK_NAME: il nome della rete VPC che contiene la nuova subnet.
  • REGION: la regione Google Cloud in cui viene creata la nuova subnet.
  • SECONDARY_RANGE_NAME: il nome dell'intervallo secondario.
  • SECONDARY_IP_RANGE l'intervallo di indirizzi IPv4 secondario in notazione CIDR.

Console

  1. Nella console Google Cloud, vai alla pagina Reti VPC.

  2. Fai clic su Crea rete VPC.

  3. Nel campo Nome, inserisci il nome della rete. Ad esempio, l3-vpc.

  4. Nel menu a discesa Unità massima di trasmissione (MTU), scegli il valore MTU appropriato.

  5. Nella sezione Modalità di creazione subnet, scegli Personalizzata.

  6. Fai clic su AGGIUNGI SUBNET.

  7. Nella sezione Nuova subnet, specifica i seguenti parametri di configurazione per una subnet:

    1. Fornisci un nome. Ad esempio, l3-subnet.

    2. Seleziona una Regione.

    3. Inserisci un intervallo di indirizzi IP. Si tratta dell'intervallo IPv4 primario per la subnet.

      Se selezioni un intervallo che non è un indirizzo RFC 1918, verifica che l'intervallo non entri in conflitto con una configurazione esistente. Per maggiori informazioni, consulta Intervalli di subnet IPv4.

    4. Per definire un intervallo secondario per la subnet, fai clic su Crea intervallo di indirizzi IP secondari.

      Se selezioni un intervallo che non è un indirizzo RFC 1918, verifica che l'intervallo non entri in conflitto con una configurazione esistente. Per maggiori informazioni, consulta Intervalli di subnet IPv4.

    5. Accesso privato Google: puoi attivare l'accesso privato Google per la subnet quando la crei o in un secondo momento modificandola.

    6. Log di flusso: puoi attivare i log di flusso VPC per la subnet quando la crei o in un secondo momento modificandola.

    7. Fai clic su Fine.

  8. Nella sezione Regole firewall, in Regole firewall IPv4, seleziona zero o più regole firewall predefinite.

    Le regole risolvono i casi d'uso comuni per la connettività alle istanze. Puoi creare le tue regole firewall dopo aver creato la rete. Ogni nome di regola predefinito inizia con il nome della rete VPC che stai creando.

  9. In Regole firewall IPv4, per modificare la regola firewall in entrata predefinita denominata allow-custom, fai clic su MODIFICA.

    Puoi modificare le subnet, aggiungere altri intervalli IPv4 e specificare protocolli e porte.

    La regola firewall allow-custom non viene aggiornata automaticamente se aggiungi altre subnet in un secondo momento. Se hai bisogno di regole firewall per le nuove sottoreti, per aggiungerle devi aggiornare la configurazione del firewall.

  10. Nella sezione Modalità di routing dinamico, per la rete VPC. Per ulteriori informazioni, consulta la modalità di routing dinamico. Puoi modificare la modalità di routing dinamico in un secondo momento.

  11. Fai clic su Crea.

Crea una rete VPC che supporti dispositivi di tipo Netdevice o DPDK

gcloud

gcloud compute networks subnets create SUBNET_NAME \
    --project=PROJECT_ID \
    --range=SUBNET_RANGE \
    --network=NETWORK_NAME \
    --region=REGION \
    --secondary-range=SECONDARY_RANGE_NAME=<SECONDARY_RANGE_RANGE>

Sostituisci quanto segue:

  • SUBNET_NAME: il nome della subnet.
  • PROJECT_ID: l'ID del progetto che contiene la rete VPC in cui viene creata la subnet.
  • SUBNET_RANGE: l'intervallo di indirizzi IPv4 primario per la nuova subnet, in notazione CIDR.
  • NETWORK_NAME: il nome della rete VPC che contiene la nuova subnet.
  • REGION: la regione Google Cloud in cui viene creata la nuova subnet.
  • SECONDARY_RANGE_NAME: il nome dell'intervallo secondario.
  • SECONDARY_IP_RANGE l'intervallo di indirizzi IPv4 secondario in notazione CIDR.

Console

  1. Nella console Google Cloud, vai alla pagina Reti VPC.

  2. Fai clic su Crea rete VPC.

  3. Nel campo Nome, inserisci il nome della rete. Ad esempio, netdevice-vpc o dpdk-vpc.

  4. Nel menu a discesa Unità massima di trasmissione (MTU), scegli il valore MTU appropriato.

  5. Nella sezione Modalità di creazione subnet, scegli Personalizzata.

  6. Nella sezione Nuova subnet, specifica i seguenti parametri di configurazione per una subnet:

    1. Fornisci un nome. Ad esempio, netdevice-subnet o dpdk-vpc.

    2. Seleziona una Regione.

    3. Inserisci un intervallo di indirizzi IP. Si tratta dell'intervallo IPv4 primario per la subnet.

      Se selezioni un intervallo che non è un indirizzo RFC 1918, verifica che l'intervallo non entri in conflitto con una configurazione esistente. Per maggiori informazioni, consulta Intervalli di subnet IPv4.

    4. Accesso privato Google: scegli se attivare Accesso privato Google per la subnet quando la crei o in un secondo momento modificandola.

    5. Log di flusso: puoi attivare i log di flusso VPC per la subnet quando la crei o in un secondo momento modificandola.

    6. Fai clic su Fine.

  7. Nella sezione Regole firewall, in Regole firewall IPv4, seleziona zero o più regole firewall predefinite.

    Le regole risolvono i casi d'uso comuni per la connettività alle istanze. Puoi creare le tue regole firewall dopo aver creato la rete. Ogni nome di regola predefinito inizia con il nome della rete VPC che stai creando.

  8. In Regole firewall IPv4, per modificare la regola firewall in entrata predefinita denominata allow-custom, fai clic su MODIFICA.

    Puoi modificare le subnet, aggiungere altri intervalli IPv4 e specificare protocolli e porte.

    La regola firewall allow-custom non viene aggiornata automaticamente se aggiungi altre subnet in un secondo momento. Se hai bisogno di regole firewall per le nuove sottoreti, per aggiungerle devi aggiornare la configurazione del firewall.

  9. Nella sezione Modalità di routing dinamico, per la rete VPC. Per ulteriori informazioni, consulta la modalità di routing dinamico. Puoi modificare la modalità di routing dinamico in un secondo momento.

  10. Fai clic su Crea.

Crea un cluster GKE con funzionalità multi-rete

L'abilitazione del networking multiplo per un cluster aggiunge le CustomResourceDefinitions (CRD) necessarie all'API server per quel cluster. Inoltre, viene eseguito il deployment di un network-controller-manager, che è responsabile della riconciliazione e della gestione degli oggetti multi-network. Non puoi modificare la configurazione del cluster dopo averlo creato.

Creare un cluster GKE Autopilot con funzionalità multi-rete

Crea un cluster GKE Autopilot con funzionalità multi-rete:

gcloud container clusters create-auto CLUSTER_NAME \
    --cluster-version=CLUSTER_VERSION \
    --enable-multi-networking

Sostituisci quanto segue:

  • CLUSTER_NAME: il nome del cluster.
  • CLUSTER_VERSION: la versione del cluster.

Il flag --enable-multi-networking abilita le definizioni di risorse personalizzate (CRD) per più reti nell'API server per questo cluster e esegue il deployment di un gestore di controller di rete che contiene la riconciliazione e la gestione del ciclo di vita per gli oggetti multi-network.

Creare un cluster GKE Standard con funzionalità multi-rete

gcloud

Crea un cluster GKE Standard con funzionalità di networking multiplo:

gcloud container clusters create CLUSTER_NAME \
    --cluster-version=CLUSTER_VERSION \
    --enable-dataplane-v2 \
    --enable-ip-alias \
    --enable-multi-networking

Sostituisci quanto segue:

  • CLUSTER_NAME: il nome del cluster.
  • CLUSTER_VERSION: la versione del cluster.

Questo comando include i seguenti flag:

  • --enable-multi-networking: abilita le definizioni di risorse personalizzate (CRD) per più reti nell'API server per questo cluster e esegue il deployment di un gestore del controller di rete che contiene la riconciliazione e la gestione del ciclo di vita per gli oggetti multi-rete.
  • --enable-dataplane-v2: abilita GKE Dataplane V2. Questo flag è obbligatorio per attivare il multi-network.

Console

  1. Vai alla pagina Google Kubernetes Engine nella console Google Cloud.

    Vai a Google Kubernetes Engine

  2. Fai clic su Crea.

  3. Configura il cluster standard. Per ulteriori informazioni, consulta Creare un cluster zonale o Creare un cluster regionale. Durante la creazione del cluster, seleziona la rete e la sottorete del nodo appropriate.

  4. Nel riquadro di navigazione, in Cluster, fai clic su Networking.

  5. Seleziona la casella di controllo Attiva Dataplane V2.

  6. Seleziona Attiva più reti.

  7. Fai clic su Crea.

Crea un pool di nodi GKE Standard connesso a VPC aggiuntivi

Crea un pool di nodi che includa i nodi connessi alla rete di nodi (VPC e subnet) e alla rete di pod (intervallo secondario) creata in Creare una rete di pod.

Per creare il nuovo pool di nodi e associarlo alle reti aggiuntive nel cluster GKE:

gcloud

gcloud container node-pools create POOL_NAME \
  --cluster=CLUSTER_NAME \
  --additional-node-network network=NETWORK_NAME,subnetwork=SUBNET_NAME \
  --additional-pod-network subnetwork=subnet-dp,pod-ipv4-range=POD_IP_RANGE,max-pods-per-node=NUMBER_OF_PODS \
  --additional-node-network network=highperformance,subnetwork=subnet-highperf

Sostituisci quanto segue:

  • POOL_NAME con il nome del nuovo pool di nodi.
  • CLUSTER_NAME con il nome del cluster esistente a cui stai aggiungendo il pool di nodi.
  • NETWORK_NAME con il nome della rete a cui collegare i nodi del pool di nodi.
  • SUBNET_NAME con il nome della subnet all'interno della rete da utilizzare per i nodi.
  • POD_IP_RANGE l'intervallo di indirizzi IP del pod all'interno della subnet.
  • NUMBER_OF_PODS numero massimo di pod per nodo.

Questo comando contiene i seguenti flag:

  • --additional-node-network: definisce i dettagli dell'interfaccia di rete, della rete e della subnet aggiuntive. Viene utilizzato per specificare le reti di nodi per la connessione ai nodi del pool di nodi. Specifica questo parametro quando vuoi connetterti a un'altra VPC. Se non specifichi questo parametro, viene utilizzata la VPC predefinita associata al cluster. Per le reti di tipo Layer 3, specifica il flag additional-pod-network che definisce la rete pod, esposta all'interno del cluster GKE come oggetto Network. Quando utilizzi il flag --additional-node-network, devi fornire una rete e una subnet come parametri obbligatori. Assicurati di separare i valori della rete e della sottorete con una virgola ed evita di utilizzare spazi.
  • --additional-pod-network: specifica i dettagli dell'intervallo secondario da utilizzare per la rete del pod. Questo parametro non è obbligatorio se utilizzi una rete di tipo Device. Questo parametro specifica i seguenti valori chiave: subnetwork, pod-ipv4-range e max-pods-per-node. Quando utilizzi --additional-pod-network, devi fornire i valori pod-ipv4-range e max-pods-per-node, separati da virgole e senza spazi.
    • subnetwork: collega la rete del nodo alla rete del pod. La subnet è facoltativa. Se non la specifichi, la rete pod aggiuntiva viene associata alla subnet predefinita fornita durante la creazione del cluster.
    • --max-pods-per-node: il valore max-pods-per-node deve essere specificato e deve essere una potenza di 2. Il valore minimo è 4. max-pods-per-node non deve essere superiore al valore max-pods-per-node nel pool di nodi.

Console

  1. Vai alla pagina Google Kubernetes Engine nella console Google Cloud.

    Vai a Google Kubernetes Engine

  2. Nel riquadro di navigazione, fai clic su Cluster.

  3. Nella sezione Cluster Kubernetes, fai clic sul cluster che hai creato.

  4. Per creare il pool di nodi, fai clic su Aggiungi pool di nodi nella parte superiore della pagina.

  5. Nella sezione Dettagli del pool di nodi, completa quanto segue:

    1. Inserisci un nome per il pool di nodi.
    2. Inserisci il numero di nodi da creare nel pool di nodi.
  6. Nel riquadro di navigazione, in Pool di nodi, fai clic su Nodi.

    1. Nell'elenco a discesa Tipo di immagine, seleziona l'immagine del nodo Container-Optimized OS con containerd (cos_containerd).

  7. Quando crei una VM, selezioni un tipo di macchina da una famiglia di macchine che determina le risorse disponibili per quella VM. Ad esempio, un tipo di macchina come e2-standard-4 contiene 4 vCPU, pertanto può supportare fino a 4 VPC in totale. Puoi scegliere tra diverse famiglie di macchine e ciascuna famiglie di macchine è ulteriormente organizzata in serie di macchine e tipi di macchina predefiniti o personalizzati all'interno di ciascuna serie. Ogni tipo di macchina viene fatturato in modo diverso. Per ulteriori informazioni, consulta il listino prezzi dei tipi di macchine.

  8. Nel riquadro di navigazione, seleziona Networking.

  9. Nella sezione Node Networking (Rete del nodo), specifica il numero massimo di pod per nodo. La sezione Reti di nodi mostra la rete VPC utilizzata per creare il cluster. È necessario designare reti di nodi aggiuntive correlate alle reti VPC e ai tipi di dispositivi stabiliti in precedenza.

  10. Crea l'associazione del pool di nodi:

    1. Per il dispositivo di tipo Layer 3:
      1. Nella sezione Node Networks (Reti di nodi), fai clic su ADD A NODE NETWORK (AGGIUNGI UNA RETE DI NODI).
      2. Nell'elenco a discesa della rete, seleziona la VPC che supporta i dispositivi di tipo Layer 3.
      3. Seleziona la subnet creata per la VPC Layer 3.
      4. Nella sezione Intervalli di indirizzi IP del pod alias, fai clic su Aggiungi intervallo di indirizzi IP del pod.
      5. Seleziona la Subnet secondaria e indica il Numero massimo di pod per nodo.
      6. Seleziona Fine.
    2. Per i dispositivi di tipo Netdevice e DPDK:
      1. Nella sezione Node Networks (Reti di nodi), fai clic su ADD A NODE NETWORK (AGGIUNGI UNA RETE DI NODI).
      2. Nell'elenco a discesa della rete, seleziona la VPC che supporta i dispositivi di tipo Netdevice o DPDK.
      3. Seleziona la subnet creata per il VPC Netdevice o DPDK.
      4. Seleziona Fine.
  11. Fai clic su Crea.

Note:

  • Se vengono specificate più reti pod aggiuntive all'interno della stessa rete di nodi, devono trovarsi nella stessa subnet.
  • Non puoi fare riferimento allo stesso intervallo secondario di una subnet più volte.

Esempio L'esempio seguente crea un pool di nodi denominato pool-multi-net che collega due reti aggiuntive ai nodi, dataplane (rete di tipo Layer 3) e highperformance (rete di tipo netdevice). Questo esempio presuppone che tu abbia già creato un cluster GKE denominato cluster-1:

gcloud container node-pools create pool-multi-net \
  --project my-project \
  --cluster cluster-1 \
  --zone us-central1-c \
  --additional-node-network network=dataplane,subnetwork=subnet-dp \
  --additional-pod-network subnetwork=subnet-dp,pod-ipv4-range=sec-range-blue,max-pods-per-node=8 \
  --additional-node-network network=highperformance,subnetwork=subnet-highperf

Per specificare interfacce di rete node-network e pod-network aggiuntive, definisci i parametri --additional-node-network e --additional-pod-network più volte come mostrato nell'esempio seguente:

--additional-node-network network=dataplane,subnetwork=subnet-dp \
--additional-pod-network subnetwork=subnet-dp,pod-ipv4-range=sec-range-blue,max-pods-per-node=8 \
--additional-pod-network subnetwork=subnet-dp,pod-ipv4-range=sec-range-green,max-pods-per-node=8 \
--additional-node-network network=managementdataplane,subnetwork=subnet-mp \
--additional-pod-network subnetwork=subnet-mp,pod-ipv4-range=sec-range-red,max-pods-per-node=4

Per specificare reti pod aggiuntive direttamente sull'interfaccia VPC principale del pool di nodi, come mostrato nell'esempio seguente:

--additional-pod-network subnetwork=subnet-def,pod-ipv4-range=sec-range-multinet,max-pods-per-node=8

Crea rete di pod

Definisci le reti di pod a cui accederanno i pod definendo gli oggetti Kubernetes e collegandoli alle risorse Compute Engine corrispondenti, come VPC, subnet e intervalli secondari.

Per creare una rete di pod, devi definire gli oggetti CRD di rete nel cluster.

Configura la rete VPC Layer 3

YAML

Per il VPC Layer 3, crea gli oggetti Network e GKENetworkParamSet:

  1. Salva il seguente manifest di esempio come blue-network.yaml:

    apiVersion: networking.gke.io/v1
    kind: Network
    metadata:
      name: blue-network
    spec:
      type: "L3"
      parametersRef:
        group: networking.gke.io
        kind: GKENetworkParamSet
        name: "l3-vpc"
    

    Il file manifest definisce una risorsa Network denominata blue-network di tipo Layer 3. L'oggetto Network fa riferimento all'oggetto GKENetworkParamSet chiamato l3-vpc, che associa una rete alle risorse Compute Engine.

  2. Applica il manifest al cluster:

    kubectl apply -f blue-network.yaml
    
  3. Salva il seguente manifest come dataplane.yaml :

    apiVersion: networking.gke.io/v1
    kind: GKENetworkParamSet
    metadata:
      name: "dataplane"
    spec:
      vpc: "l3-vpc"
      vpcSubnet: "subnet-dp"
      podIPv4Ranges:
        rangeNames:
        - "sec-range-blue"
    

    Questo manifest definisce l'oggetto GKENetworkParamSet denominato dataplane, imposta il nome della VPC su l3-vpc, il nome della subnet su subnet-dp e l'intervallo di indirizzi IPv4 secondario per i pod denominato sec-range-blue.

  4. Applica il manifest al cluster:

    kubectl apply -f dataplane.yaml
    

Console

  1. Vai alla pagina Google Kubernetes Engine nella console Google Cloud.

    Vai a Google Kubernetes Engine

  2. Nel riquadro di navigazione, fai clic su Network Function Optimizer.

  3. Nella parte superiore della pagina, fai clic su Crea per creare la rete del pod.

  4. Nella sezione Prima di iniziare, verifica i dettagli.

  5. Fai clic su SUCCESSIVO: LOCALITÀ DELLA RETE DEL POD.

  6. Nella sezione Posizione della rete del pod, dal menu a discesa Cluster, selezionare il cluster GKE con il networking multiplo e GKE Dataplane V2 abilitati.

  7. Fai clic su SUCCESSIVO: RIFERIMENTO RETE VPC.

  8. Nella sezione Riferimento della rete VPC, seleziona la rete VPC utilizzata per i pod multinic Layer 3 dal menu a discesa Riferimento della rete VPC.

  9. Fai clic su SUCCESSIVO: TIPO DI RETE DI POD.

  10. Nella sezione Tipo di rete del pod, seleziona L3 e inserisci il nome della rete del pod.

  11. Fai clic su SUCCESSIVO: INTERVALLO SECONDARIO DELLA RETE DEL POD.

  12. Nella sezione Intervallo secondario della rete di pod, inserisci l'intervallo secondario.

  13. Fai clic su SUCCESSIVO: ROUTE DELLA RETE DI POD.

  14. Nella sezione Route della rete di pod, per definire le route personalizzate, seleziona AGGIUNGI ROUTE.

  15. Fai clic su CREA RETE POD.

Configura la rete DPDK

YAML

Per il VPC DPDK, crea oggetti Network e GKENetworkParamSet.

  1. Salva il seguente manifest di esempio come dpdk-network.yaml:

    apiVersion: networking.gke.io/v1
    kind: Network
    metadata:
      name: dpdk-network
    spec:
      type: "Device"
      parametersRef:
        group: networking.gke.io
        kind: GKENetworkParamSet
        name: "dpdk"
    

    Questo manifest definisce una risorsa Network denominata dpdk-network con un tipo di Device. La risorsa Network fa riferimento a un oggetto GKENetworkParamSet chiamato dpdk per la relativa configurazione.

  2. Applica il manifest al cluster:

    kubectl apply -f dpdk-network.yaml
    
  3. Per l'oggetto GKENetworkParamSet, salva il seguente manifest come dpdk.yaml:

    apiVersion: networking.gke.io/v1
    kind: GKENetworkParamSet
    metadata:
      name: "dpdk"
    spec:
      vpc: "dpdk"
      vpcSubnet: "subnet-dpdk"
      deviceMode: "DPDK-VFIO"
    

    Questo manifest definisce l'oggetto GKENetworkParamSet denominato dpdk, imposta il nome della VPC su dpdk, il nome della subnet su subnet-dpdk e il nome di deviceMode su DPDK-VFIO.

  4. Applica il manifest al cluster:

    kubectl apply -f dpdk-network.yaml
    

Console

  1. Vai alla pagina Google Kubernetes Engine nella console Google Cloud.

    Vai a Google Kubernetes Engine

  2. Nel riquadro di navigazione, fai clic su Network Function Optimizer.

  3. Nella parte superiore della pagina, fai clic su Crea per creare la rete del pod.

  4. Nella sezione Prima di iniziare, verifica i dettagli.

  5. Fai clic su SUCCESSIVO: LOCALITÀ DELLA RETE DEL POD.

  6. Nella sezione Posizione della rete del pod, dal menu a discesa Cluster, selezionare il cluster GKE con il networking multiplo e GKE Dataplane V2 abilitati.

  7. Fai clic su SUCCESSIVO: RIFERIMENTO RETE VPC.

  8. Nella sezione Riferimento della rete VPC, seleziona la rete VPC utilizzata per i pod dpdk multinic dal menu a discesa Riferimento della rete VPC.

  9. Fai clic su SUCCESSIVO: TIPO DI RETE DI POD.

  10. Nella sezione Tipo di rete del pod, seleziona DPDK-VFIO (dispositivo) e inserisci il nome della rete del pod.

  11. Fai clic su SUCCESSIVO: INTERVALLO SECONDARIO DELLA RETE DEL POD. La sezione Intervallo secondario della rete di pod non sarà disponibile

  12. Fai clic su SUCCESSIVO: ROUTE DELLA RETE DI POD. Nella sezione Route di rete del pod, seleziona AGGIUNGI ROUTE per definire route personalizzate

  13. Fai clic su CREA RETE POD.

Configura la rete del netdevice

Per il VPC netdevice, crea gli oggetti Network e GKENetworkParamSet.

YAML

  1. Salva il seguente manifest di esempio come netdevice-network.yaml:

    apiVersion: networking.gke.io/v1
    kind: Network
    metadata:
        name: netdevice-network
    spec:
        type: "Device"
        parametersRef:
          group: networking.gke.io
          kind: GKENetworkParamSet
          name: "netdevice"
    

    Questo manifest definisce una risorsa Network denominata netdevice-network con un tipo Device. Fa riferimento all'oggetto GKENetworkParamSet denominato netdevice.

  2. Applica il manifest al cluster:

    kubectl apply -f netdevice-network.yaml
    
  3. Salva il seguente manifest come netdevice.yaml :

    apiVersion: networking.gke.io/v1
    kind: GKENetworkParamSet
    metadata:
      name: netdevice
    spec:
      vpc: netdevice
      vpcSubnet: subnet-netdevice
      deviceMode: NetDevice
    

    Questo manifest definisce una risorsa GKENetworkParamSet denominata netdevice, imposta il nome del VPC su netdevice, il nome della subnet su subnet-netdevice e specifica la modalità del dispositivo come NetDevice.

  4. Applica il manifest al cluster:

    kubectl apply -f netdevice.yaml
    

Console

  1. Vai alla pagina Google Kubernetes Engine nella console Google Cloud.

    Vai a Google Kubernetes Engine

  2. Nel riquadro di navigazione, fai clic su Network Function Optimizer.

  3. Nella parte superiore della pagina, fai clic su Crea per creare la rete del pod.

  4. Nella sezione Prima di iniziare, verifica i dettagli.

  5. Fai clic su SUCCESSIVO: LOCALITÀ DELLA RETE DEL POD.

  6. Nella sezione Posizione della rete del pod, dal menu a discesa Cluster, selezionare il cluster GKE con il networking multiplo e GKE Dataplane V2 abilitati.

  7. Fai clic su SUCCESSIVO: RIFERIMENTO RETE VPC.

  8. Nella sezione Riferimento della rete VPC, seleziona la rete VPC utilizzata per i pod netdevice multinic dal menu a discesa Riferimento della rete VPC.

  9. Fai clic su SUCCESSIVO: TIPO DI RETE DI POD.

  10. Nella sezione Tipo di rete del pod, seleziona NetDevice (Dispositivo) e inserisci il nome della rete del pod.

  11. Fai clic su SUCCESSIVO: INTERVALLO SECONDARIO DELLA RETE DEL POD. La sezione Intervallo secondario della rete di pod non sarà disponibile

  12. Fai clic su SUCCESSIVO: ROUTE DELLA RETE DI POD. Nella sezione Route di rete del pod, per definire route personalizzate, seleziona AGGIUNGI ROUTE.

  13. Fai clic su CREA RETE POD.

Configurazione dei percorsi di rete

La configurazione della route di rete ti consente di definire route personalizzate per una rete specifica, che vengono configurate sui pod per indirizzare il traffico all'interfaccia corrispondente all'interno del pod.

YAML

  1. Salva il seguente manifest come red-network.yaml:

    apiVersion: networking.gke.io/v1
    kind: Network
    metadata:
      name: red-network
    spec:
      type: "L3"
      parametersRef:
        group: networking.gke.io
        kind: GKENetworkParamSet
        name: "management"
      routes:
      -   to: "10.0.2.0/28"
    

    Questo manifest definisce una risorsa di rete denominata red-network con un tipo di Layer 3 e un percorso personalizzato "10.0.2.0/28" tramite l'interfaccia di rete.

  2. Applica il manifest al cluster:

    kubectl apply -f red-network.yaml
    

Console

  1. Vai alla pagina Google Kubernetes Engine nella console Google Cloud.

    Vai a Google Kubernetes Engine

  2. Fai clic su Crea.

  3. Nel riquadro di navigazione, fai clic su Network Function Optimizer.

  4. Nella sezione Cluster Kubernetes, fai clic sul cluster che hai creato.

  5. Nella parte superiore della pagina, fai clic su Crea per creare la rete del pod.

  6. Nella sezione Route di rete del pod, definisci Route personalizzate.

  7. Fai clic su CREA RETE POD.

Fai riferimento al file Network preparato

Nella configurazione del carico di lavoro, fai riferimento all'oggetto Kubernetes Network preparato utilizzando l'API Kubernetes.

Connettere il pod a reti specifiche

Per connettere i pod alle reti specificate, devi includere i nomi degli oggetti Network come annotazioni all'interno della configurazione del pod. Assicurati di includere sia default Network sia le emittenti aggiuntive selezionate nelle annotazioni per stabilire le connessioni.

  1. Salva il seguente manifest di esempio come sample-l3-pod.yaml:

    apiVersion: v1
    kind: Pod
    metadata:
      name: sample-l3-pod
      annotations:
        networking.gke.io/default-interface: 'eth0'
        networking.gke.io/interfaces: |
          [
            {"interfaceName":"eth0","network":"default"},
            {"interfaceName":"eth1","network":"blue-network"}
          ]
    spec:
      containers:
      - name: sample-l3-pod
        image: busybox
        command: ["sleep", "10m"]
        ports:
        - containerPort: 80
      restartPolicy: Always
    

    Questo manifest crea un pod denominato sample-l3-pod con due interfacce di rete, eth0 e eth1, associate rispettivamente alle reti default e blue-network.

  2. Applica il manifest al cluster:

    kubectl apply -f sample-l3-pod.yaml
    

Connettere il pod a più reti

  1. Salva il seguente manifest di esempio come sample-l3-netdevice-pod.yaml:

    apiVersion: v1
    kind: Pod
    metadata:
      name: sample-l3-netdevice-pod
      annotations:
        networking.gke.io/default-interface: 'eth0'
        networking.gke.io/interfaces: |
          [
            {"interfaceName":"eth0","network":"default"},
            {"interfaceName":"eth1","network":"blue-network"},
            {"interfaceName":"eth2","network":"netdevice-network"}
          ]
    spec:
      containers:
      - name: sample-l3-netdevice-pod
        image: busybox
        command: ["sleep", "10m"]
        ports:
        - containerPort: 80
      restartPolicy: Always
    

    Questo manifest crea un pod denominato sample-l3-netdevice-pod con tre interfacce di rete, eth0, eth1 e eth2 associate rispettivamente alle reti default, blue-network e netdevice.

  2. Applica il manifest al cluster:

    kubectl apply -f sample-l3-netdevice-pod.yaml
    

Puoi utilizzare la stessa annotazione in qualsiasi replicaset (Deployment o DaemonSet) nella sezione di annotazione del modello.

Configurazione di esempio di un pod con più interfacce:

1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN group default qlen 1000
    link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
    inet 127.0.0.1/8 scope host lo
      valid_lft forever preferred_lft forever
2: eth0@if9: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1460 qdisc noqueue state UP group default
    link/ether 2a:92:4a:e5:da:35 brd ff:ff:ff:ff:ff:ff link-netnsid 0
    inet 10.60.45.4/24 brd 10.60.45.255 scope global eth0
      valid_lft forever preferred_lft forever
10: eth1@if11: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1460 qdisc noqueue state UP group default qlen 1000
    link/ether ba:f0:4d:eb:e8:02 brd ff:ff:ff:ff:ff:ff link-netnsid 0
    inet 172.16.1.2/32 scope global eth1
      valid_lft forever preferred_lft forever

Verifica

  • Assicurati di creare cluster con --enable-multi-networking solo se --enable-dataplane-v2 è abilitato.
  • Verifica che tutti i pool di nodi del cluster eseguano immagini Container-Optimized OS al momento della creazione del cluster e del pool di nodi.
  • Verifica che i pool di nodi vengano creati con --additional-node-network o --additional-pod-network solo se il networking multiplo è abilitato sul cluster.
  • Assicurati che la stessa subnet non sia specificata due volte come --additional-node-network argomento per un pool di nodi.
  • Verifica che lo stesso intervallo secondario non sia specificato come argomento --additional-pod-network per un pool di nodi.
  • Rispetta i limiti di scalabilità specificati per gli oggetti di rete, tenendo conto del numero massimo di nodi, pod e indirizzi IP consentiti.
  • Verifica che esista un solo oggetto GKENetworkParamSet che rimandi a una determinata subnet e a un intervallo secondario.
  • Verifica che ogni oggetto di rete faccia riferimento a un oggetto GKENetworkParamSet distinto.
  • Verifica che l'oggetto rete, se creato con una subnet specifica con la reteDevice, non sia utilizzato nello stesso nodo con un'altra rete con un intervallo secondario. Puoi convalidarlo solo in fase di esecuzione.
  • Verifica che i vari intervalli secondari assegnati ai pool di nodi non abbiano indirizzi IP in sovrapposizione.

Risolvere i problemi relativi ai parametri di più reti in GKE

Quando crei un cluster e un pool di nodi, Google Cloud implementa determinati controlli per garantire che siano consentiti solo parametri di multi-networking validi. In questo modo, la rete viene configurata correttamente per il cluster.

Se non riesci a creare workload multi-network, puoi controllare lo stato e gli eventi del pod per ulteriori informazioni:

kubectl describe pods samplepod

L'output è simile al seguente:

Name:         samplepod
Namespace:    default
Status:       Running
IP:           192.168.6.130
IPs:
  IP:  192.168.6.130
...
Events:
  Type     Reason                  Age   From               Message
  ----     ------                  ----  ----               -------
  Normal   NotTriggerScaleUp  9s               cluster-autoscaler  pod didn't trigger scale-up:
  Warning  FailedScheduling   8s (x2 over 9s)  default-scheduler   0/1 nodes are available: 1 Insufficient networking.gke.io.networks/my-net.IP. preemption: 0/1 nodes are available: 1 No preemption victims found for incoming pod

Di seguito sono riportati i motivi generali dell'errore di creazione del pod:

  • Impossibile pianificare il pod a causa della mancata soddisfazione dei requisiti delle risorse di networking multiplo
  • Impossibile identificare le reti specificate

Risolvere i problemi di creazione delle reti Kubernetes

Dopo aver creato una rete, i nodi che devono avere accesso alla rete configurata vengono annotati con un'annotazione dello stato della rete.

Per osservare le annotazioni, esegui il seguente comando:

kubectl describe node NODE_NAME

Sostituisci NODE_NAME con il nome del nodo.

L'output è simile al seguente:

networking.gke.io/network-status: [{"name":"default"},{"name":"dp-network"}]

L'output elenca ogni rete disponibile sul nodo. Se lo stato della rete previsto non viene visualizzato sul nodo:

Controlla se il nodo può accedere alla rete

Se la rete non viene visualizzata nell'annotazione dello stato della rete del nodo:

  1. Verifica che il nodo faccia parte di un pool configurato per il multinetworking.
  2. Controlla le interfacce del nodo per verificare se è presente un'interfaccia per la rete che stai configurando.
  3. Se a un nodo manca network-status e ha una sola interfaccia di rete, devi comunque creare un pool di nodi con il networking multiplo abilitato.
  4. Se il tuo nodo contiene l'interfaccia per la rete che stai configurando, ma non è visibile nell'annotazione dello stato della rete, controlla le risorse Network e GKENetworkParamSet (GNP).

Consulta le risorse Network e GKENetworkParamSet

Lo stato delle risorse Network e GKENetworkParamSet (GNP) include un campo condizioni per segnalare gli errori di configurazione. Ti consigliamo di controllare prima il GNP, poiché non si basa su un'altra risorsa per essere valido.

Per controllare il campo delle condizioni, esegui il seguente comando:

kubectl get gkenetworkparamsets GNP_NAME -o yaml

Sostituisci GNP_NAME con il nome della risorsaGKENetworkParamSet.

Quando la condizione Ready è uguale a true, la configurazione è valida e l'output è simile al seguente:

apiVersion: networking.gke.io/v1
kind: GKENetworkParamSet
...
spec:
  podIPv4Ranges:
    rangeNames:
    -   sec-range-blue
  vpc: dataplane
  vpcSubnet: subnet-dp
status:
  conditions:
  -   lastTransitionTime: "2023-06-26T17:38:04Z"
    message: ""
    reason: GNPReady
    status: "True"
    type: Ready
  networkName: dp-network
  podCIDRs:
    cidrBlocks:
    -   172.16.1.0/24

Quando la condizione Ready è uguale a false, l'output mostra il motivo ed è simile al seguente:

apiVersion: networking.gke.io/v1
kind: GKENetworkParamSet
...
spec:
  podIPv4Ranges:
    rangeNames:
    -   sec-range-blue
  vpc: dataplane
  vpcSubnet: subnet-nonexist
status:
  conditions:
  -   lastTransitionTime: "2023-06-26T17:37:57Z"
    message: 'subnet: subnet-nonexist not found in VPC: dataplane'
    reason: SubnetNotFound
    status: "False"
    type: Ready
  networkName: ""

Se ricevi un messaggio simile, assicurati che il GNP sia configurato correttamente. Se è già così, assicurati che la configurazione di rete di Google Cloud sia corretta. Dopo aver aggiornato la configurazione di rete di Google Cloud, potrebbe essere necessario ricreare la risorsa GNP per attivare manualmente una ricorsione. Questo serve a evitare un polling infinito dell'API Google Cloud.

Una volta che il GNP è pronto, controlla la risorsa Network.

kubectl get networks NETWORK_NAME -o yaml

Sostituisci NETWORK_NAME con il nome della risorsa Network.

L'output di una configurazione valida è simile al seguente:

apiVersion: networking.gke.io/v1
kind: Network
...
spec:
  parametersRef:
    group: networking.gke.io
    kind: GKENetworkParamSet
    name: dp-gnp
  type: L3
status:
  conditions:
  -   lastTransitionTime: "2023-06-07T19:31:42Z"
    message: ""
    reason: GNPParamsReady
    status: "True"
    type: ParamsReady
  -   lastTransitionTime: "2023-06-07T19:31:51Z"
    message: ""
    reason: NetworkReady
    status: "True"
    type: Ready
  • reason: NetworkReady indica che la risorsa di rete è configurata correttamente. reason: NetworkReady non implica che la risorsa di rete sia necessariamente disponibile su un nodo specifico o sia in uso attivo.
  • In caso di errore o configurazione errata, il campo reason nella condizione specifica il motivo esatto del problema. In questi casi, modifica la configurazione di conseguenza.
  • GKE compila il campo ParamsReady se il campo parametersRef è impostato su una risorsa GKENetworkParamSet esistente nel cluster. Se hai specificato un parametroRef di tipo GKENetworkParamSet e la condizione non viene visualizzata, assicurati che il nome, il tipo e il gruppo corrispondano alla risorsa GNP esistente nel tuo cluster.

Passaggi successivi