Questo documento illustra come attivare il supporto della GPU NVIDIA® per le macchine virtuali (VM) in esecuzione utilizzando il runtime VM su GDC. Scopri come installare i driver NVIDIA sui nodi Google Distributed Cloud, verificare la disponibilità delle GPU e assegnarle alle VM.
Prima di iniziare
Per completare questo documento, devi disporre dell'accesso alle seguenti risorse:
- Accesso al cluster Google Distributed Cloud versione 1.12.0 (
anthosBareMetalVersion: 1.12.0
) o successiva. Puoi utilizzare qualsiasi tipo di cluster in grado di eseguire carichi di lavoro. Se necessario, prova Google Distributed Cloud su Compute Engine o consulta la panoramica della creazione dei cluster. - Lo strumento client
virtctl
installato come plug-in perkubectl
. Se necessario, installa lo strumento client virtctl.
Schede GPU Nvidia supportate
Google Distributed Cloud versione 1.13 o successive supporta le seguenti GPU NVIDIA:
- Tesla T4
- Tesla P4
- Tesla V100 SXM2 32 GB
- A100 SXM4 40 GB
- A100 PCIe 40 GB
- A100 SXM4 80 GB
- A100 PCIe 80 GB
Installa i driver NVIDIA sui nodi
Prima che le VM possano utilizzare le GPU NVIDIA, devi configurare i nodi Google Distributed Cloud in modo che supportino i dispositivi GPU. Per installare i driver NVIDIA sui nodi, completa i seguenti passaggi su ogni nodo del cluster che include una GPU NVIDIA. Questo documento utilizza una versione di Ubuntu supportata per i nodi:
- Connettiti al nodo Google Distributed Cloud che vuoi configurare per il supporto GPU.
Ottieni la versione del kernel del tuo nodo:
KERNEL_VERSION="$(uname -r)"
Aggiorna il nodo Ubuntu e installa le intestazioni del kernel appropriate:
sudo apt update && \ apt install -y linux-headers-${KERNEL_VERSION}
Installa il pacchetto
build-essential
per poter compilare i driver Nvidia in un passaggio successivo:sudo apt install -y build-essential
Scarica il pacchetto del driver NVIDIA appropriato per la tua GPU. Per un elenco completo dei driver, consulta Download dei driver NVIDIA.
Nell'esempio seguente viene scaricato il driver
Linux x86_64
versione470.82.01
:wget https://us.download.nvidia.com/tesla/470.82.01/NVIDIA-Linux-x86_64-470.82.01.run
Installa il pacchetto del driver NVIDIA. Utilizza il nome del pacchetto del driver NVIDIA che hai scaricato nel passaggio precedente:
sudo sh NVIDIA-Linux-x86_64-470.82.01.run \ --accept-license \ --silent \ --no-nouveau-check
Carica il modulo kernel NVIDIA:
sudo modprobe nvidia
Ripeti i passaggi di questa sezione su ogni nodo del cluster con una GPU NVIDIA.
Attivare il supporto della GPU in VM Runtime su GDC
Dopo aver installato i driver NVIDIA sui nodi Google Distributed Cloud, attiva il supporto della GPU nel runtime VM su GDC. Le VM possono quindi accedere alle GPU sui nodi.
Ogni nodo si riavvia nell'ambito della procedura seguente. Le tue VM potrebbero essere interessate da questo processo di riavvio. Se possibile e configurate per farlo, le VM migrabili vengono migrate su altri nodi. Per saperne di più, scopri come configurare il criterio di espulsione per le VM durante gli eventi di manutenzione.
Per abilitare il supporto GPU nel runtime VM su GDC, completa i seguenti passaggi.
Modifica la risorsa personalizzata
VMRuntime
:kubectl edit vmruntime vmruntime
Aggiungi la proprietà
enableGPU: true
al manifestVMRuntime
:apiVersion: vm.cluster.gke.io/v1 kind: VMRuntime metadata: name: vmruntime spec: enabled: true enableGPU: true ...
Salva e chiudi la risorsa personalizzata
VMRuntime
nell'editor.Controlla lo stato dei controller GPU nello spazio dei nomi
vm-system
:kubectl get pods --namespace vm-system -w
L'attivazione dei controller richiede circa cinque minuti. Attendi che venga visualizzato
STATUS
Running
per tutti i controller GPU. L'esempio di output seguente mostra lo stato preferito:NAME READY STATUS RESTARTS AGE gpu-controller-controller-manager-gwvcb 2/2 Running 0 10m kubevirt-gpu-dp-daemonset-2lfkl 1/1 Running 0 10m kubevm-gpu-driver-daemonset-5fwh6 1/1 Running 0 10m nvidia-gpu-dp-daemonset-9zq2w 1/1 Running 0 10m nvidia-mig-manager-5g7pz 1/1 Running 0 10m vm-controller-controller-manager-7b6df6979b 2/2 Running 2 (13m ago) 14m
Verifica che le GPU siano disponibili per l'utilizzo quando tutti i controller GPU segnalano il loro stato come
Running
:kubectl get gpuallocations --namespace vm-system
L'esempio di output seguente mostra che le GPU sui nodi sono disponibili per l'utilizzo. Viene visualizzato ogni nodo del cluster con il supporto della GPU. Li assegni alle VM nella sezione successiva:
NAME ALLOCATED DEVICEMODEL bm-node1 true Tesla A100 SXM4 40GB bm-node2 true Tesla A100 SXM4 40GB
Alloca le GPU per l'utilizzo con le VM
Con il supporto della GPU configurato nei nodi del cluster bare metal e nel runtime VM su GDC, alloca le GPU per l'utilizzo con le VM. Per impostazione predefinita, le GPU vengono allocate per l'utilizzo con i pod (container).
Modifica la risorsa personalizzata
GPUAllocation
da utilizzare con le VM. Questo passaggio assegna le GPU ai nodi per l'utilizzo con le VM:kubectl edit gpuallocation NODE_NAME --namespace vm-system
Sostituisci
NODE_NAME
con il nome del nodo da cui vuoi allocare le GPU.Configura il numero di GPU da allocare alle VM. Inizialmente, tutte le GPU vengono allocate ai pod.
Il numero totale di GPU allocate a VM e pod deve essere uguale al numero di GPU nel nodo. Ad esempio, potresti avere quattro GPU nel tuo nodo. Se allochi due GPU alle VM, due GPU rimangono allocate ai pod. Il manifest
GPUAllocation
viene rifiutato se provi ad allocare due GPU alle VM e una GPU ai pod, poiché una GPU rimane non allocata.Aggiorna il numero di GPU sul nodo da allocare per l'utilizzo con le VM, come mostrato nell'esempio seguente:
apiVersion: gpu.cluster.gke.io/v1 kind: GPUAllocation metadata: name: gpu-w2 namespace: vm-system spec: node: gpu-w2 pod: 0 vm: 4
In questo esempio, tutte e quattro le GPU installate nel nodo vengono allocate alle VM. Nessuna GPU viene allocata ai pod.
Salva e chiudi la risorsa personalizzata
GPUAllocation
nell'editor.Verifica che lo stato
ALLOCATED
delle GPU siatrue
:kubectl get gpuallocations --namespace vm-system
L'esempio di output seguente mostra che le GPU sui nodi sono disponibili per l'utilizzo:
NAME ALLOCATED DEVICEMODEL gpu-w1 true Tesla A100 SXM4 40GB gpu-w2 true Tesla A100 SXM4 40GB
Creare una VM con il supporto GPU
Ora puoi creare una VM che utilizza la GPU del nodo. Nella risorsa personalizzata della VM, specifica il nome e la quantità di GPU da allocare dal nodo.
Recupera il nome della scheda GPU dall'host:
kubectl describe node NODE_NAME
Sostituisci
NODE_NAME
con il nome dell'host da cui vuoi recuperare il nome della GPU.L'esempio di output seguente mostra che il nome della GPU allocatable su questo nodo è
NVIDIA_A100_SXM4_40GB
:Name: bm-node1 Roles: worker [...] Allocatable: cpu: 47810m [...] memory: 336929400Ki nvidia.com/gpu-vm-NVIDIA_A100_SXM4_40GB: 1 [...]
Crea un file manifest
VirtualMachine
, ad esempiomy-gpu-vm.yaml
, nell'editor di tua scelta:nano my-gpu-vm.yaml
Copia e incolla il seguente manifest YAML:
apiVersion: vm.cluster.gke.io/v1 kind: VirtualMachine metadata: name: VM_NAME spec: interfaces: - name: eth0 networkName: pod-network default: true disks: - virtualMachineDiskName: VM_NAME-boot-dv boot: true gpu: model: nvidia.com/gpu-vm-GPU_NAME quantity: 1
In questo file YAML, definisci le seguenti impostazioni:
VM_NAME
: il nome della VM.GPU_NAME
: il nome della GPU del nodo da allocare alla VM.- Questo nome della GPU viene mostrato nell'output del comando
kubectl describe node
di un passaggio precedente, ad esempioNVIDIA_A100_SXM4_40GB
.
- Questo nome della GPU viene mostrato nell'output del comando
La VM si connette a
eth0
alla retepod-network
predefinita.Il disco di avvio denominato
VM_NAME-boot-dv
debe già esistere. Per saperne di più, consulta Creare e gestire i dischi virtuali.Salva e chiudi il file manifest della VM nell'editor.
Crea la VM utilizzando
kubectl
:kubectl apply -f my-gpu-vm.yaml
Quando la VM è in esecuzione, connettiti alla VM e verifica che l'hardware della GPU sia disponibile.