Larghezze di rete e GPU

Una maggiore larghezza di banda di rete può migliorare le prestazioni del tuo carichi di lavoro distribuiti in esecuzione su una macchina virtuale (VM) Compute Engine di Compute Engine.

Panoramica

La larghezza di banda di rete massima disponibile per le VM con GPU collegate Compute Engine è il seguente:

  • Per le VM ottimizzate per l'acceleratore A3, puoi ottenere una rete massima e una larghezza di banda massima di 1800 Gbit/s.
  • Per le VM ottimizzate per l'acceleratore A2 e G2, puoi ottenere e una larghezza di banda di rete massima di 100 Gbps, in base al tipo di macchina.
  • Per le VM per uso generico N1 con GPU P100 e P4 collegate, un valore massimo e una larghezza di banda di rete di 32 Gbps. È simile al limite massimo disponibile per le VM N1 a cui non sono collegate GPU. Per ulteriori informazioni sulle larghezze di banda della rete, massima velocità in uscita per i dati.
  • Per le VM per uso generico N1 con GPU T4 e V100 collegate, puoi ottenere un larghezza di banda di rete massima di 100 Gbps, in base alla combinazione Conteggio di GPU e vCPU.

Larghezza di banda della rete e NIC virtuale Google (gVNIC)

Per ottenere le velocità di larghezza di banda di rete più elevate (50 Gbps o superiori) alle VM GPU, ti consigliamo di usare Google Virtual NIC (gVNIC). Per ulteriori informazioni sulla creazione di VM GPU che utilizzano gVNIC, consulta Creazione di VM GPU che utilizzano larghezze di banda più elevate.

VM ottimizzate per l'acceleratore

Questa sezione illustra la larghezza di banda di rete massima disponibile per A3, A2 e VM ottimizzate per l'acceleratore G2.

VM A3

A ogni tipo di macchina A3 è collegato un numero fisso di GPU NVIDIA H100 da 80 GB, un conteggio di vCPU fisso e una dimensione di memoria VM fissa.

Le VM A3 hanno anche più schede di interfaccia di rete fisica (NIC) collegate. Ognuna di queste NIC ha una larghezza di banda massima di 200 Gbps. Per ogni tipo di macchina A3 Le NIC sono disposte come segue su un bus PCIe (Peripheral Component Interconnect Express):
  • Per il tipo di macchina a3-highgpu-8g: è disponibile una disposizione NIC di 4+1. Con questo accordo, 4 NIC condividono lo stesso bus PCIe e 1 NIC risiede su un bus PCIe separato.
  • Per il tipo di macchina a3-megagpu-8g: è disponibile una disposizione NIC di 8+1. Con questo accordo, 8 NIC condividono lo stesso bus PCIe e 1 NIC risiede su un bus PCIe separato.

Le NIC che condividono lo stesso bus PCIe hanno un allineamento NUMA (Non-Uniform Memory Access) di un NIC per due GPU NVIDIA H100 da 80 GB. Queste NIC sono ideali per GPU con larghezza di banda elevata e GPU dedicate comunicazione. Il NIC fisico che risiede su un bus PCIe separato è ideale per altre reti e alle esigenze aziendali.

Tipo di macchina Conteggio GPU Conteggio vCPU Memoria VM (GB) Larghezza di banda di rete massima (Gbps)
VM Cluster GPU
a3-highgpu-8g 8 208 1.872 200 800
a3-megagpu-8g 8 208 1.872 200 1.600

VM A2

Ogni tipo di macchina A2 ha un numero fisso di NVIDIA A100 da 40 GB o NVIDIA A100 da 80 GB GPU collegate. Ogni tipo di macchina ha anche un conteggio di vCPU e una dimensione di memoria fissi.

Le serie di macchine A2 sono disponibili in due tipi:

  • A2 Standard: a questi tipi di macchina sono collegate GPU A100 da 40 GB.
  • A2 Ultra: questi tipi di macchine hanno GPU A100 da 80 GB e dischi SSD locali collegati.

Standard A2

Tipo di macchina Conteggio GPU Conteggio vCPU Memoria VM (GB) Larghezza di banda di rete massima (Gbps)
a2-highgpu-1g 1 12 85 24
a2-highgpu-2g 2 24 170 32
a2-highgpu-4g 4 48 340 50
a2-highgpu-8g 8 96 680 100
a2-highgpu-16g 16 96 1.360 100

A2 Ultra

Tipo di macchina Conteggio GPU Conteggio vCPU Memoria VM (GB) Larghezza di banda di rete massima (Gbps)
a2-ultragpu-1g 1 12 170 24
a2-ultragpu-2g 2 24 340 32
a2-ultragpu-4g 4 48 680 50
a2-ultragpu-8g 8 96 1.360 100

Configurazione VM G2

Ogni tipo di macchina G2 ha un numero fisso di GPU NVIDIA L4 e vCPU collegate. Ogni tipo di macchina G2 ha anche una memoria predefinita e un intervallo di memoria. L'intervallo di memoria personalizzato definisce la quantità di memoria che che puoi allocare alla tua VM per ogni tipo di macchina. Puoi specificare i tuoi durante la creazione della VM.

Tipo di macchina Conteggio GPU Conteggio vCPU Memoria VM predefinita (GB) Intervallo di memoria VM personalizzata (GB) Larghezza di banda di rete massima(Gbps)
g2-standard-4 1 4 16 Da 16 a 32 10
g2-standard-8 1 8 32 Da 32 a 54 16
g2-standard-12 1 12 48 Da 48 a 54 16
g2-standard-16 1 16 64 Da 54 a 64 32
g2-standard-24 2 24 96 Da 96 a 108 32
g2-standard-32 1 32 128 Da 96 a 128 32
g2-standard-48 4 48 192 Da 192 a 216 50
g2-standard-96 8 96 384 Da 384 a 432 100

VM GPU N1

Per le VM per uso generico N1 con GPU T4 e V100 collegate, puoi ottenere un larghezza di banda di rete massima di 100 Gbps, in base alla combinazione Conteggio di GPU e vCPU. Per tutte le altre VM GPU N1, consulta Panoramica.

Consulta la sezione seguente per calcolare la larghezza di banda massima di rete è disponibile per le VM T4 e V100 in base a modello GPU, vCPU e numero di GPU.

Meno di 5 vCPU

Per le VM T4 e V100 con 5 vCPU o meno, la larghezza di banda di rete massima di 10 Gbit/s.

Più di 5 vCPU

Per le VM T4 e V100 con più di 5 vCPU, larghezza di banda di rete massima viene calcolato in base al numero di vCPU e GPU per la VM in questione.

Modello GPU Numero di GPU Calcolo della larghezza di banda massima di rete
NVIDIA V100 1 min(vcpu_count * 2, 32)
2 min(vcpu_count * 2, 32)
4 min(vcpu_count * 2, 50)
8 min(vcpu_count * 2, 100)
NVIDIA T4 1 min(vcpu_count * 2, 32)
2 min(vcpu_count * 2, 50)
4 min(vcpu_count * 2, 100)

Creare VM con larghezza di banda elevata

Per creare VM che utilizzano larghezze di banda di rete più elevate, consulta Utilizzare una larghezza di banda di rete superiore.

Per testare o verificare la velocità della larghezza di banda per qualsiasi configurazione, puoi utilizzare il metodo test di benchmarking. Per ulteriori informazioni, vedi Verifica della larghezza di banda di rete.

Passaggi successivi