Le larghezze di banda di rete più elevate possono migliorare le prestazioni dei carichi di lavoro distribuiti in esecuzione sulle istanze di macchine virtuali (VM) di Compute Engine.
Panoramica
La larghezza di banda di rete massima disponibile per le VM con GPU collegate su Compute Engine è la seguente:
- Per le VM ottimizzate per l'acceleratore A3, puoi ottenere una larghezza di banda massima della rete fino a 1800 Gbps.
- Per le VM ottimizzate per l'acceleratore A2 e G2, puoi ottenere e una larghezza di banda di rete massima di 100 Gbit/s, in base al tipo di macchina.
- Per le VM generiche N1 con GPU P100 e P4 collegate, è disponibile una larghezza di banda di rete massima di 32 Gbps. È simile alla frequenza massima disponibile per le VM N1 a cui non sono collegate GPU. Per ulteriori informazioni sulle larghezze di banda della rete, massima velocità in uscita per i dati.
- Per le VM per uso generico N1 con GPU T4 e V100 collegate, puoi ottenere un larghezza di banda di rete massima di 100 Gbps, in base alla combinazione Conteggio di GPU e vCPU.
Larghezza di banda della rete e NIC virtuale Google (gVNIC)
Per applicare le larghezza di banda di rete più elevate (50 Gbps o superiori) alle VM GPU, ti consigliamo di utilizzare la vNIC (virtual NIC) di Google. Per ulteriori informazioni sulla creazione di VM GPU che utilizzano gVNIC, consulta Creazione di VM GPU che utilizzano larghezze di banda più elevate.
VM ottimizzate per l'acceleratore
Questa sezione illustra la larghezza di banda di rete massima disponibile per A3, A2 e VM ottimizzate per l'acceleratore G2.
VM A3
A ogni tipo di macchina A3 è collegato un numero fisso di GPU NVIDIA H100 da 80 GB, un conteggio di vCPU fisso e una dimensione di memoria VM fissa.
- VM A3 con una sola NIC: per le VM A3 con 1-4 GPU collegate, è disponibile solo una singola scheda di interfaccia di rete (NIC) fisica.
- VM A3 con più NIC: per le VM A3 con 8 GPU collegate,
sono disponibili più NIC fisiche. Per questi tipi di macchine A3, le NIC sono disposte come segue:
un bus PCIe (Peripheral Component Interconnect Express):
- Per il tipo di macchina A3 High: è disponibile una disposizione NIC di 4 + 1. Con questa disposizione, 4 NIC condividono lo stesso bus PCIe e 1 NIC si trova su un bus PCIe separato.
- Per il tipo di macchina A3 Mega: è disponibile una disposizione di NIC 8+1. Con questo accordo, 8 NIC condividono lo stesso bus PCIe e 1 NIC risiede su un bus PCIe separato.
Le NIC che condividono lo stesso bus PCIe hanno un allineamento NUMA (accesso alla memoria non uniforme) di una NIC per due GPU NVIDIA H100 da 80 GB. Queste NIC sono ideali per GPU dedicate a larghezza di banda elevata e GPU la comunicazione. Il NIC fisico che risiede su un bus PCIe separato è ideale per altre reti e alle esigenze aziendali.
A3 High
a3-highgpu-1g, a3-highgpu-2g o a3-highgpu-4g,
devi utilizzare VM spot o richieste di ridimensionamento
gruppo di istanze gestite Per istruzioni dettagliate su una di queste opzioni, consulta quanto segue:
- Per creare VM spot, consulta
Crea una VM ottimizzata per l'acceleratore
e ricorda di impostare il modello di provisioning su
SPOT - Per creare una richiesta di ridimensionamento in un gruppo di istanze gestite, consulta Crea un gruppo di istanze gestite con VM GPU
| Tipo di macchina | Conteggio GPU | Memoria GPU* (GB HBM3) |
Numero di vCPU† | Memoria VM (GB) | SSD locale collegata (GiB) | Conteggio NIC fisici | Larghezza di banda di rete massima (Gbps)‡ |
|---|---|---|---|---|---|---|---|
a3-highgpu-1g |
1 | 80 | 26 | 234 | 750 | 1 | 25 |
a3-highgpu-2g |
2 | 160 | 52 | 468 | 1500 | 1 | 50 |
a3-highgpu-4g |
4 | 320 | 104 | 936 | 3000 | 1 | 100 |
a3-highgpu-8g |
8 | 640 | 208 | 1.872 | 6000 | 5 | 800 |
A3 Mega
| Tipo di macchina | Conteggio GPU | Memoria GPU* (GB HBM3) |
Numero di vCPU† | Memoria VM (GB) | SSD locale collegata (GiB) | Conteggio NIC fisici | Larghezza di banda massima della rete (Gbps)‡ |
|---|---|---|---|---|---|---|---|
a3-megagpu-8g |
8 | 640 | 208 | 1.872 | 6000 | 9 | 1800 |
* La memoria GPU è la memoria di un dispositivo GPU che può essere utilizzata per
l'archiviazione temporanea dei dati. È separata dalla memoria della VM ed è progettata appositamente per gestire le richieste di larghezza di banda più elevate dei carichi di lavoro con uso intensivo di risorse grafiche.
†Una vCPU viene implementata come un hyperthread hardware su uno dei
sulle piattaforme CPU disponibili.
‡La larghezza di banda in uscita massima non può superare il numero specificato. Effettivo
la larghezza di banda in uscita dipende dall'indirizzo IP di destinazione e da altri fattori.
Vedi Larghezza di banda di rete.
VM A2
Ogni tipo di macchina A2 ha un numero fisso di NVIDIA A100 da 40 GB o NVIDIA A100 da 80 GB GPU collegate. Ogni tipo di macchina ha anche un conteggio di vCPU e una dimensione di memoria fissi.
Le serie di macchine A2 sono disponibili in due tipi:
- A2 Standard: a questi tipi di macchine sono collegate GPU A100 da 40 GB.
- A2 Ultra: questi tipi di macchine hanno GPU A100 da 80 GB e dischi SSD locali collegati.
A2 Standard
| Tipo di macchina | Conteggio GPU | Conteggio vCPU | Memoria VM (GB) | Larghezza di banda di rete massima (Gbps) |
|---|---|---|---|---|
a2-highgpu-1g |
1 | 12 | 85 | 24 |
a2-highgpu-2g |
2 | 24 | 170 | 32 |
a2-highgpu-4g |
4 | 48 | 340 | 50 |
a2-highgpu-8g |
8 | 96 | 680 | 100 |
a2-highgpu-16g |
16 | 96 | 1360 | 100 |
A2 Ultra
| Tipo di macchina | Conteggio GPU | Conteggio vCPU | Memoria VM (GB) | Larghezza di banda di rete massima (Gbps) |
|---|---|---|---|---|
a2-ultragpu-1g |
1 | 12 | 170 | 24 |
a2-ultragpu-2g |
2 | 24 | 340 | 32 |
a2-ultragpu-4g |
4 | 48 | 680 | 50 |
a2-ultragpu-8g |
8 | 96 | 1360 | 100 |
Configurazione VM G2
Ogni tipo di macchina G2 ha un numero fisso di GPU NVIDIA L4 e vCPU collegate. Ogni tipo di macchina G2 ha anche una memoria predefinita e un intervallo di memoria. L'intervallo di memoria personalizzato definisce la quantità di memoria che che puoi allocare alla tua VM per ogni tipo di macchina. Puoi specificare i tuoi durante la creazione della VM.
| Tipo di macchina | Conteggio GPU | Conteggio vCPU | Memoria VM predefinita (GB) | Intervallo di memoria VM personalizzata (GB) | Larghezza di banda massima della rete (Gbps) |
|---|---|---|---|---|---|
g2-standard-4 |
1 | 4 | 16 | Da 16 a 32 | 10 |
g2-standard-8 |
1 | 8 | 32 | Da 32 a 54 | 16 |
g2-standard-12 |
1 | 12 | 48 | Da 48 a 54 | 16 |
g2-standard-16 |
1 | 16 | 64 | Da 54 a 64 | 32 |
g2-standard-24 |
2 | 24 | 96 | Da 96 a 108 | 32 |
g2-standard-32 |
1 | 32 | 128 | Da 96 a 128 | 32 |
g2-standard-48 |
4 | 48 | 192 | Da 192 a 216 | 50 |
g2-standard-96 |
8 | 96 | 384 | Da 384 a 432 | 100 |
VM GPU N1
Per le VM per uso generico N1 con GPU T4 e V100 collegate, puoi ottenere un larghezza di banda di rete massima di 100 Gbps, in base alla combinazione Conteggio di GPU e vCPU. Per tutte le altre VM GPU N1, consulta Panoramica.
Consulta la sezione seguente per calcolare la larghezza di banda massima di rete è disponibile per le VM T4 e V100 in base a modello GPU, vCPU e numero di GPU.
Meno di 5 vCPU
Per le VM T4 e V100 con 5 vCPU o meno, la larghezza di banda di rete massima di 10 Gbit/s.
Più di 5 vCPU
Per le VM T4 e V100 con più di 5 vCPU, la larghezza di banda di rete massima viene calcolata in base al numero di vCPU e GPU per la VM.
| Modello GPU | Numero di GPU | Calcolo della larghezza di banda massima della rete |
|---|---|---|
| NVIDIA V100 | 1 | min(vcpu_count * 2, 32) |
| 2 | min(vcpu_count * 2, 32) |
|
| 4 | min(vcpu_count * 2, 50) |
|
| 8 | min(vcpu_count * 2, 100) |
|
| NVIDIA T4 | 1 | min(vcpu_count * 2, 32) |
| 2 | min(vcpu_count * 2, 50) |
|
| 4 | min(vcpu_count * 2, 100) |
Creare VM ad alta larghezza di banda
Per creare VM che utilizzano larghezze di banda di rete più elevate, consulta Utilizzare una larghezza di banda di rete superiore.
Per testare o verificare la velocità della larghezza di banda per qualsiasi configurazione, puoi utilizzare il test di benchmarking. Per ulteriori informazioni, vedi Verifica della larghezza di banda di rete.
Passaggi successivi
- Scopri di più sulle piattaforme GPU.
- Scopri come creare VM con GPU collegate.
- Scopri di più su come utilizzare una larghezza di banda di rete superiore.
- Scopri di più sui prezzi delle GPU.