Larghezze di banda di rete maggiori possono migliorare le prestazioni dei carichi di lavoro distribuiti in esecuzione su istanze di macchine virtuali (VM) Compute Engine.
Panoramica
La larghezza di banda di rete massima disponibile per le VM con GPU collegate su Compute Engine è la seguente:
- Per le VM per uso generico N1 con GPU P100, P4 e K80 collegate, è disponibile una larghezza di banda di rete massima di 32 Gbps. È simile alla frequenza massima disponibile per le VM N1 senza GPU collegate. Per ulteriori informazioni sulle larghezze di banda della rete, consulta Velocità massima dei dati in uscita.
- Per le VM per uso generico N1 con GPU T4 e V100 collegate, puoi ottenere una larghezza di banda di rete massima fino a 100 Gbps, in base alla combinazione di numero di GPU e vCPU.
- Per le VM ottimizzate per gli acceleratori A2 e G2, puoi ottenere una larghezza di banda di rete massima fino a 100 Gbit/s, in base al tipo di macchina.
- Per le VM ottimizzate per l'acceleratore A3, puoi ottenere una larghezza di banda di rete massima di 1000 Gbit/s (1 Tbps).
Larghezza di banda della rete e NIC virtuale Google (gVNIC)
Per applicare le tariffe più elevate della larghezza di banda della rete (50 Gbps o superiore) alle VM GPU, consigliamo di utilizzare Google Virtual NIC (gVNIC). Per saperne di più sulla creazione di VM GPU che utilizzano gVNIC, consulta Creazione di VM GPU che utilizzano larghezze di banda più elevate.
VM ottimizzate per l'acceleratore
Questa sezione descrive la larghezza di banda di rete massima disponibile per le VM ottimizzate per l'acceleratore A3, A2 e G2.
VM A3
A ogni tipo di macchina A3 è collegato un numero fisso di GPU NVIDIA H100 da 80 GB. Ogni tipo di macchina ha anche un numero di vCPU e una dimensione della memoria fissi.
Ogni VMa3-highgpu-8g ha cinque schede di interfaccia di rete fisica (NIC), quattro delle quali condividono lo stesso bus PCIe (Peripheral Componenti Interconnect Express) e hanno un allineamento di accesso alla memoria non uniforme (NUMA) di un NIC su due GPU NVIDIA H100 da 80 GB. Queste quattro NIC fisiche sono ideali per la comunicazione dedicata da GPU a GPU a larghezza di banda elevata.
L'altro NIC fisico risiede su un bus PCIe separato ed è ideale per altre esigenze di rete.
Ogni NIC ha una larghezza di banda massima di 200 Gbit/s, per un totale di 1000 Gbit/s (1 Tbps) per VM.
| Tipo di macchina | Conteggio GPU | vCPUs | Memoria | Larghezza di banda massima di rete |
|---|---|---|---|---|
a3-highgpu-8g |
8 | 208 | 1872 GB | 1000 Gbit/s |
VM A2
A ogni tipo di macchina A2 è collegato un numero fisso di GPU NVIDIA A100 da 40 GB o NVIDIA A100 da 80 GB. Ogni tipo di macchina ha anche un numero di vCPU e una dimensione della memoria fissi.
A100 40GB
| Tipo di macchina | Conteggio GPU | vCPUs | Memoria | Larghezza di banda massima di rete |
|---|---|---|---|---|
a2-highgpu-1g |
1 | 12 | 85 GB | 24 Gbit/s |
a2-highgpu-2g |
2 | 24 | 170 GB | 32 Gbit/s |
a2-highgpu-4g |
4 | 48 | 340 GB | 50 Gbit/s |
a2-highgpu-8g |
8 | 96 | 680 GB | 100 Gbit/s |
a2-highgpu-16g |
16 | 96 | 1360 GB | 100 Gbit/s |
A100 80GB
| Tipo di macchina | Conteggio GPU | vCPUs | Memoria | Larghezza di banda massima di rete |
|---|---|---|---|---|
a2-ultragpu-1g |
1 | 12 | 170 GB | 24 Gbit/s |
a2-ultragpu-2g |
2 | 24 | 340 GB | 32 Gbit/s |
a2-ultragpu-4g |
4 | 48 | 680 GB | 50 Gbit/s |
a2-ultragpu-8g |
8 | 96 | 1360 GB | 100 Gbit/s |
Configurazione VM G2
A ogni tipo di macchina G2 è collegato un numero fisso di GPU NVIDIA L4 e vCPU. Ogni tipo di macchina G2 ha anche una memoria predefinita e un intervallo di memoria personalizzato. L'intervallo di memoria personalizzato definisce la quantità di memoria che puoi allocare alla tua VM per ogni tipo di macchina. Puoi specificare la tua memoria personalizzata durante la creazione della VM.
| Tipo di macchina | Conteggio GPU | vCPUs | Memoria predefinita | Intervallo di memoria personalizzato | Larghezza di banda massima di rete |
|---|---|---|---|---|---|
g2-standard-4 |
1 | 4 vCPU | 16 GB | 16 - 32 GB | 10 Gbps |
g2-standard-8 |
1 | 8 vCPU | 32 GB | 32 - 54 GB | 16 Gbps |
g2-standard-12 |
1 | 12 vCPU | 48 GB | 48 - 54 GB | 16 Gbps |
g2-standard-16 |
1 | 16 vCPU | 64 GB | 54 - 64 GB | 32 Gbit/s |
g2-standard-24 |
2 | 24 vCPU | 96 GB | 96 - 108 GB | 32 Gbit/s |
g2-standard-32 |
1 | 32 vCPU | 128 GB | 96 - 128 GB | 32 Gbit/s |
g2-standard-48 |
4 | 48 vCPU | 192 GB | 192 - 216 GB | 50 Gbit/s |
g2-standard-96 |
8 | 96 vCPU | 384 GB | 384 - 432 GB | 100 Gbit/s |
VM GPU N1
Per le VM per uso generico N1 con GPU T4 e V100 collegate, puoi ottenere una larghezza di banda di rete massima fino a 100 Gbps, in base alla combinazione di numero di GPU e vCPU. Per tutte le altre VM GPU N1, consulta la Panoramica.
Consulta la sezione seguente per calcolare la larghezza di banda di rete massima disponibile per le tue VM T4 e V100 in base al modello GPU, alle vCPU e al numero di GPU.
Meno di 5 vCPU
Per le VM T4 e V100 con 5 vCPU o meno, è disponibile una larghezza di banda di rete massima di 10 Gbps.
Più di 5 vCPU
Per le VM T4 e V100 con più di 5 vCPU, la larghezza di banda di rete massima viene calcolata in base al numero di vCPU e GPU per quella VM.
| Modello GPU | Numero di GPU | Calcolo della larghezza di banda massima di rete |
|---|---|---|
| NVIDIA V100 | 1 | min(vcpu_count * 2, 32) |
| 2 | min(vcpu_count * 2, 32) |
|
| 4 | min(vcpu_count * 2, 50) |
|
| 8 | min(vcpu_count * 2, 100) |
|
| NVIDIA T4 | 1 | min(vcpu_count * 2, 32) |
| 2 | min(vcpu_count * 2, 50) |
|
| 4 | min(vcpu_count * 2, 100) |
Creazione di VM con larghezza di banda elevata
Per creare VM che utilizzano larghezze di rete più elevate, consulta Utilizzare una larghezza di banda di rete più elevata.
Per testare o verificare la velocità della larghezza di banda per qualsiasi configurazione, puoi usare il test di benchmarking. Per ulteriori informazioni, consulta la sezione Controllare la larghezza di banda della rete.
Che cosa succede dopo?
- Scopri di più sulle piattaforme GPU.
- Scopri come creare VM con GPU collegate.
- Scopri di più su come utilizzare una larghezza di banda di rete maggiore.
- Scopri di più sui prezzi delle GPU.