Netzwerkbandbreiten und GPUs

Höhere Netzwerkbandbreiten können die Leistung verteilter Arbeitslasten verbessern. In Compute Engine hängt die Netzwerkbandbreite vom Maschinentyp und der Anzahl der CPUs ab. Bei VM-Instanzen mit angeschlossenen GPUs wirkt sich auch die Konfiguration der GPU-Anzahl, der CPU und des Arbeitsspeichers auf die Netzwerkbandbreite aus. Weitere Informationen zu GPUs finden Sie unter GPUs in Compute Engine.

Um die Raten von 50–100 Gbit/s zu erreichen, muss Ihre VM die virtuelle Google-NIC (gVNIC) verwenden. Weitere Informationen zum Erstellen von GPU-VMs, die gVNIC verwenden, finden Sie unter VMs mit höheren Bandbreiten erstellen.

Die maximal verfügbare Bandbreite pro angeschlossenen GPU in Compute Engine ist:

  • Für VMs, an die P100-, P4- und K80-GPUs angeschlossen sind, steht eine maximale Bandbreite von 32 Gbit/s zur Verfügung. Dies entspricht der maximalen Rate, die für VMs verfügbar ist, denen keine GPUs zugeordnet sind. Weitere Informationen zu Netzwerkbandbreiten finden Sie unter maximale Rate ausgehender Daten.
  • Bei VMs mit V100-, T4- und A100-GPUs können Sie jetzt je nach GPU-Anzahl eine maximale Bandbreite von bis zu 50 oder 100 Gbit/s erhalten. Informationen zum Erstellen von VM-Instanzen mit V100-, T4- und A100-GPUs, die bis zu 100 Gbit/s verwenden, finden Sie unter Netzwerkbandbreiten von bis zu 100 Gbit/s verwenden.

VM-Konfigurationen

Zum Testen oder Prüfen der Bandbreitengeschwindigkeit für jede Konfiguration können Sie den Benchmarking-Test verwenden. Weitere Informationen finden Sie unter Netzwerkbandbreite prüfen.

In den folgenden Tabellen werden die maximal verfügbare Netzwerkbandbreite für verschiedene empfohlene VM-Konfigurationen von T4- und V100-GPU-Typen sowie die maximal verfügbare Netzwerkbandbreite für die festen VM-Konfigurationen von A100-GPU-Typen zusammengefasst.

V100-VM-Konfiguration

GPU-Anzahl vCPUs Speicher Netzwerkbandbreite
1 12 78 GB 24 Gbit/s
2 24 156 GB 32 Gbit/s
4 48 312 GB 50 Gbit/s
8 96 624 GB 100 Gbit/s

T4-VM-Konfiguration

GPU-Anzahl vCPUs Speicher Netzwerkbandbreite
1 24 156 GB 32 Gbit/s
2 48 312 GB 50 Gbit/s
4 96 624 GB 100 Gbit/s

A100-VM-Konfiguration

Maschinentyp (GPU-Anzahl) vCPUs Speicher Netzwerkbandbreite
a2-highgpu-1g (1) 12 85 GB 24 Gbit/s
a2-highgpu-2g (2) 24 170 GB 32 Gbit/s
a2-highgpu-4g (4) 48 340 GB 50 Gbit/s
a2-highgpu-8g (8) 96 680 GB 100 Gbit/s
a2-megagpu-16 (16) 96 1360 GB 100 Gbit/s

Nächste Schritte