Netzwerkbandbreiten und GPUs

Höhere Netzwerkbandbreiten können die Leistung Ihrer verteilten Arbeitslasten verbessern, die auf Compute Engine-VM-Instanzen ausgeführt werden.

Überblick

Für VMs mit angehängten GPUs in Compute Engine ist folgende maximale Netzwerkbandbreite verfügbar:

  • Für N1-VMs für allgemeine Zwecke, an die P100- und P4-GPUs angeschlossen sind, steht eine maximale Netzwerkbandbreite von 32 Gbit/s zur Verfügung. Dies entspricht der maximalen Rate, die für N1-VMs verfügbar ist, denen keine GPUs zugeordnet sind. Weitere Informationen zu Netzwerkbandbreiten finden Sie unter maximale Rate ausgehender Daten.
  • Bei N1-VMs für allgemeine Zwecke, an die T4- und V100-GPUs angeschlossen sind, können Sie basierend auf der Kombination aus GPU und Anzahl der vCPUs eine maximale Netzwerkbandbreite von bis zu 100 Gbit/s erhalten.
  • Bei beschleunigungsoptimierten A2- und G2-VMs können Sie je nach Maschinentyp eine maximale Netzwerkbandbreite von bis zu 100 Gbit/s erhalten.
  • Für beschleunigungsoptimierte A3-VMs können Sie eine maximale Netzwerkbandbreite von bis zu 1.800 Gbit/s erhalten.

Netzwerkbandbreite und Google Virtual NIC (gVNIC)

Um die höheren Netzwerkbandbreitenraten (50 Gbit/s oder höher) für Ihre GPU-VMs zu erhalten, wird die Verwendung von Google Virtual NIC (gVNIC) empfohlen. Weitere Informationen zum Erstellen von GPU-VMs, die gVNIC verwenden, finden Sie unter VMs mit höheren Bandbreiten erstellen.

Beschleunigungsoptimierte VMs

In diesem Abschnitt wird die maximale Netzwerkbandbreite beschrieben, die für beschleunigungsoptimierte VMs A3, A2 und G2 verfügbar ist.

A3-VMs

Jeder A3-Maschinentyp hat eine feste Anzahl von angehängten NVIDIA H100-GPUs mit 80 GB, eine feste Anzahl von vCPUs und eine feste VM-Speichergröße.

An A3-VMs sind auch mehrere physische Netzwerkkarten (NICs) angehängt. Jede dieser NICs hat eine maximale Bandbreite von 200 Gbit/s. Für jeden A3-Maschinentyp werden die NICs auf einem PCIe-Bus (Peripheral Component Interconnect Express) so angeordnet: <ph type="x-smartling-placeholder">
    </ph>
  • Für den Maschinentyp a3-highgpu-8g ist eine NIC-Anordnung von 4+1 verfügbar. Bei dieser Anordnung teilen sich 4 NICs denselben PCIe-Bus und eine NIC befindet sich auf einem separaten PCIe-Bus.
  • Für den Maschinentyp a3-megagpu-8g ist eine NIC-Anordnung von 8+1 verfügbar. Bei dieser Anordnung teilen sich 8 NICs denselben PCIe-Bus und 1 NIC befindet sich auf einem separaten PCIe-Bus.

NICs, die denselben PCIe-Bus verwenden, haben eine uneinheitliche Ausrichtung des Arbeitsspeicherzugriffs (NUMA) von einer NIC pro zwei NVIDIA H100-GPUs mit 80 GB. Diese NICs sind ideal für die dedizierte GPU-zu-GPU-Kommunikation mit hoher Bandbreite. Die physische NIC, die sich auf einem separaten PCIe-Bus befindet, ist ideal für andere Netzwerkanforderungen.

Maschinentyp GPU-Anzahl vCPU Anzahl VM-Arbeitsspeicher (GB) Maximale Netzwerkbandbreite (Gbit/s)
VM GPU-Cluster
a3-megagpu-8g 8 208 1.872 200 1.600
a3-highgpu-8g 8 208 1.872 200 800

A2-VMs

Jeder A2-Maschinentyp hat eine feste Anzahl von angehängten NVIDIA A100-GPUs mit 40 GB oder NVIDIA A100 80 GB. Jeder Maschinentyp hat außerdem eine feste Anzahl an vCPUs und eine feste Arbeitsspeichergröße.

A2-Maschinenserien sind in zwei Typen verfügbar:

  • A2 Ultra: Bei diesen Maschinentypen sind A100-GPUs mit 80 GB und eine lokale SSD angehängt.
  • A2 Standard: An diese Maschinentypen sind A100-GPUs mit 40 GB angehängt.

A2-Ultra

Maschinentyp GPU-Anzahl vCPU Anzahl VM-Arbeitsspeicher (GB) Maximale Netzwerkbandbreite (Gbit/s)
a2-ultragpu-1g 1 12 170 24
a2-ultragpu-2g 2 24 340 32
a2-ultragpu-4g 4 48 680 50
a2-ultragpu-8g 8 96 1.360 100

A2-Standard

Maschinentyp GPU-Anzahl vCPU Anzahl VM-Arbeitsspeicher (GB) Maximale Netzwerkbandbreite (Gbit/s)
a2-highgpu-1g 1 12 85 24
a2-highgpu-2g 2 24 170 32
a2-highgpu-4g 4 48 340 50
a2-highgpu-8g 8 96 680 100
a2-highgpu-16g 16 96 1.360 100

G2-VM-Konfiguration

Jeder G2-Maschinentyp hat eine feste Anzahl von NVIDIA L4-GPUs und vCPUs. Jeder G2-Maschinentyp hat auch einen Standardarbeitsspeicher und einen benutzerdefinierten Arbeitsspeicherbereich. Der benutzerdefinierte Arbeitsspeicherbereich definiert die Größe des Arbeitsspeichers, den Sie Ihrer VM für jeden Maschinentyp zuweisen können. Sie können Ihren benutzerdefinierten Arbeitsspeicher während der VM-Erstellung angeben.

Maschinentyp GPU-Anzahl vCPU Anzahl Standard-VM-Arbeitsspeicher (GB) Benutzerdefinierter VM-Arbeitsspeicherbereich (GB) Maximale Netzwerkbandbreite(Gbit/s)
g2-standard-4 1 4 16 16 bis 32 10
g2-standard-8 1 8 32 32 bis 54 16
g2-standard-12 1 12 48 48 bis 54 16
g2-standard-16 1 16 64 54 bis 64 32
g2-standard-24 2 24 96 96 bis 108 32
g2-standard-32 1 32 128 96 bis 128 32
g2-standard-48 4 48 192 192 bis 216 50
g2-standard-96 8 96 384 384 bis 432 100

N1-GPU-VMs

Bei N1-VMs für allgemeine Zwecke, an die T4- und V100-GPUs angeschlossen sind, können Sie basierend auf der Kombination aus GPU und Anzahl der vCPUs eine maximale Netzwerkbandbreite von bis zu 100 Gbit/s erhalten. Informationen zu allen anderen N1-GPU-VMs finden Sie unter Übersicht.

Lesen Sie den folgenden Abschnitt, um die maximale Netzwerkbandbreite zu berechnen, die für Ihre T4- und V100-VMs basierend auf dem GPU-Modell, der vCPU und der GPU-Anzahl verfügbar ist.

Weniger als 5 vCPUs

Für T4- und V100-VMs mit maximal 5 vCPUs steht eine maximale Netzwerkbandbreite von 10 Gbit/s zur Verfügung.

Mehr als 5 vCPUs

Bei T4- und V100-VMs mit mehr als 5 vCPUs wird die maximale Netzwerkbandbreite anhand der Anzahl der vCPUs und GPUs für diese VM berechnet.

GPU-Modell Anzahl der GPUs Berechnung der maximalen Netzwerkbandbreite
NVIDIA V100 1 min(vcpu_count * 2, 32)
2 min(vcpu_count * 2, 32)
4 min(vcpu_count * 2, 50)
8 min(vcpu_count * 2, 100)
NVIDIA T4 1 min(vcpu_count * 2, 32)
2 min(vcpu_count * 2, 50)
4 min(vcpu_count * 2, 100)

VMs mit hoher Bandbreite erstellen

Informationen zum Erstellen von VMs mit höheren Netzwerkbandbreiten finden Sie unter Höhere Netzwerkbandbreite verwenden.

Zum Testen oder Prüfen der Bandbreitengeschwindigkeit für jede Konfiguration können Sie den Benchmarking-Test verwenden. Weitere Informationen finden Sie unter Netzwerkbandbreite prüfen.

Nächste Schritte