Ancho de banda de la red y GPU


Un ancho de banda de red más alto puede mejorar el rendimiento de las cargas de trabajo distribuidas que se ejecutan en las instancias de máquina virtual (VM) de Compute Engine.

Descripción general

El ancho de banda de red máximo disponible para las VMs con GPU conectadas en Compute Engine es el siguiente:

  • Las VMs de uso general N1 que tienen adjuntas las GPU P100, P4 y K80 tienen disponible un ancho de banda de red máximo de 32 Gbps. Esto es similar a la velocidad máxima disponible para las VMs N1 que no tienen GPU adjuntas. Para obtener más información sobre el ancho de banda de la red, consulta la tasa máxima de datos de salida.
  • Para las VMs de uso general N1 que tienen adjuntas las GPU T4 y V100, puedes obtener un ancho de banda de red máximo de hasta 100 Gbps, según la combinación de la cantidad de GPU y CPU virtuales.
  • Para las VMs optimizadas para aceleradores A2 y G2, puedes obtener un ancho de banda de red máximo de hasta 100 Gbps, según el tipo de máquina.
  • Para las VMs optimizadas para aceleradores A3, puedes obtener un ancho de banda de red máximo de hasta 1,000 Gbps (1 Tbps).

Ancho de banda de red y NIC virtual de Google (gVNIC)

Para obtener las tasas de ancho de banda de red más altas (50 Gbps o más) aplicadas a tus VMs de GPU, te recomendamos que uses una NIC virtual de Google (gVNIC). Si quieres más información para crear VMs de GPU que usen gVNIC, consulta Crea VMs que usen anchos de banda más altos.

VMs optimizadas para aceleradores

En esta sección, se describe el ancho de banda de red máximo disponible para las VMs optimizadas para aceleradores A3, A2 y G2.

VMs A3

Cada tipo de máquina A3 tiene una cantidad fija de GPU NVIDIA H100 de 80 GB conectadas. Cada tipo de máquina también tiene un recuento fijo de CPU virtuales y de tamaño de memoria.

Cada VM a3-highgpu-8g tiene cinco tarjetas de interfaz de red (NIC) físicas, cuatro de las cuales comparten el mismo bus de interconexión de componentes periféricos (PCIe) y tienen una alineación de acceso de memoria no uniforme (NUMA) de una NIC por dos GPU NVIDIA H100 de 80 GB. Estas cuatro NIC físicas son ideales para la comunicación dedicada de GPU de alto ancho de banda a GPU. La otra NIC física reside en un bus PCIe distinto y es ideal para otras necesidades de red. Cada NIC tiene un ancho de banda máximo de 200 Gbps, que equivale a un ancho de banda máximo de 1,000 Gbps (1 Tbps) por VM.
Tipo de máquina Recuento de GPU CPU virtuales Memoria Ancho de banda máximo de red
a3-highgpu-8g 8 208 1,872 GB 1,000 Gbps

VM A2

Cada tipo de máquina A2 tiene una cantidad fija de GPU NVIDIA A100 de 40 GB o NVIDIA A100 de 80 GB conectadas. Cada tipo de máquina también tiene un recuento fijo de CPU virtuales y de tamaño de memoria.

A100 40 GB

Tipo de máquina Recuento de GPU CPU virtuales Memoria Ancho de banda máximo de red
a2-highgpu-1g 1 12 85 GB 24 Gbps
a2-highgpu-2g 2 24 170 GB 32 Gbps
a2-highgpu-4g 4 48 340 GB 50 Gbps
a2-highgpu-8g 8 96 680 GB 100 Gbps
a2-highgpu-16g 16 96 1,360 GB 100 Gbps

A100 80 GB

Tipo de máquina Recuento de GPU CPU virtuales Memoria Ancho de banda máximo de red
a2-ultragpu-1g 1 12 170 GB 24 Gbps
a2-ultragpu-2g 2 24 340 GB 32 Gbps
a2-ultragpu-4g 4 48 680 GB 50 Gbps
a2-ultragpu-8g 8 96 1,360 GB 100 Gbps

Configuración de VM G2

Cada tipo de máquina G2 tiene una cantidad fija de GPU NVIDIA L4 y CPU virtuales conectadas. Cada tipo de máquina G2 también tiene una memoria predeterminada y un rango de memoria personalizado. El rango de memoria personalizado define la cantidad de memoria que puedes asignar a tu VM para cada tipo de máquina. Puedes especificar la memoria personalizada durante la creación de la VM.

Tipo de máquina Recuento de GPU CPU virtuales Memoria predeterminada Rango de memoria personalizado Ancho de banda máximo de red
g2-standard-4 1 4 CPUs virtuales 16 GB De 16 a 32 GB 10 Gbps
g2-standard-8 1 8 CPUs virtuales 32 GB De 32 a 54 GB 16 Gbps
g2-standard-12 1 12 CPU virtuales 48 GB De 48 a 54 GB 16 Gbps
g2-standard-16 1 16 CPUs virtuales 64 GB De 54 a 64 GB 32 Gbps
g2-standard-24 2 24 CPU virtuales 96 GB De 96 a 108 GB 32 Gbps
g2-standard-32 1 32 CPU virtuales 128 GB De 96 a 128 GB 32 Gbps
g2-standard-48 4 48 CPU virtuales 192 GB De 192 a 216 GB 50 Gbps
g2-standard-96 8 96 CPUs virtuales 384 GB De 384 a 432 GB 100 Gbps

VMs N1 de GPU

Para las VMs de uso general N1 que tienen adjuntas las GPU T4 y V100, puedes obtener un ancho de banda de red máximo de hasta 100 Gbps, según la combinación de la cantidad de GPU y CPU virtuales. Para todas las demás VMs de GPU N1, consulta Descripción general.

Revisa la siguiente sección a fin de calcular el ancho de banda de red máximo disponible para tus VMs T4 y V100 según el modelo de GPU, la CPU virtual y la cantidad de GPU.

Menos de 5 CPU virtuales

Para las VMs T4 y V100 que tienen 5 CPU virtuales o menos, hay un ancho de banda de red máximo de 10 Gbps.

Más de 5 CPU virtuales

Para las VMs T4 y V100 que tienen más de 5 CPU virtuales, el ancho de banda máximo de la red se calcula en función de la cantidad de CPU virtuales y GPU para esa VM.

Modelo de GPU Cantidad de GPU Cálculo del ancho de banda de red máximo
NVIDIA V100 1 min(vcpu_count * 2, 32)
2 min(vcpu_count * 2, 32)
4 min(vcpu_count * 2, 50)
8 min(vcpu_count * 2, 100)
NVIDIA T4 1 min(vcpu_count * 2, 32)
2 min(vcpu_count * 2, 50)
4 min(vcpu_count * 2, 100)

Crea VMs con ancho de banda alto

Para crear VMs que usen anchos de banda de red más altos, consulta Usa un ancho de banda de red más alto.

Para probar o verificar la velocidad del ancho de banda de cualquier configuración, puedes usar la prueba de comparativas. Para obtener más información, consulta Verifica el ancho de banda de la red.

Próximos pasos