Un ancho de banda de red más alto puede mejorar el rendimiento de las cargas de trabajo distribuidas que se ejecutan en las instancias de máquina virtual (VM) de Compute Engine.
Descripción general
El ancho de banda de red máximo disponible para las VMs con GPU conectadas en Compute Engine es el siguiente:
- Las VMs de uso general N1 que tienen adjuntas las GPU P100 y P4 tienen disponible un ancho de banda de red máximo de 32 Gbps. Esto es similar a la velocidad máxima disponible para las VMs N1 que no tienen GPU adjuntas. Para obtener más información sobre el ancho de banda de la red, consulta la tasa máxima de datos de salida.
- Para las VMs de uso general N1 que tienen adjuntas las GPU T4 y V100, puedes obtener un ancho de banda de red máximo de hasta 100 Gbps, según la combinación de la cantidad de GPU y CPU virtuales.
- Para las VMs optimizadas para aceleradores A2 y G2, puedes obtener un ancho de banda de red máximo de hasta 100 Gbps, según el tipo de máquina.
- Para las VMs optimizadas para aceleradores A3, puedes conseguir un ancho de banda de red máximo de hasta 1800 Gbps.
Ancho de banda de red y NIC virtual de Google (gVNIC)
Para obtener las tasas de ancho de banda de red más altas (50 Gbps o más) aplicadas a tus VMs de GPU, te recomendamos que uses una NIC virtual de Google (gVNIC). Si quieres más información para crear VMs de GPU que usen gVNIC, consulta Crea VMs que usen anchos de banda más altos.
VMs optimizadas para aceleradores
En esta sección, se describe el ancho de banda de red máximo disponible para las VMs optimizadas para aceleradores A3, A2 y G2.
VMs A3
Cada tipo de máquina A3 tiene adjunta una cantidad fija de GPU NVIDIA H100 de 80 GB, un recuento fijo de CPU virtuales y un tamaño de memoria de VM fijo.
Las VMs A3 también tienen varias tarjetas físicas de interfaz de red (NIC) conectadas. Cada uno de estas NIC tiene un ancho de banda máximo de 200 Gbps. Para cada tipo de máquina A3, las NIC se organizan de la siguiente manera en un bus exprés de interconexión de componentes periféricos (PCIe):- Para el tipo de máquina
a3-highgpu-8g, hay una disposición de NIC de 4 + 1 disponible. Con esta disposición, 4 NIC comparten el mismo bus PCIe, y 1 NIC reside en un bus PCIe independiente. - Para el tipo de máquina
a3-megagpu-8g, hay una disposición de NIC de 8 + 1 disponible. Con esta disposición, 8 NIC comparten el mismo bus PCIe, y 1 NIC reside en un bus PCIe independiente.
Las NIC que comparten el mismo bus PCIe tienen una alineación de acceso a la memoria no uniforme (NUMA) de una NIC por dos GPU NVIDIA H100 de 80 GB. Estas NIC son ideales para la comunicación dedicada de gran ancho de banda de GPU a GPU. La NIC física que reside en un bus PCIe independiente es ideal para otras necesidades de red.
| Tipo de máquina | Recuento de GPU | Recuento de CPU virtuales | Memoria de la VM (GB) | Ancho de banda de red máximo (Gbps) | |
|---|---|---|---|---|---|
| VM | Clúster de GPU | ||||
a3-megagpu-8g |
8 | 208 | 1,872 | 200 | 1,600 |
a3-highgpu-8g |
8 | 208 | 1,872 | 200 | 800 |
VM A2
Cada tipo de máquina A2 tiene una cantidad fija de GPU NVIDIA A100 de 40 GB o NVIDIA A100 de 80 GB conectadas. Cada tipo de máquina también tiene un recuento fijo de CPU virtuales y de tamaño de memoria.
Las series de máquinas A2 están disponibles en dos tipos:
- A2 Ultra: Estos tipos de máquinas tienen GPU A100 de 80 GB y SSD local conectados.
- A2 estándar: Estos tipos de máquinas tienen GPU A100 de 40 GB conectadas.
A2 ultra
| Tipo de máquina | Recuento de GPU | Recuento de CPU virtuales | Memoria de la VM (GB) | Ancho de banda de red máximo (Gbps) |
|---|---|---|---|---|
a2-ultragpu-1g |
1 | 12 | 170 | 24 |
a2-ultragpu-2g |
2 | 24 | 340 | 32 |
a2-ultragpu-4g |
4 | 48 | 680 | 50 |
a2-ultragpu-8g |
8 | 96 | 1,360 | 100 |
A2 estándar
| Tipo de máquina | Recuento de GPU | Recuento de CPU virtuales | Memoria de la VM (GB) | Ancho de banda de red máximo (Gbps) |
|---|---|---|---|---|
a2-highgpu-1g |
1 | 12 | 85 | 24 |
a2-highgpu-2g |
2 | 24 | 170 | 32 |
a2-highgpu-4g |
4 | 48 | 340 | 50 |
a2-highgpu-8g |
8 | 96 | 680 | 100 |
a2-highgpu-16g |
16 | 96 | 1,360 | 100 |
Configuración de VM G2
Cada tipo de máquina G2 tiene una cantidad fija de GPU NVIDIA L4 y CPU virtuales conectadas. Cada tipo de máquina G2 también tiene una memoria predeterminada y un rango de memoria personalizado. El rango de memoria personalizado define la cantidad de memoria que puedes asignar a tu VM para cada tipo de máquina. Puedes especificar la memoria personalizada durante la creación de la VM.
| Tipo de máquina | Recuento de GPU | Recuento de CPU virtuales | Memoria de VM predeterminada (GB) | Rango de memoria de la VM personalizado (GB) | Ancho de banda de red máximo (Gbps) |
|---|---|---|---|---|---|
g2-standard-4 |
1 | 4 | 16 | 16 a 32 | 10 |
g2-standard-8 |
1 | 8 | 32 | 32 a 54 | 16 |
g2-standard-12 |
1 | 12 | 48 | 48 a 54 | 16 |
g2-standard-16 |
1 | 16 | 64 | 54 a 64 | 32 |
g2-standard-24 |
2 | 24 | 96 | 96 a 108 | 32 |
g2-standard-32 |
1 | 32 | 128 | 96 a 128 | 32 |
g2-standard-48 |
4 | 48 | 192 | 192 a 216 | 50 |
g2-standard-96 |
8 | 96 | 384 | 384 a 432 | 100 |
VMs N1 de GPU
Para las VMs de uso general N1 que tienen adjuntas las GPU T4 y V100, puedes obtener un ancho de banda de red máximo de hasta 100 Gbps, según la combinación de la cantidad de GPU y CPU virtuales. Para todas las demás VMs de GPU N1, consulta Descripción general.
Revisa la siguiente sección a fin de calcular el ancho de banda de red máximo disponible para tus VMs T4 y V100 según el modelo de GPU, la CPU virtual y la cantidad de GPU.
Menos de 5 CPU virtuales
Para las VMs T4 y V100 que tienen 5 CPU virtuales o menos, hay un ancho de banda de red máximo de 10 Gbps.
Más de 5 CPU virtuales
Para las VMs T4 y V100 que tienen más de 5 CPU virtuales, el ancho de banda máximo de la red se calcula en función de la cantidad de CPU virtuales y GPU para esa VM.
| Modelo de GPU | Cantidad de GPU | Cálculo del ancho de banda de red máximo |
|---|---|---|
| NVIDIA V100 | 1 | min(vcpu_count * 2, 32) |
| 2 | min(vcpu_count * 2, 32) |
|
| 4 | min(vcpu_count * 2, 50) |
|
| 8 | min(vcpu_count * 2, 100) |
|
| NVIDIA T4 | 1 | min(vcpu_count * 2, 32) |
| 2 | min(vcpu_count * 2, 50) |
|
| 4 | min(vcpu_count * 2, 100) |
Crea VMs con ancho de banda alto
Para crear VMs que usen anchos de banda de red más altos, consulta Usa un ancho de banda de red más alto.
Para probar o verificar la velocidad del ancho de banda de cualquier configuración, puedes usar la prueba de comparativas. Para obtener más información, consulta Verifica el ancho de banda de la red.
Próximos pasos
- Más información sobre las plataformas de GPU.
- Aprende a crear VM con GPU adjuntas.
- Aprende a usar un ancho de banda de red más alto.
- Obtén información sobre los precios de GPU.