Larguras de banda de rede e GPUs

Larguras de banda de rede mais altas podem melhorar o desempenho das cargas de trabalho distribuídas em execução nas instâncias de máquina virtual (VM) do Compute Engine.

Visão geral

A largura de banda de rede máxima disponível para VMs com GPUs anexadas no Compute Engine é a seguinte:

  • Para VMs de uso geral N1 com GPUs P100, P4 e K80 conectadas, está disponível uma largura de banda de rede máxima de 32 Gbps. Isso é semelhante à taxa máxima disponível para VMs que não têm GPUs anexadas. Para mais informações sobre larguras de banda de rede, consulte taxa de dados de saída máxima.
  • Para VMs de uso geral N1 com GPUs T4 e V100 anexadas, é possível ter uma largura de banda de rede máxima de até 100 Gbps, com base na combinação da contagem de GPUs e vCPUs.
  • Para VMs otimizadas para aceleradores A2 e G2, é possível ter uma largura de banda de rede máxima de até 100 Gbps, com base no tipo de máquina.
  • Para VMs otimizadas para aceleradores A3, é possível ter uma largura de banda de rede máxima de 1.000 Gbps (1 Tbps).

Largura de banda de rede e placa de rede virtual do Google (gVNIC)

Para aplicar as taxas mais altas de largura de banda de rede (50 Gbps ou mais) às VMs de GPU, é recomendado usar a placa de rede virtual do Google (gVNIC). Para saber como criar VMs de GPU que usam a gVNIC, consulte Como criar VMs de GPU que usam larguras de banda maiores.

VMs otimizadas para aceleradores

Esta seção descreve a largura de banda de rede máxima disponível para as VMs otimizadas para aceleradores A3, A2 e G2.

VMs A3

Cada tipo de máquina A3 tem um número fixo de GPUs NVIDIA H100 de 80 GB anexadas. Cada tipo de máquina também tem uma contagem fixa de vCPUs e um tamanho de memória.

Cada VM a3-highgpu-8g tem cinco placas de interface de rede física (NICs), quatro das quais compartilham o mesmo barramento PCIe (Peripheral Component Interconnect Express) e têm um alinhamento de acesso à memória não uniforme (NUMA) de um NIC por duas GPUs NVIDIA H100 de 80 GB. Essas quatro NICs físicas são ideais para comunicação dedicada de GPU para GPU de alta largura de banda. A outra NIC física reside em um barramento PCIe separado e é ideal para outras necessidades de rede. Cada placa de rede tem uma largura de banda máxima de 200 Gbps, que totaliza para uma largura de banda máxima de 1.000 Gbps (1 Tbps) por VM.
Tipo de máquina Contagem de GPUs vCPUs Memória Largura de banda máxima da rede
a3-highgpu-8g 8 208 1.872 GB 1.000 Gbps

VMs A2

Cada tipo de máquina A2 tem um número fixo de GPUs NVIDIA A100 de 40 GB ou NVIDIA A100 de 80 GB anexadas. Cada tipo de máquina também tem uma contagem fixa de vCPUs e um tamanho de memória.

A100 40 GB

Tipo de máquina Contagem de GPUs vCPUs Memória Largura de banda máxima da rede
a2-highgpu-1g 1 12 85 GB 24 Gbps
a2-highgpu-2g 2 24 170 GB 32 Gbps
a2-highgpu-4g 4 48 340 GB 50 Gbps
a2-highgpu-8g 8 96 680 GB 100 Gbps
a2-highgpu-16g 16 96 1360 GB 100 Gbps

A100 80 GB

Tipo de máquina Contagem de GPUs vCPUs Memória Largura de banda máxima da rede
a2-ultragpu-1g 1 12 170 GB 24 Gbps
a2-ultragpu-2g 2 24 340 GB 32 Gbps
a2-ultragpu-4g 4 48 680 GB 50 Gbps
a2-ultragpu-8g 8 96 1360 GB 100 Gbps

Configuração da VM G2

Cada tipo de máquina G2 tem um número fixo de GPUs NVIDIA L4 e vCPUs anexadas. Cada tipo de máquina G2 também tem uma memória padrão e um intervalo de memória personalizado. O intervalo de memória personalizado define a quantidade de memória que pode ser alocada à VM para cada tipo de máquina. É possível especificar a memória personalizada durante a criação da VM.

Tipo de máquina Contagem de GPUs vCPUs Memória padrão Intervalo de memória personalizado Largura de banda máxima da rede
g2-standard-4 1 4 vCPUs 16 GB 16 - 32 GB 10 Gbps
g2-standard-8 1 8 vCPUs 32 GB 32 - 54 GB 16 Gbps
g2-standard-12 1 12 vCPUs 48 GB 48 - 54 GB 16 Gbps
g2-standard-16 1 16 vCPUs 64 GB 54 - 64 GB 32 Gbps
g2-standard-24 2 24 vCPUs 96 GB 96 - 108 GB 32 Gbps
g2-standard-32 1 32 vCPUs 128 GB 96 - 128 GB 32 Gbps
g2-standard-48 4 48 vCPUs 192 GB 192 - 216 GB 50 Gbps
g2-standard-96 8 96 vCPUs 384 GB 384 - 432 GB 100 Gbps

VMs de GPU N1

Para VMs de uso geral N1 com GPUs T4 e V100 anexadas, é possível ter uma largura de banda de rede máxima de até 100 Gbps, com base na combinação da contagem de GPUs e vCPUs. Para todas as outras VMs de GPU N1, consulte a Visão geral.

Consulte a seção a seguir para calcular a largura de banda de rede máxima disponível para as VMs T4 e V100 com base no modelo de GPU, na vCPU e na contagem de GPUs.

Menos de cinco vCPUs

Para VMs T4 e V100 com cinco vCPUs ou menos, está disponível uma largura de banda de rede máxima de 10 Gbps.

Mais de cinco vCPUs

Para VMs T4 e V100 com mais de cinco vCPUs, a largura de banda de rede máxima é calculada com base no número de vCPUs e GPUs da VM.

Modelo de GPU Número de GPUs Cálculo da largura de banda de rede máxima
NVIDIA V100 1 min(vcpu_count * 2, 32)
2 min(vcpu_count * 2, 32)
4 min(vcpu_count * 2, 50)
8 min(vcpu_count * 2, 100)
NVIDIA T4 1 min(vcpu_count * 2, 32)
2 min(vcpu_count * 2, 50)
4 min(vcpu_count * 2, 100)

Criar VMs com largura de banda alta

Para criar VMs que usem larguras de banda de rede maiores, consulte Usar largura de banda de rede maior.

Para testar ou verificar a velocidade de largura de banda de qualquer configuração, use o teste de comparação. Para mais informações, consulte Como verificar a largura de banda da rede.

A seguir