네트워크 대역폭과 GPU

컬렉션을 사용해 정리하기 내 환경설정을 기준으로 콘텐츠를 저장하고 분류하세요.

네트워크 대역폭이 높을수록 분산 워크로드의 성능을 높일 수 있습니다. Compute Engine에서 네트워크 대역폭은 머신 유형과 CPU 수에 따라 달라집니다. GPU가 연결된 가상 머신(VM) 인스턴스의 경우 GPU 개수, CPU, 메모리 구성도 네트워크 대역폭에 영향을 줍니다. GPU에 대한 자세한 내용은 GPU 플랫폼을 참조하세요.

50~100Gbps 속도를 달성하려면 VM에서 Google Virtual NIC(gVNIC)를 사용해야 합니다. gVNIC를 사용하는 GPU VM 만들기에 대한 자세한 내용은 더 높은 대역폭을 사용하는 VM 만들기를 참조하세요.

Compute Engine에서 연결된 GPU별로 사용 가능한 최대 대역폭은 다음과 같습니다.

  • P100, P4, K80 GPU가 연결된 VM에서 사용 가능한 최대 대역폭은 32Gbps입니다. 이것은 GPU가 연결되지 않은 VM에서 사용 가능한 최대 속도와 비슷합니다. 네트워크 대역폭에 대한 자세한 내용은 최대 이그레스 데이터 속도를 참조하세요.
  • V100, T4, A100 GPU가 연결된 VM의 경우에는 이제 GPU 수에 따라 최대 50Gbps 또는 100Gbps까지 대역폭이 지원됩니다. 최대 100Gbps까지 사용하는 V100, T4, A100 GPU가 있는 VM 인스턴스를 만들려면 최대 100Gbps까지 네트워크 대역폭 사용을 참조하세요.

VM 구성

특정 구성의 대역폭 속도를 테스트하거나 확인하려면 벤치마킹 테스트를 사용할 수 있습니다. 자세한 내용은 네트워크 대역폭 확인을 참조하세요.

다음 표에서는 A100 GPU 유형의 고정된 VM 구성에 사용 가능한 최대 네트워크 대역폭은 물론 T4 및 V100 GPU 유형의 서로 다른 VM 구성에 대한 최대 사용 가능한 네트워크 대역폭을 요약해서 보여줍니다.

V100 VM 구성

GPU 수 vCPU 메모리 네트워크 대역폭
1 1~12 1GB~78GB 24Gbps
2 1~24 1GB~156GB 32Gbps
4 1~48 1 - 312GB 50Gbps
8 1~96 1GB~624GB 100Gbps

T4 VM 구성

GPU 수 vCPU 메모리 네트워크 대역폭
1 1~48 1 - 312GB 32Gbps
2 1~48 1 - 312GB 50Gbps
4 1~96 1GB~624GB 100Gbps

A100 VM 구성

A100 40GB

머신 유형(GPU 수) vCPU 메모리 네트워크 대역폭
a2-highgpu-1g(1) 12 85GB 24Gbps
a2-highgpu-2g(2) 24 170GB 32Gbps
a2-highgpu-4g(4) 48 340GB 50Gbps
a2-highgpu-8g(8) 96 680GB 100Gbps
a2-megagpu-16(16) 96 1360GB 100Gbps

A100 80GB

머신 유형(GPU 수) vCPU 메모리 네트워크 대역폭
a2-ultragpu-1g(1) 12 170GB 24Gbps
a2-ultragpu-2g(2) 24 340GB 32Gbps
a2-ultragpu-4g(4) 48 680GB 50Gbps
a2-ultragpu-8g(8) 96 1360GB 100Gbps

다음 단계