가속기 최적화 머신 계열

가속기 최적화 머신 계열은 머신러닝(ML) 및 고성능 컴퓨팅(HPC)과 같은 대규모 병렬 컴퓨팅 통합 기기 아키텍처(CUDA) 워크로드에 적합합니다.

가속기 최적화 머신 계열은 A2 표준 및 울트라 머신 유형과 G2 표준 머신 유형에서 사용할 수 있습니다.

가속기 최적화 머신 계열은 다음 기능을 제공합니다.

  • 연결된 차세대 NVIDIA GPU
    • A2 가속기 최적화 머신 유형의 경우 NVIDIA A100 GPU가 연결됩니다. A100 40GB 및 A100 80GB 옵션 모두에서 사용 가능합니다.
    • G2 가속기 최적화 머신 유형의 경우 NVIDIA L4 GPU가 연결됩니다.
  • 최대 100Gbps의 고성능 네트워크 대역폭.
  • 가상화 최적화.
  • 로컬 SSD 지원 - 이를 빠른 스크래치 디스크로 사용하거나 I/O 병목 현상을 방지하면서 A100 및 GPU에 데이터를 공급하는 데 사용할 수 있습니다.
    • A2 및 G2 표준 머신 유형의 경우 최대 3TB까지 로컬 SSD를 추가할 수 있습니다.
    • A2 울트라 머신 유형의 경우 로컬 SSD가 머신에 번들로 제공됩니다.

더 높은 스토리지 성능을 필요로 하는 애플리케이션의 경우 이 시리즈의 머신 유형에 최대 257TB까지 영구 디스크 스토리지를 연결할 수 있습니다.

이 머신 계열은 2세대 Intel Xeon Platinum 프로세서(Cascade Lake)를 기반으로 하며 최대 3.7GHz의 지속형 단일 코어 최대 터보 주파수를 제공합니다.

머신 워크로드
A2 표준 머신 유형
  • CUDA 사용 설정 ML 학습 및 추론
  • HPC: 고성능 컴퓨팅
  • 동시에 로드되는 대규모 계산
A2 울트라 머신 유형
  • CUDA 사용 설정 ML 학습 및 추론
  • HPC: 고성능 컴퓨팅
  • 동시에 로드되는 대규모 계산
  • BERT 자연어 처리
  • 딥 러닝 추천 모델(DLRM)
G2 표준 머신 유형
  • CUDA 사용 설정 ML 학습 및 추론
  • HPC: 고성능 컴퓨팅
  • 동영상 트랜스코딩
  • 원격 시각화 워크스테이션

A2 머신 시리즈

A2 머신 계열은 A2 표준 및 A2 울트라 머신 유형에서 사용 가능합니다. 이러한 머신은 12~96개의 vCPU와 최대 1360GB 메모리를 포함합니다.

A2 머신 시리즈는 다음 기능도 제공합니다.

  • 600Gbps의 GPU NVLink 대역폭에 최대 GPU를 제공하는 업계 최고의 NVLink 확장. 예를 들어 16개의 GPU가 있는 시스템의 총 NVLink 대역폭은 초당 최대 9.6테라바이트입니다. 이러한 16개의 GPU는 통합 메모리 공간이 있는 단일 고성능 가속기로 사용되어 인공지능, 딥 러닝 및 머신러닝 워크로드에 사용할 수 있는 최대 10페타플롭의 컴퓨팅 성능과 최대 20페타플롭의 추론 컴퓨팅 성능을 제공합니다.
  • 차세대 컴퓨팅 속도 - 연결된 NVIDIA A100 GPU는 이전 세대 NVIDIA V100 GPU에 비해 컴퓨팅 속도가 최대 10배 향상됩니다.

모든 A2 머신 유형은 리소스 기반 약정 사용 할인을 받을 수 있습니다. A2 VM에는 지속 사용 할인 및 유연한 약정 사용 할인이 적용되지 않습니다.

A2 표준 머신 시리즈

이러한 머신 유형에는 고정된 개수의 A100 40GB GPU가 포함됩니다.

머신 유형 GPU 수 vCPUs* 메모리(GB) 최대 영구 디스크(PD) 수† 최대 총 PD 크기(TB) 로컬 SSD 최대 이그레스 대역폭(Gbps)‡
a2-highgpu-1g 1 12 85 128 257 예 24
a2-highgpu-2g 2 24 170 128 257 예 32
a2-highgpu-4g 4 48 340 128 257 예 50
a2-highgpu-8g 8 96 680 128 257 예 100
a2-megagpu-16g 16 96 1360 128 257 예 100

*vCPU는 사용 가능한 CPU 플랫폼 중 하나에서 단일 하드웨어 하이퍼 스레드로 구현됩니다.
†영구 디스크 사용 요금은 머신 유형 가격과 별도로 청구됩니다.
‡최대 이그레스 대역폭은 지정된 수를 초과할 수 없습니다. 실제 이그레스 대역폭은 대상 IP 주소와 기타 요인에 따라 다릅니다. 네트워크 대역폭을 참조하세요.

A2 표준 제한사항

  • A2 표준 머신 유형을 사용하는 VM에는 지속 사용 할인이 적용되지 않습니다.
  • 특정 리전 및 영역에서만 A2 표준 머신 유형을 사용할 수 있습니다.
  • A2 표준 머신 유형은 Cascade Lake 플랫폼에서만 사용할 수 있습니다.
  • A2 표준 머신 유형을 사용하는 VM에서는 리전 영구 디스크를 사용할 수 없습니다.
  • Windows 운영체제에서는 a2-megagpu-16g A2 표준 머신 유형을 사용할 수 없습니다. Windows 운영체제를 사용하는 경우 다른 A2 표준 머신 유형을 선택합니다.
  • A2 표준 머신 유형을 사용하는 Windows VM에서는 연결된 로컬 SSD를 빠르게 포맷할 수 없습니다. 이러한 로컬 SSD를 포맷하려면 diskpart 유틸리티를 사용하고 format fs=ntfs label=tmpfs를 지정하여 전체 포맷을 수행해야 합니다.

A2 울트라 머신 계열

이러한 머신 유형에는 고정된 개수의 A100 80GB GPU가 포함됩니다. 각 A2 울트라 머신에는 또한 최대 3TB의 로컬 SSD가 연결되어 제공됩니다.

머신 유형 GPU 수 vCPUs* 메모리(GB) 최대 영구 디스크(PD) 수† 최대 총 PD 크기(TB) 번들 로컬 SSD 최대 이그레스 대역폭(Gbps)‡
a2-ultragpu-1g 1 12 170 128 257 375GB 24
a2-ultragpu-2g 2 24 340 128 257 750GB 32
a2-ultragpu-4g 4 48 680 128 257 1.5TB 50
a2-ultragpu-8g 8 96 1360 128 257 3TB 100

*vCPU는 사용 가능한 CPU 플랫폼 중 하나에서 단일 하드웨어 하이퍼 스레드로 구현됩니다.
†영구 디스크 사용 요금은 머신 유형 가격과 별도로 청구됩니다.
‡최대 이그레스 대역폭은 지정된 수를 초과할 수 없습니다. 실제 이그레스 대역폭은 대상 IP 주소와 기타 요인에 따라 다릅니다. 네트워크 대역폭을 참조하세요.

A2 울트라 제한사항

  • A2 울트라 머신 유형을 사용하는 VM에는 지속 사용 할인이 적용되지 않습니다.
  • 특정 리전 및 영역에서만 A2 울트라 머신 유형을 사용할 수 있습니다.
  • A2 울트라 머신 유형은 Cascade Lake 플랫폼에서만 사용할 수 있습니다.
  • A2 울트라 머신 유형을 사용하는 VM에서는 리전 영구 디스크를 사용할 수 없습니다.
  • A2 울트라 머신 유형을 사용하는 Windows VM에서는 연결된 로컬 SSD를 빠르게 포맷할 수 없습니다. 이러한 로컬 SSD를 포맷하려면 diskpart 유틸리티를 사용하고 format fs=ntfs label=tmpfs를 지정하여 전체 포맷을 수행해야 합니다.
  • A2 울트라 머신 계열을 사용하는 VM에 대해서는 머신 유형을 변경할 수 없습니다. 다른 A2 울트라 머신 유형이나 다른 머신 계열을 사용해야 하는 경우 새 VM을 만들어야 합니다.
  • 다른 머신 유형은 A2 울트라 머신 유형으로 변경할 수 없습니다. A2 울트라 머신 유형을 사용하는 VM을 만들어야 하는 경우 새 VM을 만들어야 합니다.

G2 머신 시리즈

G2 머신 시리즈는 표준 머신 유형으로 제공되며 4~96개의 vCPU와 최대 432GB 메모리를 포함합니다. 이 머신 시리즈는 추론 및 그래픽 워크로드에 최적화되어 있습니다.

G2 머신 시리즈에서는 다음 기능도 제공합니다.

모든 G2 머신 유형은 리소스 기반 약정 사용 할인을 받을 수 있습니다. G2 VM에는 지속 사용 할인 및 유연한 약정 사용 할인이 적용되지 않습니다.

G2 표준 머신 시리즈

각 G2 머신 유형에는 고정된 NVIDIA L4 GPU 및 vCPU가 연결되어 있습니다. 각 G2 머신 유형에는 기본 메모리와 커스텀 메모리 범위도 있습니다. 커스텀 메모리 범위는 각 머신 유형에 대해 VM에 할당할 수 있는 메모리 양을 정의합니다. VM을 만드는 동안 커스텀 메모리를 지정할 수 있습니다.

머신 유형 GPU 수 vCPUs* 기본 메모리(GB) 커스텀 메모리 범위(GB) 최대 영구 디스크(PD) 수† 최대 총 PD 크기(TB) 지원되는 최대 로컬 SSD(GB) 최대 이그레스 대역폭(Gbps)‡
g2-standard-4 1 4 16 16 - 32 128 257 375 10
g2-standard-8 1 8 32 32 - 54 128 257 375 16
g2-standard-12 1 12 48 48 - 54 128 257 375 16
g2-standard-16 1 16 64 54 - 64 128 257 375 32
g2-standard-24 2 24 96 96 - 108 128 257 750 32
g2-standard-32 1 32 128 96 - 128 128 257 375 32
g2-standard-48 4 48 192 192 - 216 128 257 1500 50
g2-standard-96 8 96 384 384 - 432 128 257 3000 100

*vCPU는 사용 가능한 CPU 플랫폼 중 하나에서 단일 하드웨어 하이퍼 스레드로 구현됩니다.
†영구 디스크 사용 요금은 머신 유형 가격과 별도로 청구됩니다.
‡최대 이그레스 대역폭은 지정된 수를 초과할 수 없습니다. 실제 이그레스 대역폭은 대상 IP 주소와 기타 요인에 따라 다릅니다. 네트워크 대역폭을 참조하세요.

G2 표준 제한사항

  • G2 표준 머신 유형을 사용하는 VM에는 지속 사용 할인이 적용되지 않습니다.
  • 특정 리전 및 영역에서만 G2 표준 머신 유형을 사용할 수 있습니다.
  • G2 표준 머신 유형은 Cascade Lake 플랫폼에서만 사용할 수 있습니다.
  • G2 표준 머신 유형을 사용하는 VM에서는 리전 영구 디스크를 사용할 수 없습니다.
  • G2 표준 머신 유형을 사용하는 VM에서는 표준 영구 디스크(pd-standard)가 지원되지 않습니다. 지원되는 디스크 유형은 G2 표준 VM을 참조하세요.
  • G2 표준 머신 유형에서는 멀티 인스턴스 GPU를 만들 수 없습니다.
  • Deep Learning VM Image를 G2 표준 머신 유형을 사용하는 VM의 부팅 디스크로 사용할 수 없습니다.
  • 현재 Container-Optimized OS의 기본 드라이버는 G2 머신 유형에서 실행되는 L4 GPU를 지원하지 않습니다. Container-Optimized OS는 선택한 드라이버 세트만 지원합니다. 자세한 내용은 출시 노트를 참조하세요. G2 머신 유형에서 Container-Optimized OS를 사용하려면 다음 참고사항을 검토하세요.
    • 권장되는 NVIDIA 드라이버 버전 530.30.02 이상을 지원하는 Container-Optimized OS 버전을 사용합니다. NVIDIA 드라이버 버전 525.60.13도 작동할 수 있습니다.
    • 드라이버 설치 시 L4 GPU에서 작동하는 최신 버전을 지정합니다. 예를 들면 sudo cos-extensions install gpu -- -version=525.60.13입니다.
  • 다음 시나리오에서는 Google Cloud CLI 또는 Compute Engine API를 사용하여 G2 VM을 만들어야 합니다.
    • 커스텀 메모리 값을 지정하려고 하는 경우
    • 표시되는 CPU 코어 수를 맞춤설정하려고 합니다.

다음 단계