GPU가 연결된 인스턴스 만들기 개요

Compute Engine은 가상 머신(VM)에 추가할 수 있는 그래픽 처리 장치(GPU)를 제공합니다. 이 GPU를 사용하여 VM에서 머신러닝 및 데이터 처리와 같은 특정 워크로드를 가속화할 수 있습니다.

이 문서에서는 연결된 GPU로 VM을 만드는 데 필요한 단계에 대해 간략하게 설명합니다.

Compute Engine의 GPU에 대한 상세 설명은 GPU 정보를 참조하세요.

GPU 모델 선택

사용 가능한 GPU 모델 목록은 GPU 플랫폼을 참조하세요. 또한 선택한 GPU 모델에 지원되는 머신 유형을 기록해 둡니다.

각 모델에 대해 다음을 검토하는 것도 도움이 될 수 있습니다.

제한사항

GPU가 있는 모든 VM의 제한사항 외에도 연결된 GPU가 있는 각 머신 시리즈에는 다음과 같은 제한사항이 있습니다.

A4 VM

  • A4 머신 유형의 지원되는 프로비저닝 옵션을 사용해야 용량을 요청할 수 있습니다.
  • A4 머신 유형을 사용하는 VM에는 지속 사용 할인 및 가변형 약정 사용 할인이 적용되지 않습니다.
  • 특정 리전 및 영역에서만 A4 머신 유형을 사용할 수 있습니다.
  • A4 머신 유형을 사용하는 VM에서는 Persistent Disk(리전 또는 영역)를 사용할 수 없습니다.
  • A4 머신 유형은 Emerald Rapids CPU 플랫폼에서만 사용할 수 있습니다.
  • 기존 VM의 머신 유형을 A4 머신 유형으로 변경할 수 없습니다. 새 A4 VM만 만들 수 있습니다. A4 머신 유형을 사용하여 VM을 만든 후에는 머신 유형을 변경할 수 없습니다.
  • A4 머신 유형은 단독 테넌시를 지원하지 않습니다.
  • A4 머신 유형에서는 Windows 운영체제를 실행할 수 없습니다.

A3 Ultra VM

  • A3 Ultra 머신 유형의 지원되는 프로비저닝 옵션을 사용해야 용량을 요청할 수 있습니다.
  • A3 Ultra 머신 유형을 사용하는 VM에는 지속 사용 할인 및 가변형 약정 사용 할인이 적용되지 않습니다.
  • A3 Ultra 머신 유형은 특정 리전 및 영역에서만 사용할 수 있습니다.
  • A3 Ultra 머신 유형을 사용하는 VM에서는 Persistent Disk(리전 또는 영역)를 사용할 수 없습니다.
  • A3 Ultra 머신 유형은 Emerald Rapids CPU 플랫폼에서만 사용할 수 있습니다.
  • 기존 VM의 머신 유형을 A3 Ultra 머신 유형으로 변경할 수 없습니다. 새 A3-ultra VM만 만들 수 있습니다. A3 Ultra 머신 유형을 사용하여 VM을 만든 후에는 머신 유형을 변경할 수 없습니다.
  • A3 Ultra 머신 유형은 단독 테넌시를 지원하지 않습니다.
  • A3 Ultra 머신 유형에서는 Windows 운영체제를 실행할 수 없습니다.

A3 Mega VM

  • A3 Mega 머신 유형의 지원되는 프로비저닝 옵션을 사용해야 용량을 요청할 수 있습니다.
  • A3 Mega 머신 유형을 사용하는 VM에는 지속 사용 할인 및 가변형 약정 사용 할인이 적용되지 않습니다.
  • A3 Mega 머신 유형은 특정 리전 및 영역에서만 사용할 수 있습니다.
  • A3 Mega 머신 유형을 사용하는 VM에서는 리전 Persistent Disk를 사용할 수 없습니다.
  • A3 Mega 머신 유형은 Sapphire Rapids CPU 플랫폼에서만 사용할 수 있습니다.
  • 기존 VM의 머신 유형을 A3 Mega 머신 유형으로 변경할 수 없습니다. 새 A3-mega VM만 만들 수 있습니다. A3 Mega 머신 유형을 사용하여 VM을 만든 후에는 머신 유형을 변경할 수 없습니다.
  • A3 Mega 머신 유형은 단독 테넌시를 지원하지 않습니다.
  • A3 Mega 머신 유형에서는 Windows 운영체제를 실행할 수 없습니다.

A3 High VM

  • A3 High 머신 유형의 지원되는 프로비저닝 옵션을 사용해야 용량을 요청할 수 있습니다.
  • A3 High 머신 유형을 사용하는 VM에는 지속 사용 할인 및 가변형 약정 사용 할인이 적용되지 않습니다.
  • A3 High 머신 유형은 특정 리전 및 영역에서만 사용할 수 있습니다.
  • A3 High 머신 유형을 사용하는 VM에서는 리전 Persistent Disk를 사용할 수 없습니다.
  • A3 High 머신 유형은 Sapphire Rapids CPU 플랫폼에서만 사용할 수 있습니다.
  • 기존 VM의 머신 유형을 A3 High 머신 유형으로 변경할 수 없습니다. 새 A3-high VM만 만들 수 있습니다. A3 High 머신 유형을 사용하여 VM을 만든 후에는 머신 유형을 변경할 수 없습니다.
  • A3 High 머신 유형은 단독 테넌시를 지원하지 않습니다.
  • A3 High 머신 유형에서는 Windows 운영체제를 실행할 수 없습니다.
  • a3-highgpu-1g, a3-highgpu-2g, a3-highgpu-4g 머신 유형의 경우 다음과 같은 제한사항이 적용됩니다.
    • 이러한 머신 유형에서는 스팟 VM을 사용하거나 MIG의 크기 조절 요청과 같이 동적 워크로드 스케줄러(DWS)에 의존하는 기능을 사용하여 VM을 만들어야 합니다. 이러한 옵션에 대한 자세한 내용은 다음을 참조하세요.
    • 이러한 머신 유형에서는 Hyperdisk Balanced를 사용할 수 없습니다.
    • 예약을 만들 수 없습니다.
    표준 프로비저닝을 사용하여 VM을 만들거나 이러한 머신 유형에 대한 예약을 만들려고 시도하면 오류 메시지가 표시됩니다.

A3 Edge VM

  • A3 Edge 머신 유형의 지원되는 프로비저닝 옵션을 사용해야 용량을 요청할 수 있습니다.
  • A3 Edge 머신 유형을 사용하는 VM에는 지속 사용 할인 및 가변형 약정 사용 할인이 적용되지 않습니다.
  • A3 Edge 머신 유형은 특정 리전 및 영역에서만 사용할 수 있습니다.
  • A3 Edge 머신 유형을 사용하는 VM에서는 리전 Persistent Disk를 사용할 수 없습니다.
  • A3 Edge 머신 유형은 Sapphire Rapids CPU 플랫폼에서만 사용할 수 있습니다.
  • 기존 VM의 머신 유형을 A3 Edge 머신 유형으로 변경할 수 없습니다. 새 A3-edge VM만 만들 수 있습니다. A3 Edge 머신 유형을 사용하여 VM을 만든 후에는 머신 유형을 변경할 수 없습니다.
  • A3 Edge 머신 유형은 단독 테넌시를 지원하지 않습니다.
  • A3 Edge 머신 유형에서는 Windows 운영체제를 실행할 수 없습니다.

A2 Standard VM

  • A2 Standard 머신 유형의 지원되는 프로비저닝 옵션을 사용해야 용량을 요청할 수 있습니다.
  • A2 Standard 머신 유형을 사용하는 VM에는 지속 사용 할인 및 가변형 약정 사용 할인이 적용되지 않습니다.
  • 특정 리전과 영역에서만 A2 Standard 머신 유형을 사용할 수 있습니다.
  • Cascade Lake 플랫폼에서만 A2 표준 머신 유형을 사용할 수 있습니다.
  • VM에서 A2 Standard 머신 유형을 사용하는 경우 한 A2 Standard 머신 유형에서 다른 A2 Standard 머신 유형으로만 전환할 수 있습니다. 그 밖의 다른 머신 유형으로는 변경할 수 없습니다. 자세한 내용은 가속기 최적화 VM 수정을 참조하세요.
  • <codea2-megagpu-16g< code="" dir="ltr" translate="no"> A2 Standard 머신 유형에서는 Windows 운영체제를 사용할 수 없습니다. Windows 운영체제를 사용하는 경우 다른 A2 Standard 머신 유형을 선택합니다.</codea2-megagpu-16g<>
  • A2 Standard 머신 유형을 사용하는 Windows VM에서는 연결된 로컬 SSD를 빠르게 포맷할 수 없습니다. 이러한 로컬 SSD를 포맷하려면 diskpart 유틸리티를 사용하고 format fs=ntfs label=tmpfs를 지정하여 전체 포맷을 수행해야 합니다.
  • A2 Standard 머신 유형은 단독 테넌시를 지원하지 않습니다.

A2 Ultra VM

  • A2 Ultra 머신 유형의 지원되는 프로비저닝 옵션을 사용해야 용량을 요청할 수 있습니다.
  • A2 Ultra 머신 유형을 사용하는 VM에는 지속 사용 할인 및 가변형 약정 사용 할인이 적용되지 않습니다.
  • A2 Ultra 머신 유형은 특정 리전 및 영역에서만 사용할 수 있습니다.
  • Cascade Lake 플랫폼에서만 A2 울트라 머신 유형을 사용할 수 있습니다.
  • VM에서 A2 Ultra 머신 유형을 사용하는 경우에는 머신 유형을 변경할 수 없습니다. 다른 A2 Ultra 머신 유형이나 그 밖의 다른 머신 유형을 사용해야 하는 경우에는 새 VM을 만들어야 합니다.
  • 다른 머신 유형을 A2 Ultra 머신 유형으로 변경할 수 없습니다. A2 Ultra 머신 유형을 사용하는 VM이 필요하면 새 VM을 만들어야 합니다.
  • A2 Ultra 머신 유형을 사용하는 Windows VM에서는 연결된 로컬 SSD를 빠르게 포맷할 수 없습니다. 이러한 로컬 SSD를 포맷하려면 diskpart 유틸리티를 사용하고 format fs=ntfs label=tmpfs를 지정하여 전체 포맷을 수행해야 합니다.

G2 VM

  • G2 머신 유형의 지원되는 프로비저닝 옵션을 사용해야 용량을 요청할 수 있습니다.
  • G2 머신 유형을 사용하는 VM에는 지속 사용 할인 및 가변형 약정 사용 할인이 적용되지 않습니다.
  • 특정 리전과 영역에서만 G2 머신 유형을 사용할 수 있습니다.
  • Cascade Lake 플랫폼에서만 G2 머신 유형을 사용할 수 있습니다.
  • G2 표준 머신 유형을 사용하는 VM에서는 표준 영구 디스크(pd-standard)가 지원되지 않습니다. 지원되는 디스크 유형은 G2에 지원되는 디스크 유형을 참조하세요.
  • G2 머신 유형에서 멀티 인스턴스 GPU를 만들 수 없습니다.
  • G2 VM 머신 유형을 변경해야 하는 경우 가속기 최적화 VM 수정을 참조하세요.
  • Deep Learning VM Image를 G2 머신 유형을 사용하는 VM의 부팅 디스크로 사용할 수 없습니다.
  • 현재 Container-Optimized OS의 기본 드라이버는 G2 머신 유형에서 실행되는 L4 GPU를 지원하지 않습니다. Container-Optimized OS는 선택한 드라이버 세트만 지원합니다. G2 머신 유형에서 Container-Optimized OS를 사용하려면 다음 참고를 검토하세요.
    • 권장되는 최소 NVIDIA 드라이버 버전 525.60.13 이상을 지원하는 Container-Optimized OS 버전을 사용합니다. 자세한 내용은 Container-Optimized OS 출시 노트를 참조하세요.
    • 드라이버 설치 시 L4 GPU에서 작동하는 최신 버전을 지정합니다. 예를 들면 sudo cos-extensions install gpu -- -version=525.60.13입니다.
  • 다음 시나리오의 경우 G2 VM을 만들려면 Google Cloud CLI 또는 REST를 사용해야 합니다.
    • 커스텀 메모리 값을 지정하려고 하는 경우
    • 표시되는 CPU 코어 수를 맞춤설정하려고 합니다.

N1+GPU VM

GPU가 있는 N1 인스턴스의 제한사항에 대해 알아보려면 N1 머신 시리즈 기능 및 N1 머신 시리즈용 GPU를 참조하세요.

운영체제 선택

머신러닝에 GPU를 사용하는 경우 다음 운영체제 중 하나를 사용하세요.

  • AI 워크로드에 최적화된 이미지. 드라이버와 CUDA 툴킷이 사전 설치된 가속기 최적화 버전으로 제공되는 Ubuntu 및 Rocky 이미지를 사용할 수 있습니다. AI 하이퍼컴퓨터 문서에서 OS 이미지를 참조하세요.
  • Deep Learning VM Image. 각 Deep Learning VM에는 GPU 드라이버 설치 도구가 있으며 TensorFlow 및 PyTorch와 같은 패키지가 포함되어 있습니다. 일반적인 GPU 워크로드에 Deep Learning VM을 사용해도 됩니다. 사용 가능한 이미지와 이러한 이미지에 설치된 패키지에 대해 자세히 알아보려면 이미지 선택을 참조하세요.

또는 공개 이미지나 커스텀 이미지를 사용할 수 있습니다. 일부 이미지에는 고유 드라이버가 필요하거나 Compute Engine 문서의 범위를 벗어나는 설치 프로세스가 있을 수 있습니다. OS 이미지에 적합한 드라이버를 확인하려면 GPU 드라이버 설치를 참조하세요.

GPU 할당량 확인

Compute Engine 시스템과 사용자를 보호하기 위해 새 프로젝트에는 지원되는 모든 영역에서 생성할 수 있는 총 GPU 수를 제한하는 글로벌 GPU 할당량이 적용됩니다. GPU 할당량을 검토하려면 GPU 할당량을 참조하세요.

추가 GPU 할당량이 필요한 경우 할당량 상향 조정을 요청합니다. GPU 할당량을 요청하는 경우 각 리전에 생성하려는 GPU 유형의 할당량과 함께 전 영역 내 모든 유형의 전체 GPU에 적용할 글로벌 할당량을 추가로 요청해야 합니다.

프로젝트에 기존 결제 내역이 있는 경우에는 요청을 제출하면 할당량이 자동으로 배정됩니다.

GPU VM 및 선점형 배정 할당량

표준 프로비저닝 모델을 사용하는 VM은 일반적으로 선점형 배정 할당량을 사용할 수 없습니다. 선점형 할당량은 임시 워크로드를 위한 것이며 일반적으로 가용성이 더 높습니다. 프로젝트에 선점형 할당량이 없고 선점형 할당량을 요청한 적이 없는 경우 프로젝트의 모든 VM이 표준 배정 할당량을 사용합니다.

선점형 배정 할당량을 요청하는 경우 표준 프로비저닝 모델을 사용하는 VM은 선점형 배정 할당량을 사용하기 위해 다음 기준을 모두 충족해야 합니다.

시간 제한이 있는 GPU 워크로드에 선점형 할당을 사용하면 중단 없는 실행 시간과 선점형 배정 할당량의 높은 확보 가능성 모두를 활용할 수 있습니다. 자세한 내용은 선점형 할당량을 참조하세요.

GPU가 연결된 VM 만들기

GPU가 연결된 VM을 만들려면 다음 단계를 완료합니다.

  1. VM을 만듭니다. VM을 만드는 데 사용되는 방법은 선택한 GPU 모델에 따라 달라집니다.

  2. VM에 GPU를 사용하기 위해서는 VM에 GPU 드라이버를 설치해야 합니다. NVIDIA RTX 가상 워크스테이션(이전의 NVIDIA GRID)을 사용 설정한 경우 가상 워크스테이션용 드라이버를 설치합니다.

다음 단계