Compute Engine은 가상 머신(VM)에 추가할 수 있는 그래픽 처리 장치(GPU)를 제공합니다. 이 GPU를 사용하여 VM에서 머신러닝 및 데이터 처리와 같은 특정 워크로드를 가속화할 수 있습니다.
이 문서에서는 연결된 GPU로 VM을 만드는 데 필요한 단계에 대해 간략하게 설명합니다.
Compute Engine의 GPU에 대한 상세 설명은 GPU 정보를 참조하세요.
GPU 모델 선택
사용 가능한 GPU 모델 목록은 GPU 플랫폼을 참조하세요. 또한 선택한 GPU 모델에 지원되는 머신 유형을 기록해 둡니다.
각 모델에 대해 다음을 검토하는 것도 도움이 될 수 있습니다.
- 지원되는 리전 및 영역.
- VM에서 각 GPU 모델 사용 비용을 파악하기 위한 GPU 가격 책정. 가속기 최적화 머신을 사용하는 VM의 경우 VM 인스턴스 가격 책정도 검토합니다.
- GPU를 사용하는 VM의 제한사항을 검토합니다.
운영체제 선택
머신러닝을 위해 GPU를 사용하는 경우 VM을 위한 Deep Learning VM Image를 사용할 수 있습니다. 각 Deep Learning VM Image에는 GPU 드라이버가 사전 설치되어 있고 TensorFlow 및 PyTorch와 같은 패키지가 포함되어 있습니다. 일반적인 GPU 워크로드에 Deep Learning VM Image를 사용해도 됩니다. 사용 가능한 이미지 및 이미지에 설치된 패키지에 대한 자세한 내용은 이미지 선택을 참조하세요. 공개 이미지나 커스텀 이미지를 사용해도 되지만, 일부 이미지의 경우 고유 드라이버가 필요하거나 이 문서에서 다루지 않는 설치 프로세스가 필요할 수 있습니다.
OS 이미지에 적합한 드라이버를 확인해야 합니다. 드라이버를 설치하는 단계는 GPU 드라이버 설치를 참조하세요.
GPU 할당량 확인
Compute Engine 시스템과 사용자를 보호하기 위해 새 프로젝트에는 지원되는 모든 영역에서 생성할 수 있는 총 GPU 수를 제한하는 글로벌 GPU 할당량이 적용됩니다. GPU 할당량을 검토하려면 GPU 할당량을 참조하세요.
추가 GPU 할당량이 필요한 경우 할당량 상향 조정을 요청합니다. GPU 할당량을 요청하는 경우 각 리전에 생성하려는 GPU 유형의 할당량과 함께 전 영역 내 모든 유형의 전체 GPU에 적용할 글로벌 할당량을 추가로 요청해야 합니다.
프로젝트에 기존 결제 내역이 있는 경우에는 요청을 제출하면 할당량이 자동으로 배정됩니다.
GPU VM 및 선점형 배정 할당량
기본 표준 프로비저닝 모델(표준 VM)을 사용하는 VM용 리소스는 일반적으로 임시 워크로드를 대상으로 하며 일반적으로 더 사용 가능한 선점형 배정 할당량을 사용할 수 없습니다. 프로젝트에 선점형 할당량이 없고 선점형 할당량을 요청한 적이 없는 경우 해당 프로젝트의 모든 VM이 표준 배정 할당량을 사용합니다.
하지만 선점형 배정 할당량을 요청하면 다음 기준을 모두 충족하는 표준 VM은 선점형 배정 할당량만 사용할 수 있습니다.
- VM에 GPU가 연결되어 있습니다. GPU가 연결된 N1 VM 또는 가속기 최적화 VM입니다
- VM이 다음 방법 중 하나를 통해 사전 구성된 7일 이하 런타임 후 자동으로 삭제되도록 구성되어 있습니다.
<ph type="x-smartling-placeholder">
- </ph>
maxRunDuration
필드 또는terminationTime
필드를 사용합니다. 자세한 내용은 VM 실행 시간 제한 또는 MIG에서 VM 실행 시간 제한을 참조하세요.- 관리형 인스턴스 그룹(MIG)에서만 사용할 수 있는
requestedRunDuration
필드를 사용합니다. 자세한 내용은 MIG의 크기 조절 요청 개요를 참조하세요.
- VM은 예약을 사용할 수 없습니다. 자세한 내용은 예약을 사용하지 않고 VM 만들기를 참조하세요.
이러한 작업 부하에 선점형 배정 할당량을 소비하면 표준 VM의 중단 없는 실행 시간의 이점과 선점형 배정 할당량을 통한 확보 가능성을 모두 높일 수 있습니다.
사용된 할당량에 관계없이 표준 VM에는 Spot VM 가격 책정이 적용되지 않으며 선점 대상이 아닙니다.
자세한 내용은 선점형 할당량을 참조하세요.
GPU가 연결된 VM 만들기
GPU가 연결된 VM을 만들려면 다음 단계를 완료합니다.
VM을 만듭니다. VM을 만드는 데 사용되는 방법은 선택한 GPU 모델에 따라 달라집니다.
- NVIDIA H100, A100, L4 GPU가 연결된 VM을 만들려면 가속기 최적화 VM 만들기를 참조하세요.
- NVIDIA T4, P4, P100, V100 GPU가 연결된 VM을 만들려면 GPU가 연결된 N1 VM 만들기를 참조하세요.
VM에 GPU를 사용하기 위해서는 VM에 GPU 드라이버를 설치해야 합니다. NVIDIA RTX 가상 워크스테이션(이전의 NVIDIA GRID)을 사용 설정한 경우 가상 워크스테이션용 드라이버를 설치합니다.
다음 단계
GPU 플랫폼 자세히 알아보기
GPU 사용의 기능 및 제한사항 자세히 알아보기
GPU의 실제 및 예상 사용량 확인 자세히 알아보기