인스턴스 템플릿을 사용하여 GPU 인스턴스 그룹 만들기

인스턴스 템플릿을 사용하여 인스턴스별로 GPU를 추가한 관리형 인스턴스 그룹을 만들 수 있습니다. 관리 인스턴스 그룹은 이 템플릿을 사용하여 동일한 인스턴스를 여러 개 만듭니다. 워크로드에 맞도록 그룹 내 인스턴스 수를 늘릴 수 있습니다.

시작하기 전에

인스턴스 템플릿 만들기

인스턴스 템플릿을 만드는 단계는 인스턴스 템플릿 만들기를 참조하세요.

Console에서 인스턴스 템플릿을 만들려면 머신 유형을 맞춤설정하고 인스턴스 템플릿에 추가할 GPU 유형과 GPU 수를 선택합니다.

gcloud 명령줄 도구를 사용하는 경우에는 --accelerators 플래그와 --maintenance-policy TERMINATE 플래그를 포함합니다. 선택적으로 --metadata startup-script 플래그를 포함하고 인스턴스가 시작될 때 GPU 드라이버를 설치하도록 시작 스크립트를 지정합니다. GPU 인스턴스에 작동하는 샘플 스크립트는 GPU 드라이버 설치를 참조하세요.

다음은 vCPU 2개, 250 GB 부팅 디스크, Ubuntu 16.04, NVIDIA® Tesla® K80 GPU, 시작 스크립트를 사용하여 인스턴스 템플릿을 작성하는 예시입니다. 시작 스크립트를 실행하면 권장 드라이버 버전으로 CUDA 툴킷이 설치됩니다.

gcloud beta compute instance-templates create gpu-template \
    --machine-type n1-standard-2 \
    --boot-disk-size 250GB \
    --accelerator type=nvidia-tesla-k80,count=1 \
    --image-family ubuntu-1604-lts --image-project ubuntu-os-cloud \
    --maintenance-policy TERMINATE --restart-on-failure \
    --metadata startup-script='#!/bin/bash
    echo "Checking for CUDA and installing."
    # Check for CUDA and try to install.
    if ! dpkg-query -W cuda-10-0; then
      curl -O http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-repo-ubuntu1604_10.0.130-1_amd64.deb
      dpkg -i ./cuda-repo-ubuntu1604_10.0.130-1_amd64.deb
      apt-get update
      apt-get install cuda-10-0 -y
    fi'

인스턴스 그룹 만들기

템플릿을 만든 후에는 템플릿을 사용하여 인스턴스 그룹을 만듭니다. 인스턴스를 그룹에 추가할 때마다 인스턴스는 인스턴스 템플릿의 설정을 통해 시작됩니다.

리전 관리형 인스턴스 그룹을 만드는 경우에는 원하는 GPU 모델을 명확하게 지원하는 영역을 선택해야 합니다. GPU 모델과 사용할 수 있는 영역의 목록은 Compute Engine의 GPU를 참조하세요. 다음 예시에서는 nvidia-tesla-k80 모델을 지원하는 영역 두 개에 적용되는 리전 관리형 인스턴스 그룹을 만듭니다.

gcloud beta compute instance-groups managed create example-rmig \
    --template gpu-template --base-instance-name example-instances \
    --size 30 --zones us-east1-c,us-east1-d

참고: 현재 영역 선택 기능은 베타 버전이므로 특정 영역을 선택하려면 gcloud beta 구성요소를 사용하세요.

다음 단계