Membuat VM N1 yang telah memasang GPU

Linux Windows

Dokumen ini menjelaskan cara membuat VM yang telah memasang GPU dan menggunakan kelompok mesin N1. Anda dapat menggunakan sebagian besar jenis mesin N1 kecuali N1 shared-core.

Sebelum memulai

Untuk meninjau langkah-langkah prasyarat tambahan, seperti memilih image OS dan memeriksa kuota GPU, lihat dokumen ringkasan.
Siapkan autentikasi, jika Anda belum melakukannya. Autentikasi adalah proses verifikasi identitas Anda untuk akses ke layanan dan API Google Cloud. Untuk menjalankan kode atau contoh dari lingkungan pengembangan lokal, Anda dapat melakukan autentikasi ke Compute Engine sebagai berikut.

Pilih tab untuk melihat bagaimana Anda berencana menggunakan contoh di halaman ini:
Konsol

Saat menggunakan Konsol Google Cloud untuk mengakses API dan layanan Google Cloud, Anda tidak perlu menyiapkan autentikasi.
gcloud
1. Instal Google Cloud CLI, lalu initialize dengan menjalankan perintah berikut:
  gcloud init
  Catatan: Jika Anda telah menginstal gcloud CLI sebelumnya, pastikan Anda memiliki versi baru dengan menjalankan gcloud components update.
2. Menetapkan region dan zona default.
REST

Untuk menggunakan contoh REST API di halaman ini dalam lingkungan pengembangan lokal, gunakan kredensial yang Anda berikan ke gcloud CLI.

Peran yang diperlukan

Untuk mendapatkan izin yang Anda perlukan untuk membuat VM, minta administrator untuk memberi Anda peran IAM Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) di project. Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses.

Peran bawaan ini berisi izin yang diperlukan untuk membuat VM. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:

Izin yang diperlukan

Izin berikut diperlukan untuk membuat VM:

compute.instances.create pada project
Untuk menggunakan image kustom guna membuat VM: compute.images.useReadOnly pada image
Untuk menggunakan snapshot guna membuat VM: compute.snapshots.useReadOnly di snapshot
Untuk menggunakan template instance untuk membuat VM: compute.instanceTemplates.useReadOnly di template instance
Untuk menetapkan jaringan lama ke VM: compute.networks.use pada project
Untuk menentukan alamat IP statis untuk VM: compute.addresses.use di project
Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan lama: compute.networks.useExternalIp di project
Untuk menentukan subnet untuk VM Anda: compute.subnetworks.use pada project atau subnet yang dipilih
Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan VPC: compute.subnetworks.useExternalIp pada project atau di subnet yang dipilih
Untuk menetapkan metadata instance VM untuk VM: compute.instances.setMetadata di project
Untuk menetapkan tag untuk VM: compute.instances.setTags di VM
Untuk menetapkan label VM: compute.instances.setLabels di VM
Untuk menetapkan akun layanan yang akan digunakan VM: compute.instances.setServiceAccount di VM
Untuk membuat disk baru bagi VM: compute.disks.create di project
Untuk memasang disk yang ada dalam mode hanya baca atau baca-tulis: compute.disks.use pada disk
Untuk memasang disk yang ada dalam mode hanya baca: compute.disks.useReadOnly pada disk

Anda mung juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaanlainnya.

Ringkasan

Model GPU berikut dapat dipasang ke VM yang menggunakan kelompok mesin N1.

GPU NVIDIA:

NVIDIA T4: nvidia-tesla-t4
NVIDIA P4: nvidia-tesla-p4
NVIDIA P100: nvidia-tesla-p100
NVIDIA V100: nvidia-tesla-v100
NVIDIA K80: nvidia-tesla-k80. Lihat NVIDIA K80 EOL.

NVIDIA RTX Virtual Workstation (vWS) (sebelumnya disebut NVIDIA GRID):

NVIDIA T4 Virtual Workstation: nvidia-tesla-t4-vws
NVIDIA P4 Virtual Workstation: nvidia-tesla-p4-vws
NVIDIA P100 Virtual Workstation: nvidia-tesla-p100-vws

Untuk workstation virtual ini, lisensi NVIDIA RTX Virtual Workstation (vWS) otomatis ditambahkan ke VM Anda.

Buat VM yang telah memasang GPU

Anda dapat membuat VM N1 yang telah memasang GPU menggunakan Konsol Google Cloud, Google Cloud CLI, atau REST.

Konsol

Di konsol Google Cloud, buka halaman Create an instance.

Buka Buat instance
Tentukan Name untuk VM Anda. Lihat Konvensi penamaan resource.
Pilih region dan zona tempat GPU tersedia. Lihat daftar zona GPU yang tersedia.
Di bagian Machine configuration, pilih kelompok mesin GPUs, lalu lakukan tindakan berikut:
1. Dalam daftar GPU type, pilih salah satu model GPU yang didukung di mesin N1.
2. Dalam daftar Number of GPU, pilih jumlah GPU.
3. Jika model GPU Anda mendukung NVIDIA RTX Virtual Workstations (vWS) untuk workload grafis, dan Anda berencana menjalankan workload yang intensif grafis di VM ini, pilih Enable Virtual Workstation (NVIDIA GRID).
4. Dalam daftar Machine type, pilih salah satu jenis mesin N1 preset. Atau, Anda juga dapat menentukan setelan jenis mesin kustom.
Di bagian Boot disk, klik Change. Tindakan ini akan membuka halaman Boot disk configuration.
Di halaman Boot disk configuration, lakukan langkah berikut:
1. Pada tab Public image, pilih image Compute Engine yang didukung atau Deep Learning VM Image.
2. Tentukan ukuran boot disk minimal 40 GB.
3. Untuk mengonfirmasi opsi boot disk, klik Select.
Luaskan bagian Advanced options.
1. Luaskan bagian Management.
2. Dalam daftar On host management, pilih Terminate VM instance. VM dengan GPU yang terpasang tidak dapat melakukan migrasi langsung. Lihat Menangani peristiwa host GPU.
3. Dalam daftar Automatic restart, pilih On.
Konfigurasi setelan VM lain mana pun yang Anda perlukan. Misalnya, Anda dapat mengubah setelan Preemptibility untuk mengonfigurasi VM sebagai preemptible instance. Hal ini akan mengurangi biaya VM dan GPU yang terpasang. Untuk informasi selengkapnya, baca GPU pada preemptible instance.
Untuk membuat dan memulai VM, klik Create.

gcloud

Untuk membuat dan memulai VM, gunakan perintah gcloud compute instances create dengan flag berikut.

--preemptible adalah flag opsional yang mengonfigurasi VM Anda sebagai preemptible instance. Cara ini akan mengurangi biaya VM dan GPU yang terpasang. Untuk mengetahui informasi selengkapnya, baca GPU di preemptible instance.

gcloud compute instances create VM_NAME \
    --machine-type MACHINE_TYPE \
    --zone ZONE \
    --boot-disk-size DISK_SIZE \
    --accelerator type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
    [--image IMAGE | --image-family IMAGE_FAMILY] \
    --image-project IMAGE_PROJECT \
    --maintenance-policy TERMINATE --restart-on-failure \
    [--preemptible]

Ganti kode berikut:

VM_NAME: nama untuk VM baru.
MACHINE_TYPE: jenis mesin yang Anda pilih untuk VM.
ZONE: zona untuk VM. Zona ini harus mendukung jenis GPU.
DISK_SIZE: ukuran boot disk dalam GB. Tentukan ukuran boot disk minimal 40 GB.
IMAGE atau IMAGE_FAMILY yang mendukung GPU. Tentukan salah satu dari berikut ini:
- IMAGE: versi image publik yang diperlukan. Contoh, --image debian-10-buster-v20200309.
- IMAGE_FAMILY: kelompok image. Ini akan membuat VM dari OS image terbaru yang masih digunakan. Misalnya, jika Anda menentukan --image-family debian-10, Compute Engine akan membuat VM dari OS image versi terbaru di dalam kelompok image Debian 10.
Anda juga dapat menentukan image kustom atau Deep Learning VM Image.
IMAGE_PROJECT: project image Compute Engine yang mencakup kelompok gambar tersebut. Jika menggunakan image kustom atau Deep Learning VM Image, tentukan project tempat image tersebut berada.
ACCELERATOR_COUNT: jumlah GPU yang ingin ditambahkan ke VM. Lihat GPU di Compute Engine untuk melihat daftar batas GPU berdasarkan jenis mesin VM Anda.
ACCELERATOR_TYPE: model GPU yang ingin Anda gunakan. Jika Anda berencana menjalankan workload yang intensif grafis di VM ini, gunakan salah satu model workstation virtual.

Pilih salah satu nilai berikut:
- GPU NVIDIA:
  - NVIDIA T4: nvidia-tesla-t4
  - NVIDIA P4: nvidia-tesla-p4
  - NVIDIA P100: nvidia-tesla-p100
  - NVIDIA V100: nvidia-tesla-v100
  - NVIDIA K80: nvidia-tesla-k80. Lihat NVIDIA K80 EOL.
- NVIDIA RTX Virtual Workstation (vWS) (sebelumnya disebut NVIDIA GRID):
  - NVIDIA T4 Virtual Workstation: nvidia-tesla-t4-vws
  - NVIDIA P4 Virtual Workstation: nvidia-tesla-p4-vws
  - NVIDIA P100 Virtual Workstation: nvidia-tesla-p100-vws
    
    Untuk workstation virtual ini, lisensi NVIDIA RTX Virtual Workstation (vWS) otomatis ditambahkan ke VM Anda.

Contoh

Misalnya, Anda dapat menggunakan perintah gcloud berikut untuk memulai VM Ubuntu 22.04 dengan 1 GPU NVIDIA T4 dan 2 vCPU di zona us-east1-d.

gcloud compute instances create gpu-instance-1 \
    --machine-type n1-standard-2 \
    --zone us-east1-d \
    --boot-disk-size 40GB \
    --accelerator type=nvidia-tesla-t4,count=1 \
    --image-family ubuntu-2204-lts \
    --image-project ubuntu-os-cloud \
    --maintenance-policy TERMINATE --restart-on-failure

REST

Identifikasi jenis GPU yang ingin Anda tambahkan ke VM. Kirim permintaan GET untuk memunculkan daftar jenis GPU yang tersedia untuk project Anda di zona tertentu.

"preemptible": true adalah parameter opsional yang mengonfigurasi VM Anda sebagai preemptible instance. Cara ini akan mengurangi biaya VM dan GPU yang terpasang. Untuk mengetahui informasi selengkapnya, baca GPU di preemptible instance.

GET https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/acceleratorTypes

Ganti kode berikut:

PROJECT_ID: project ID.
ZONE: zona dari mana Anda ingin memunculkan daftar jenis GPU yang tersedia.

Kirim permintaan POST ke metode instances.insert. Sertakan parameter acceleratorType untuk menentukan jenis GPU yang akan digunakan, dan parameter acceleratorCount untuk menentukan jumlah GPU yang ingin ditambahkan. Tetapkan juga parameter onHostMaintenance ke TERMINATE.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "disks":
  [
    {
      "type": "PERSISTENT",
      "initializeParams":
      {
        "diskSizeGb": "DISK_SIZE",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "boot": true
    }
  ],
  "name": "VM_NAME",
  "networkInterfaces":
  [
    {
      "network": "projects/PROJECT_ID/global/networks/NETWORK"
    }
  ],
  "guestAccelerators":
  [
    {
      "acceleratorCount": ACCELERATOR_COUNT,
      "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
    }
  ],
  "scheduling":
  {
    "onHostMaintenance": "terminate",
    "automaticRestart": true,
    ["preemptible": true]
  },
}

Ganti kode berikut:

VM_NAME: nama VM.
PROJECT_ID: Project ID Anda.
ZONE: zona untuk VM. Zona ini harus mendukung jenis GPU.
MACHINE_TYPE: jenis mesin yang Anda pilih untuk VM. Lihat GPU di Compute Engine untuk mengetahui jenis mesin yang tersedia berdasarkan jumlah GPU yang Anda inginkan.
IMAGE atau IMAGE_FAMILY: tentukan salah satu dari berikut ini:
- IMAGE: versi image publik yang diperlukan. Contoh, "sourceImage": "projects/debian-cloud/global/images/debian-10-buster-v20200309"
- IMAGE_FAMILY: kelompok image. Ini akan membuat VM dari OS image terbaru yang masih digunakan. Misalnya, jika Anda menentukan "sourceImage": "projects/debian-cloud/global/images/family/debian-10", Compute Engine akan membuat VM dari OS image versi terbaru dalam kelompok image Debian 10.
Anda juga dapat menentukan image kustom atau Deep Learning VM Image.
IMAGE_PROJECT: project image Compute Engine yang mencakup kelompok gambar tersebut. Jika menggunakan image kustom atau Deep Learning VM Image, tentukan project tempat image tersebut berada.
DISK_SIZE: ukuran boot disk dalam GB. Tentukan ukuran boot disk minimal 40 GB.
NETWORK: jaringan VPC yang akan digunakan untuk VM. Anda dapat menentukan default untuk menggunakan jaringan default.
ACCELERATOR_COUNT: jumlah GPU yang ingin ditambahkan ke VM. Lihat GPU di Compute Engine untuk melihat daftar batas GPU berdasarkan jenis mesin VM Anda.
ACCELERATOR_TYPE: model GPU yang ingin Anda gunakan. Jika Anda berencana menjalankan workload yang intensif grafis di VM ini, gunakan salah satu model workstation virtual.

Pilih salah satu nilai berikut:
- GPU NVIDIA:
  - NVIDIA T4: nvidia-tesla-t4
  - NVIDIA P4: nvidia-tesla-p4
  - NVIDIA P100: nvidia-tesla-p100
  - NVIDIA V100: nvidia-tesla-v100
  - NVIDIA K80: nvidia-tesla-k80. Lihat NVIDIA K80 EOL.
- NVIDIA RTX Virtual Workstation (vWS) (sebelumnya disebut NVIDIA GRID):
  - NVIDIA T4 Virtual Workstation: nvidia-tesla-t4-vws
  - NVIDIA P4 Virtual Workstation: nvidia-tesla-p4-vws
  - NVIDIA P100 Virtual Workstation: nvidia-tesla-p100-vws
    
    Untuk workstation virtual ini, lisensi NVIDIA RTX Virtual Workstation (vWS) otomatis ditambahkan ke VM Anda.

Menginstal driver

Untuk menginstal driver, pilih salah satu opsi berikut:

Jika Anda berencana menjalankan workload yang intensif grafis, seperti untuk game dan visualisasi, instal driver untuk NVIDIA RTX Virtual Workstation.
Untuk sebagian besar workload, instal driver GPU.

Apa langkah selanjutnya?

Pelajari platform GPU lebih lanjut.
Tambahkan SSD Lokal ke instance Anda. Perangkat SSD lokal berfungsi baik dengan GPU saat aplikasi Anda memerlukan penyimpanan berperforma tinggi.
Instal driver GPU. Jika Anda mengaktifkan NVIDIA RTX Virtual Workstation, instal driver untuk workstation virtual tersebut.
Untuk menangani pemeliharaan host GPU, lihat Menangani peristiwa pemeliharaan host GPU.