Membuat VM N1 yang telah memasang GPU

Dokumen ini menjelaskan cara membuat VM yang telah memasang GPU dan menggunakan kelompok mesin N1. Anda dapat menggunakan sebagian besar jenis mesin N1 kecuali N1 shared-core.

Sebelum memulai

  • Untuk meninjau langkah-langkah prasyarat tambahan, seperti memilih image OS dan memeriksa kuota GPU, lihat dokumen ringkasan.
  • Jika Anda belum melakukannya, siapkan autentikasi. Autentikasi adalah proses verifikasi identitas Anda untuk mengakses layanan dan API Google Cloud. Untuk menjalankan kode atau contoh dari lingkungan pengembangan lokal, Anda dapat mengautentikasi ke Compute Engine dengan memilih salah satu opsi berikut:

    Select the tab for how you plan to use the samples on this page:

    Console

    When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

    gcloud

    1. Install the Google Cloud CLI, then initialize it by running the following command: 

      gcloud init
    2. Set a default region and zone.

      3. REST

      Untuk menggunakan contoh REST API di halaman ini dalam lingkungan pengembangan lokal, gunakan kredensial yang Anda berikan ke gcloud CLI.

        Install the Google Cloud CLI, then initialize it by running the following command: 

        gcloud init

      Untuk informasi selengkapnya, lihat Melakukan autentikasi untuk menggunakan REST dalam dokumentasi autentikasi Google Cloud.

Peran yang diperlukan

Untuk mendapatkan izin yang diperlukan guna membuat VM, minta administrator untuk memberi Anda peran IAM Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) di project. Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.

Peran bawaan ini berisi izin yang diperlukan untuk membuat VM. Untuk melihat izin yang benar-benar diperlukan, luaskan bagian Izin yang diperlukan:

Izin yang diperlukan

Izin berikut diperlukan untuk membuat VM:

  • compute.instances.create pada project
  • Untuk menggunakan image kustom guna membuat VM: compute.images.useReadOnly pada image
  • Untuk menggunakan snapshot guna membuat VM: compute.snapshots.useReadOnly pada snapshot
  • Untuk menggunakan template instance guna membuat VM: compute.instanceTemplates.useReadOnly pada template instance
  • Untuk menetapkan jaringan lama ke VM: compute.networks.use pada project
  • Untuk menentukan alamat IP statis untuk VM: compute.addresses.use pada project
  • Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan lama: compute.networks.useExternalIp di project
  • Untuk menentukan subnet bagi VM Anda: compute.subnetworks.use di project atau di subnet yang dipilih
  • Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan VPC: compute.subnetworks.useExternalIp di project atau di subnet yang dipilih
  • Untuk menetapkan metadata instance VM untuk VM: compute.instances.setMetadata pada project
  • Untuk menetapkan tag untuk VM: compute.instances.setTags di VM
  • Untuk menetapkan label untuk VM: compute.instances.setLabels di VM
  • Untuk menetapkan akun layanan yang akan digunakan VM: compute.instances.setServiceAccount di VM
  • Untuk membuat disk baru bagi VM: compute.disks.create pada project
  • Untuk memasang disk yang ada dalam mode hanya baca atau baca-tulis: compute.disks.use pada disk
  • Untuk memasang disk yang ada dalam mode hanya baca: compute.disks.useReadOnly pada disk

Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.

Ringkasan

Model GPU berikut dapat dipasang ke VM yang menggunakan kelompok mesin N1.

GPU NVIDIA:

  • NVIDIA T4: nvidia-tesla-t4
  • NVIDIA P4: nvidia-tesla-p4
  • NVIDIA P100: nvidia-tesla-p100
  • NVIDIA V100: nvidia-tesla-v100

NVIDIA RTX Virtual Workstation (vWS) (sebelumnya disebut NVIDIA GRID):

  • NVIDIA T4 Virtual Workstation: nvidia-tesla-t4-vws
  • NVIDIA P4 Virtual Workstation: nvidia-tesla-p4-vws

  • NVIDIA P100 Virtual Workstation: nvidia-tesla-p100-vws

    Untuk workstation virtual ini, lisensi NVIDIA RTX Virtual Workstation (vWS) otomatis ditambahkan ke VM Anda.

Buat VM yang telah memasang GPU

Anda dapat membuat VM N1 yang telah memasang GPU dengan menggunakan Konsol Google Cloud, Google Cloud CLI, atau REST.

Konsol

  1. Di konsol Google Cloud, buka halaman Create an instance.

    Buka Buat instance

  2. Tentukan Name untuk VM Anda. Lihat Konvensi penamaan resource.

  3. Pilih region dan zona tempat GPU tersedia. Lihat daftar zona GPU yang tersedia.

  4. Di bagian Machine configuration, pilih kelompok mesin GPUs, lalu lakukan tindakan berikut:

    1. Dalam daftar GPU type, pilih salah satu model GPU yang didukung di mesin N1.
    2. Dalam daftar Number of GPU, pilih jumlah GPU.

    3. Jika model GPU Anda mendukung NVIDIA RTX Virtual Workstations (vWS) untuk workload grafis, dan Anda berencana menjalankan workload yang intensif grafis di VM ini, pilih Enable Virtual Workstation (NVIDIA GRID).

    4. Dalam daftar Machine type, pilih salah satu jenis mesin N1 preset. Atau, Anda juga dapat menentukan setelan jenis mesin kustom.

  5. Di bagian Boot disk, klik Change. Tindakan ini akan membuka halaman Boot disk configuration.

  6. Di halaman Boot disk configuration, lakukan langkah berikut:

    1. Pada tab Public image, pilih image Compute Engine yang didukung atau Deep Learning VM Image.
    2. Tentukan ukuran boot disk minimal 40 GB.
    3. Untuk mengonfirmasi opsi boot disk, klik Select.

  7. Opsional: Konfigurasikan model penyediaan. Misalnya, jika workload Anda fault-tolerant dan dapat menahan kemungkinan preemption VM, pertimbangkan untuk menggunakan Spot VM untuk mengurangi biaya VM dan GPU yang terpasang. Untuk mengetahui informasi selengkapnya, lihat GPU di Spot VM. Untuk melakukannya, selesaikan langkah-langkah berikut:

    1. Di bagian Kebijakan ketersediaan, pilih Spot dari daftar Model penyediaan VM. Setelan ini menonaktifkan opsi mulai ulang otomatis dan pemeliharaan host untuk VM.
    2. Opsional: Dalam daftar Saat penghentian VM, pilih apa yang terjadi saat Compute Engine melakukan preempt terhadap VM:
      • Untuk menghentikan VM selama preemption, pilih Hentikan (default).
      • Untuk menghapus VM selama preemption, pilih Hapus.

  8. Untuk membuat dan memulai VM, klik Create.

gcloud

Untuk membuat dan memulai VM, gunakan perintah gcloud compute instances create dengan flag berikut.

Jika workload Anda fault-tolerant dan dapat menahan kemungkinan preemption VM, pertimbangkan untuk menggunakan Spot VM guna mengurangi biaya VM dan GPU yang terpasang. Untuk mengetahui informasi selengkapnya, lihat GPU di Spot VM. --provisioning-model=SPOT adalah flag opsional yang mengonfigurasi VM Anda sebagai Spot VM. Untuk Spot VM, tanda opsi mulai ulang otomatis dan pemeliharaan host dinonaktifkan.

gcloud compute instances create VM_NAME \
    --machine-type MACHINE_TYPE \
    --zone ZONE \
    --boot-disk-size DISK_SIZE \
    --accelerator type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
    [--image IMAGE | --image-family IMAGE_FAMILY] \
    --image-project IMAGE_PROJECT \
    --maintenance-policy TERMINATE \
    [--provisioning-model=SPOT]

Ganti kode berikut:

  • VM_NAME: nama untuk VM baru.
  • MACHINE_TYPE: jenis mesin yang Anda pilih untuk VM.
  • ZONE: zona untuk VM. Zona ini harus mendukung jenis GPU.
  • DISK_SIZE: ukuran boot disk dalam GB. Tentukan ukuran boot disk minimal 40 GB.

  • IMAGE atau IMAGE_FAMILY yang mendukung GPU. Tentukan salah satu dari berikut ini:

    • IMAGE: versi image publik yang diperlukan. Contoh, --image debian-10-buster-v20200309.
    • IMAGE_FAMILY: kelompok image. Ini akan membuat VM dari OS image terbaru yang masih digunakan. Misalnya, jika Anda menentukan --image-family debian-10, Compute Engine akan membuat VM dari OS image versi terbaru di dalam kelompok image Debian 10.

    Anda juga dapat menentukan image kustom atau Deep Learning VM Image.

  • IMAGE_PROJECT: project image Compute Engine yang mencakup kelompok gambar tersebut. Jika menggunakan image kustom atau Deep Learning VM Image, tentukan project tempat image tersebut berada.

  • ACCELERATOR_COUNT: jumlah GPU yang ingin ditambahkan ke VM. Lihat GPU di Compute Engine untuk melihat daftar batas GPU berdasarkan jenis mesin VM Anda.

  • ACCELERATOR_TYPE: Model GPU yang ingin Anda gunakan. Jika Anda berencana menjalankan workload yang intensif grafis di VM ini, gunakan salah satu model workstation virtual.

    Pilih salah satu nilai berikut:

    • GPU NVIDIA:

      • NVIDIA T4: nvidia-tesla-t4
      • NVIDIA P4: nvidia-tesla-p4
      • NVIDIA P100: nvidia-tesla-p100
      • NVIDIA V100: nvidia-tesla-v100

    • NVIDIA RTX Virtual Workstation (vWS) (sebelumnya disebut NVIDIA GRID):

      • NVIDIA T4 Virtual Workstation: nvidia-tesla-t4-vws
      • NVIDIA P4 Virtual Workstation: nvidia-tesla-p4-vws

      • NVIDIA P100 Virtual Workstation: nvidia-tesla-p100-vws

        Untuk workstation virtual ini, lisensi NVIDIA RTX Virtual Workstation (vWS) otomatis ditambahkan ke VM Anda.

Contoh

Misalnya, Anda dapat menggunakan perintah gcloud berikut untuk memulai VM Ubuntu 22.04 dengan 1 GPU NVIDIA T4 dan 2 vCPU di zona us-east1-d.

gcloud compute instances create gpu-instance-1 \
    --machine-type n1-standard-2 \
    --zone us-east1-d \
    --boot-disk-size 40GB \
    --accelerator type=nvidia-tesla-t4,count=1 \
    --image-family ubuntu-2204-lts \
    --image-project ubuntu-os-cloud \
    --maintenance-policy TERMINATE

REST

Identifikasi jenis GPU yang ingin Anda tambahkan ke VM. Kirim permintaan GET untuk memunculkan daftar jenis GPU yang tersedia untuk project Anda di zona tertentu.

Jika workload Anda fault-tolerant dan dapat menahan kemungkinan preemption VM, pertimbangkan untuk menggunakan Spot VM guna mengurangi biaya VM dan GPU yang terpasang. Untuk mengetahui informasi selengkapnya, lihat GPU di Spot VM. "provisioningModel": "SPOT" adalah parameter opsional yang mengonfigurasi VM Anda sebagai Spot VM. Untuk Spot VM, tanda opsi mulai ulang otomatis dan pemeliharaan host dinonaktifkan.

GET https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/acceleratorTypes

Ganti kode berikut:

  • PROJECT_ID: project ID.
  • ZONE: zona dari mana Anda ingin memunculkan daftar jenis GPU yang tersedia.

Kirim permintaan POST ke metode instances.insert. Sertakan parameter acceleratorType untuk menentukan jenis GPU yang akan digunakan, dan parameter acceleratorCount untuk menentukan jumlah GPU yang ingin ditambahkan. Tetapkan juga parameter onHostMaintenance ke TERMINATE.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "disks":
  [
    {
      "type": "PERSISTENT",
      "initializeParams":
      {
        "diskSizeGb": "DISK_SIZE",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "boot": true
    }
  ],
  "name": "VM_NAME",
  "networkInterfaces":
  [
    {
      "network": "projects/PROJECT_ID/global/networks/NETWORK"
    }
  ],
  "guestAccelerators":
  [
    {
      "acceleratorCount": ACCELERATOR_COUNT,
      "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
    }
  ],
  "scheduling":
  {
    ["automaticRestart": true],
    "onHostMaintenance": "TERMINATE",
    ["provisioningModel": "SPOT"]
  },
}

Ganti kode berikut:

  • VM_NAME: nama VM.
  • PROJECT_ID: Project ID Anda.
  • ZONE: zona untuk VM. Zona ini harus mendukung jenis GPU.
  • MACHINE_TYPE: jenis mesin yang Anda pilih untuk VM. Lihat GPU di Compute Engine untuk mengetahui jenis mesin yang tersedia berdasarkan jumlah GPU yang Anda inginkan.

  • IMAGE atau IMAGE_FAMILY: tentukan salah satu dari berikut ini:

    • IMAGE: versi image publik yang diperlukan. Contoh, "sourceImage": "projects/debian-cloud/global/images/debian-10-buster-v20200309"
    • IMAGE_FAMILY: kelompok image. Ini akan membuat VM dari OS image terbaru yang masih digunakan. Misalnya, jika Anda menentukan "sourceImage": "projects/debian-cloud/global/images/family/debian-10", Compute Engine akan membuat VM dari OS image versi terbaru dalam kelompok image Debian 10.

    Anda juga dapat menentukan image kustom atau Deep Learning VM Image.

  • IMAGE_PROJECT: project image Compute Engine yang mencakup kelompok gambar tersebut. Jika menggunakan image kustom atau Deep Learning VM Image, tentukan project tempat image tersebut berada.

  • DISK_SIZE: ukuran boot disk dalam GB. Tentukan ukuran boot disk minimal 40 GB.

  • NETWORK: jaringan VPC yang akan digunakan untuk VM. Anda dapat menentukan default untuk menggunakan jaringan default.

  • ACCELERATOR_COUNT: jumlah GPU yang ingin ditambahkan ke VM. Lihat GPU di Compute Engine untuk melihat daftar batas GPU berdasarkan jenis mesin VM Anda.

  • ACCELERATOR_TYPE: Model GPU yang ingin Anda gunakan. Jika Anda berencana menjalankan workload yang intensif grafis di VM ini, gunakan salah satu model workstation virtual.

    Pilih salah satu nilai berikut:

    • GPU NVIDIA:

      • NVIDIA T4: nvidia-tesla-t4
      • NVIDIA P4: nvidia-tesla-p4
      • NVIDIA P100: nvidia-tesla-p100
      • NVIDIA V100: nvidia-tesla-v100

    • NVIDIA RTX Virtual Workstation (vWS) (sebelumnya disebut NVIDIA GRID):

      • NVIDIA T4 Virtual Workstation: nvidia-tesla-t4-vws
      • NVIDIA P4 Virtual Workstation: nvidia-tesla-p4-vws

      • NVIDIA P100 Virtual Workstation: nvidia-tesla-p100-vws

        Untuk workstation virtual ini, lisensi NVIDIA RTX Virtual Workstation (vWS) otomatis ditambahkan ke VM Anda.

Menginstal driver

Untuk menginstal driver, pilih salah satu opsi berikut:

Apa langkah selanjutnya?