Tentang GPU

Anda dapat memasang unit pemrosesan grafis (GPU) ke instance mesin virtual (VM) untuk mempercepat workload tertentu di Compute Engine.

Dokumen ini menjelaskan fitur dan batasan GPU yang berjalan di Compute Engine.

GPU dan seri mesin

GPU didukung untuk seri mesin N1 tujuan umum, dan seri mesin yang dioptimalkan akselerator (A3, A2, dan G2). Untuk VM yang menggunakan jenis mesin N1, Anda perlu memasang GPU ke VM selama atau setelah pembuatan VM. Untuk VM yang menggunakan jenis mesin A3, A2, atau G2, GPU otomatis terpasang saat Anda membuat VM. GPU tidak dapat digunakan dengan seri mesin lainnya.

Seri mesin yang dioptimalkan akselerator

Setiap jenis mesin yang dioptimalkan akselerator memiliki model GPU NVIDIA yang terpasang.

  • Untuk jenis mesin yang dioptimalkan akselerator A3, GPU NVIDIA H100 80 GB dipasang.
  • Untuk jenis mesin yang dioptimalkan akselerator A2, GPU NVIDIA A100 terpasang. GPU ini tersedia dalam opsi A100 40GB dan A100 80GB.
  • Untuk jenis mesin yang dioptimalkan akselerator G2, GPU NVIDIA L4 terpasang.

Untuk informasi selengkapnya, lihat Seri mesin yang dioptimalkan akselerator.

Seri mesin tujuan umum N1

Untuk semua jenis GPU lainnya, Anda dapat menggunakan sebagian besar jenis mesin N1 kecuali inti bersama N1.

Untuk seri mesin ini, Anda dapat menggunakan jenis mesin yang telah ditentukan atau kustom.

GPU di preemptible instance

Anda dapat menambahkan GPU ke instance preemptible VM dengan harga spot yang lebih rendah untuk GPU tersebut. GPU yang dipasang ke preemptible instance berfungsi seperti GPU normal, tetapi hanya bertahan selama masa pakai instance. Preemptible instance dengan GPU mengikuti proses preemption yang sama seperti semua preemptible instance.

Sebaiknya minta kuota Preemptible GPU khusus untuk digunakan dengan GPU di preemptible instance. Untuk mengetahui informasi lebih lanjut, baca Kuota untuk instance preemptible VM.

Selama peristiwa pemeliharaan, preemptible instance dengan GPU akan di-preempt secara default dan tidak dapat otomatis dimulai ulang. Jika Anda ingin membuat ulang instance setelah di-preempt, gunakan grup instance terkelola. Grup instance terkelola akan membuat ulang instance jika resource vCPU, memori, dan GPU tersedia.

Jika Anda ingin diberi tahu sebelum instance di-preempt, atau ingin mengonfigurasi instance agar otomatis dimulai ulang setelah peristiwa pemeliharaan, gunakan instance standar dengan GPU. Untuk instance standar dengan GPU, Google memberikan pemberitahuan awal satu jam sebelum preemption.

Compute Engine tidak mengenakan biaya untuk GPU jika instance-nya di-preempt dalam menit pertama setelah mulai berjalan.

Untuk mengetahui langkah-langkah memulai ulang instance standar secara otomatis, lihat Memperbarui opsi untuk instance.

Untuk mempelajari cara membuat preemptible instance dengan GPU yang terpasang, baca Membuat VM dengan GPU yang terpasang.

GPU dan Confidential VM

Anda tidak dapat memasang GPU ke instance Confidential VM. Untuk mengetahui informasi selengkapnya tentang Confidential VM, lihat Konsep Confidential Computing.

Pemeliharaan GPU dan host

VM dengan GPU yang terpasang tidak dapat melakukan migrasi langsung dan harus berhenti untuk peristiwa pemeliharaan host. Peristiwa pemeliharaan ini biasanya terjadi sekali setiap dua minggu. Peristiwa pemeliharaan juga dapat terjadi lebih sering jika diperlukan. Untuk informasi tentang cara menangani peristiwa pemeliharaan, lihat Menangani peristiwa pemeliharaan host GPU.

GPU dan block storage

Anda dapat menambahkan SSD Lokal ke VM yang memasang GPU. Untuk mengetahui daftar dukungan SSD Lokal menurut jenis dan region GPU, lihat Ketersediaan SSD lokal menurut region dan zona GPU.

Penentuan harga GPU

Sebagian besar VM dengan GPU yang terpasang menerima diskon untuk penggunaan berkelanjutan yang serupa dengan vCPU. Saat Anda memilih GPU untuk workstation virtual, lisensi NVIDIA RTX Virtual Workstation akan ditambahkan ke VM Anda.

Untuk mengetahui harga per jam dan bulanan untuk GPU, lihat halaman harga GPU.

Melakukan reservasi GPU dengan diskon abonemen

Untuk mencadangkan resource GPU di zona tertentu, lihat Pemesanan resource zona Compute Engine.

Guna menerima diskon abonemen untuk GPU di zona tertentu, Anda harus membeli komitmen berbasis resource untuk GPU dan juga melampirkan reservasi yang menentukan GPU yang cocok dengan komitmen Anda. Untuk mengetahui informasi selengkapnya, lihat Melampirkan reservasi ke komitmen berbasis resource.

Pembatasan dan batasan GPU

Untuk VM dengan GPU yang terpasang, pembatasan dan batasan berikut berlaku:

  • Jika Anda ingin menggunakan GPU NVIDIA K80 dengan VM, VM tidak dapat menggunakan platform CPU Intel Skylake atau yang lebih baru.

  • Saat ini GPU hanya didukung dengan N1 tujuan umum atau yang dioptimalkan akselerator - A3, A2, dan G2 - jenis mesin.

  • Untuk melindungi sistem dan pengguna Compute Engine, project baru memiliki kuota GPU global, yang membatasi jumlah total GPU yang dapat Anda buat di zona mana pun yang didukung. Saat meminta kuota GPU, Anda harus meminta kuota untuk model GPU yang ingin dibuat di setiap region, dan kuota global tambahan untuk jumlah total semua jenis GPU di semua zona.

  • VM dengan satu atau beberapa GPU memiliki jumlah vCPU maksimum untuk setiap GPU yang Anda tambahkan ke instance. Misalnya, setiap GPU NVIDIA K80 memungkinkan Anda memiliki hingga delapan vCPU dan memori hingga 52 GB pada jenis mesin instance Anda. Informasi tentang rentang vCPU dan memori yang tersedia untuk berbagai konfigurasi GPU tersedia di daftar GPU.

  • GPU memerlukan driver perangkat agar berfungsi dengan baik. GPU NVIDIA yang berjalan di Compute Engine harus menggunakan versi driver minimum. Untuk informasi selengkapnya tentang versi driver, lihat Versi driver NVIDIA yang diperlukan.

  • VM dengan model GPU tertentu yang terpasang tercakup dalam SLA Compute Engine hanya jika model GPU yang terpasang tersebut tersedia secara umum dan didukung di lebih dari satu zona di region yang sama. SLA Compute Engine tidak mencakup model GPU di zona berikut:

    • NVIDIA H100 80GB:
      • us-east5-a
    • NVIDIA L4:
      • europe-west3-b
      • europe-west6-b
    • NVIDIA A100 80GB:
      • asia-southeast1-c
      • us-east4-c
      • us-east5-b
    • NVIDIA A100 40GB:
      • us-east1-b
      • us-west1-b
      • us-west3-b
      • us-west4-b
    • NVIDIA T4:
      • europe-west3-b
      • southamerica-east1-c
      • us-west3-b
    • NVIDIA V100:
      • asia-east1-c
      • us-east1-c
    • NVIDIA P100:
      • australia-southeast1-c
      • europe-west4-a
    • NVIDIA K80:
      • us-west1-b

  • Compute Engine mendukung pengoperasian 1 pengguna serentak per GPU.

Apa langkah selanjutnya?