Tambahkan atau hapus GPU

Compute Engine menyediakan unit pemrosesan grafis (GPU) yang dapat Anda tambahkan ke instance virtual machine (VM) Anda. Anda dapat menggunakan GPU ini untuk mempercepat workload tertentu pada VM Anda, seperti machine learning dan pemrosesan data.

Anda hanya dapat menggunakan dua kelompok mesin saat menjalankan GPU di Compute Engine:

  • Kelompok mesin yang dioptimalkan akselerator: A3, A2, dan G2.
  • Kelompok mesin tujuan umum N1. Anda dapat menggunakan sebagian besar jenis mesin N1, kecuali jenis mesin dengan inti bersama N1. Jika tidak menggunakan mesin tujuan umum N1, Anda dapat beralih ke mesin tujuan umum N1, lalu menambahkan GPU.

Sebelum memulai

  • Untuk meninjau langkah-langkah prasyarat tambahan, seperti memilih image OS dan memeriksa kuota GPU, lihat dokumen ringkasan.
  • Siapkan autentikasi, jika Anda belum melakukannya. Autentikasi adalah proses verifikasi identitas Anda untuk akses ke layanan dan API Google Cloud. Untuk menjalankan kode atau contoh dari lingkungan pengembangan lokal, Anda dapat melakukan autentikasi ke Compute Engine sebagai berikut.

    Pilih tab untuk melihat bagaimana Anda berencana menggunakan contoh di halaman ini:

    Konsol

    Saat menggunakan Konsol Google Cloud untuk mengakses API dan layanan Google Cloud, Anda tidak perlu menyiapkan autentikasi.

    REST

    Untuk menggunakan contoh REST API di halaman ini dalam lingkungan pengembangan lokal, gunakan kredensial yang Anda berikan ke gcloud CLI.

      Instal Google Cloud CLI, lalu initialize dengan menjalankan perintah berikut: 

      gcloud init

VM yang dioptimalkan akselerator

Setiap jenis mesin yang dioptimalkan akselerator memiliki model GPU NVIDIA yang terpasang.

  • Untuk jenis mesin yang dioptimalkan akselerator A3, GPU NVIDIA H100 80 GB dipasang.
  • Untuk jenis mesin yang dioptimalkan akselerator A2, GPU NVIDIA A100 terpasang. GPU ini tersedia dalam opsi A100 40GB dan A100 80GB.
  • Untuk jenis mesin yang dioptimalkan akselerator G2, GPU NVIDIA L4 terpasang.

Anda dapat mengubah setiap VM yang dioptimalkan akselerator sebagai berikut:

  • Untuk VM standar A2, Anda dapat mengubah jumlah GPU dengan beralih dari satu jenis mesin standar A2 ke jenis mesin standar A2 lainnya.

  • Untuk VM standar A3 dan VM ultra A2, Anda tidak dapat mengubah jenis mesin. Jika Anda menggunakan jenis mesin ultra standar A3 atau A2 untuk VM dan perlu mengubah jenis mesin, buat VM baru.

  • Untuk VM standar G2, Anda dapat melakukan hal berikut:

    • Anda dapat mengubah jumlah GPU dengan beralih dari satu jenis mesin standar G2 ke jenis mesin standar G2 lainnya.
    • Anda dapat beralih dari jenis mesin standar G2 ke jenis mesin dari kelompok mesin yang berbeda seperti mesin tujuan umum atau yang dioptimalkan untuk komputasi. Lihat Mengubah jenis mesin.

  • Anda tidak dapat menghapus GPU dari jenis mesin yang dioptimalkan akselerator. Jika Anda tidak lagi memerlukan GPU, selesaikan hal berikut:

    • Untuk VM standar atau ultra A2, buat VM baru.
    • Untuk VM G2, ubah ke jenis mesin dari kelompok mesin yang berbeda.

Mengubah jumlah GPU

Anda dapat mengubah jumlah GPU dari VM standar A2 atau VM yang dioptimalkan akselerator G2 menggunakan Konsol Google Cloud atau REST.

Konsol

Anda dapat mengubah jumlah GPU untuk VM dengan menghentikan VM dan mengedit konfigurasi VM.

  1. Pastikan semua aplikasi penting Anda dihentikan di VM.

  2. Di konsol Google Cloud, buka halaman Instance VM untuk melihat daftar VM Anda.

    Buka instance VM

  3. Klik nama VM yang ingin diubah jumlah GPU-nya. Halaman Detail akan terbuka.

  4. Selesaikan langkah-langkah berikut dari halaman Detail.

    1. Jika VM berjalan, klik Hentikan pada toolbar. Kemudian, tunggu hingga VM berhenti.

    2. Di toolbar, klik Edit.

    3. Di bagian Konfigurasi mesin, pilih kelompok mesin GPUs, lalu lakukan hal berikut:

      1. Dalam daftar Jumlah GPU, tambah atau kurangi jumlah GPU.

    4. Untuk menerapkan perubahan, klik Simpan.

    5. Untuk memulai ulang VM, klik Mulai/Lanjutkan.

REST

Anda dapat mengubah jumlah GPU pada VM dengan menghentikan VM dan mengubah jenis mesin. Setiap jenis mesin yang dioptimalkan akselerator memiliki jumlah GPU tertentu yang terpasang. Jika Anda mengubah jenis mesin, jumlah GPU yang terpasang ke VM akan disesuaikan.

  1. Pastikan semua aplikasi penting Anda dihentikan di VM, lalu buat perintah POST untuk menghentikan VM agar dapat dipindahkan ke sistem host tempat GPU tersedia.

    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/VM_NAME/stop

  2. Setelah VM berhenti, buat permintaan POST untuk mengubah jenis mesin.

    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/VM_NAME/setMachineType

{
   machineType: "zones/ZONE/machineTypes/MACHINE_TYPE"
}

  3. Mulai VM.

    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/VM_NAME/start

Ganti kode berikut:

  • PROJECT_ID: project ID Anda.
  • VM_NAME: nama VM yang ingin Anda tambahi GPU.
  • ZONE: zona tempat VM berada. Zona ini harus mendukung GPU.

  • MACHINE_TYPE: jenis mesin yang ingin Anda gunakan. Properti tersebut harus berupa salah satu dari yang berikut:

    • Jika VM Anda menggunakan mesin standar A2, pilih jenis mesin A2 lainnya.
    • Jika VM Anda menggunakan jenis mesin G2, pilih jenis mesin G2 lainnya. Jenis mesin G2 juga mendukung memori kustom. Memori harus kelipatan dari 1024 MB dan dalam rentang memori yang didukung. Misalnya, untuk membuat VM dengan 4 vCPU dan memori 19 GB, tentukan --machine-type=g2-custom-4-19456.

Batasan

Standar A2

  • Anda tidak akan menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen yang fleksibel untuk VM yang menggunakan jenis mesin standar A2.
  • Anda hanya dapat menggunakan jenis mesin standar A2 di region dan zona tertentu.
  • Anda tidak dapat menggunakan persistent disk regional pada VM yang menggunakan jenis mesin standar A2.
  • Jenis mesin standar A2 hanya tersedia di platform Casscade Lake.
  • Jika VM menggunakan jenis mesin standar A2, Anda hanya dapat beralih dari satu jenis mesin standar A2 ke jenis mesin standar A2 lainnya. Anda tidak dapat beralih ke jenis mesin lainnya. Untuk mengetahui informasi selengkapnya, lihat Mengubah VM yang dioptimalkan akselerator.
  • Anda tidak dapat menggunakan jenis mesin standar a2-megagpu-16g A2 pada sistem operasi Windows. Saat menggunakan sistem operasi Windows, pilih jenis mesin standar A2 yang berbeda.
  • Anda tidak dapat melakukan format cepat SSD Lokal yang terpasang di VM Windows yang menggunakan jenis mesin standar A2. Untuk memformat SSD Lokal ini, Anda harus membuat format penuh dengan menggunakan utilitas diskpart dan menentukan format fs=ntfs label=tmpfs.
  • Jenis mesin standar A2 tidak mendukung tenant tunggal.

A2 ultra

  • Anda tidak akan menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen yang fleksibel untuk VM yang menggunakan jenis mesin Ultra A2.
  • Anda hanya dapat menggunakan jenis mesin A2 ultra di region dan zona tertentu.
  • Anda tidak dapat menggunakan persistent disk regional pada VM yang menggunakan jenis mesin ultra A2.
  • Jenis mesin ultra A2 hanya tersedia di platform Casscade Lake.
  • Jika VM Anda menggunakan jenis mesin ultra A2, Anda tidak dapat mengubah jenis mesin. Jika perlu menggunakan jenis mesin A2 ultra lainnya, atau jenis mesin lainnya, Anda harus membuat VM baru.
  • Anda tidak dapat mengubah jenis mesin lainnya menjadi jenis mesin A2 ultra. Jika perlu membuat VM yang menggunakan jenis mesin ultra A2, Anda harus membuat VM baru.
  • Anda tidak dapat melakukan format cepat SSD Lokal yang terpasang di VM Windows yang menggunakan jenis mesin ultra A2. Untuk memformat SSD Lokal ini, Anda harus membuat format penuh dengan menggunakan utilitas diskpart dan menentukan format fs=ntfs label=tmpfs.

Standar G2

  • Anda tidak akan menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen yang fleksibel untuk VM yang menggunakan jenis mesin standar G2.
  • Anda hanya dapat menggunakan jenis mesin standar G2 di region dan zona tertentu.
  • Anda tidak dapat menggunakan persistent disk regional pada VM yang menggunakan jenis mesin standar G2.
  • Jenis mesin standar G2 hanya tersedia di platform Casscade Lake.
  • Persistent disk standar (pd-standard) tidak didukung di VM yang menggunakan jenis mesin standar G2. Untuk mengetahui jenis disk yang didukung, lihat Jenis disk yang didukung untuk G2.
  • Anda tidak dapat membuat GPU Multi-Instance pada jenis mesin standar G2.
  • Jika Anda perlu mengubah jenis mesin VM G2, pelajari artikel Mengubah VM yang dioptimalkan akselerator.
  • Anda tidak dapat menggunakan Deep Learning VM Image sebagai boot disk untuk VM yang menggunakan jenis mesin standar G2.
  • Driver default saat ini untuk Container-Optimized OS tidak mendukung GPU L4 yang berjalan pada jenis mesin G2. Container-Optimized OS juga hanya mendukung serangkaian driver tertentu. Jika Anda ingin menggunakan Container-Optimized OS pada jenis mesin G2, tinjau catatan berikut:
    • Gunakan versi Container-Optimized OS yang mendukung versi driver NVIDIA minimum yang direkomendasikan 525.60.13 atau yang lebih baru. Untuk informasi selengkapnya, tinjau catatan rilis Container-Optimized OS.
    • Saat Anda menginstal driver, tentukan versi terbaru yang tersedia yang berfungsi untuk GPU L4. Contoh, sudo cos-extensions install gpu -- -version=525.60.13.
  • Anda harus menggunakan Google Cloud CLI atau REST untuk membuat VM G2 untuk skenario berikut:
    • Anda ingin menetapkan nilai memori kustom.
    • Anda ingin menyesuaikan jumlah inti CPU yang terlihat.

VM tujuan umum N1

Bagian ini membahas cara menambahkan, mengubah, atau menghapus GPU dari mesin tujuan umum N1.

Singkatnya, proses menambahkan, mengubah, atau menghapus GPU dari VM yang sudah ada adalah sebagai berikut:

  1. Pastikan VM Anda memiliki ukuran boot disk minimal 40 GB.
  2. Hentikan VM.

  3. Tambahkan, ubah, atau hapus GPU.

    Jika GPU belum pernah terpasang pada VM, Anda harus menyelesaikan langkah-langkah berikut:

    1. Siapkan VM untuk perubahan.
    2. Ubah setelan pemeliharaan host untuk VM. VM dengan GPU tidak dapat melakukan migrasi langsung karena ditetapkan ke perangkat hardware tertentu. Untuk mengetahui informasi selengkapnya, lihat Batasan GPU.
    3. Ubah jenis mesin. GPU hanya didukung di jenis mesin tertentu.
    4. Instal driver GPU di VM Anda, sehingga sistem Anda dapat menggunakan perangkat.

Mempersiapkan VM

Saat GPU ditambahkan ke VM, urutan antarmuka jaringan dapat berubah.

Sebagian besar image publik di Compute Engine tidak memiliki nama antarmuka jaringan persisten dan akan disesuaikan dengan urutan baru.

Namun, jika menggunakan SLES atau image kustom, Anda harus memperbarui setelan sistem untuk mencegah antarmuka jaringan bertahan. Agar antarmuka jaringan tidak bertahan, jalankan perintah berikut di VM Anda:

 rm /etc/udev/rules.d/70-persistent-net.rules

Menambahkan GPU atau mengubah jenis GPU pada VM yang sudah ada

Bagian ini membahas cara menambahkan GPU, atau mengubah jenis GPU pada VM tujuan umum N1 yang sudah ada. Prosedur ini mendukung jenis GPU berikut:

NVIDIA GPU:

  • NVIDIA T4: nvidia-tesla-t4
  • NVIDIA P4: nvidia-tesla-p4
  • NVIDIA P100: nvidia-tesla-p100
  • NVIDIA V100: nvidia-tesla-v100
  • NVIDIA K80: nvidia-tesla-k80. Lihat NVIDIA K80 EOL.

NVIDIA RTX Virtual Workstation (vWS) (sebelumnya disebut NVIDIA GRID):

  • NVIDIA T4 Virtual Workstation: nvidia-tesla-t4-vws
  • NVIDIA P4 Virtual Workstation: nvidia-tesla-p4-vws

  • NVIDIA P100 Virtual Workstation: nvidia-tesla-p100-vws

    Untuk workstation virtual ini, lisensi NVIDIA RTX Virtual Workstation (vWS) otomatis ditambahkan ke VM Anda.

Konsol

Untuk menambahkan GPU atau mengubah jenis GPU, selesaikan langkah-langkah berikut.

  1. Pastikan semua aplikasi penting Anda dihentikan di VM.

  2. Di konsol Google Cloud, buka halaman Instance VM untuk melihat daftar VM Anda.

    Buka instance VM

  3. Klik nama VM yang ingin diperbarui. Halaman Detail akan terbuka.

  4. Selesaikan langkah-langkah berikut dari halaman Detail.

    1. Jika VM berjalan, klik Hentikan pada toolbar. Kemudian, tunggu hingga VM berhenti.

    2. Di toolbar, klik Edit.

    3. Di bagian Konfigurasi mesin, pilih kelompok mesin GPUs, lalu lakukan hal berikut:

      1. Dalam daftar Jenis GPU, pilih atau ganti ke jenis GPU apa pun yang didukung pada VM N1.

      2. Dalam daftar Jumlah GPU, pilih jumlah GPU.

      3. Jika model GPU Anda mendukung NVIDIA RTX Virtual Workstations (vWS) untuk workload grafis, dan Anda berencana menjalankan workload dengan grafik yang intensif pada VM ini, pilih Aktifkan Workstation Virtual (NVIDIA GRID).

    4. Jika GPU belum pernah terpasang pada VM, selesaikan langkah berikut:

      1. Jika VM memiliki jenis mesin dengan inti bersama, Anda harus mengubah jenis mesin. Dalam daftar Jenis mesin, pilih salah satu jenis mesin N1 preset. Atau, Anda juga dapat menentukan setelan jenis mesin kustom.

      2. Di bagian Pengelolaan, selesaikan langkah-langkah berikut:

        1. Dalam daftar Pengelolaan di host, pilih Akhiri instance VM. VM dengan GPU yang terpasang tidak dapat melakukan migrasi langsung. Lihat Menangani peristiwa host GPU.

        2. Dalam daftar Mulai ulang otomatis, pilih Aktif.

    5. Untuk menerapkan perubahan, klik Simpan.

    6. Untuk memulai ulang VM, klik Mulai/Lanjutkan.

REST

Anda dapat menambahkan atau mengubah GPU pada VM dengan menghentikan VM dan mengubah konfigurasi VM melalui API.

  1. Pastikan semua aplikasi penting Anda dihentikan di VM, lalu buat perintah POST untuk menghentikan VM sehingga dapat dipindahkan ke sistem host tempat GPU tersedia.

    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/VM_NAME/stop

  2. Jika GPU belum pernah terpasang pada VM, selesaikan langkah-langkah berikut:

    1. Identifikasi jenis GPU yang ingin Anda tambahkan ke VM. Anda dapat mengirimkan permintaan GET untuk mencantumkan jenis GPU yang tersedia untuk project Anda di zona tertentu.

      GET https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/acceleratorTypes

    2. Jika VM memiliki jenis mesin dengan inti bersama, Anda harus mengubah jenis mesin agar memiliki satu atau beberapa vCPU. Anda tidak dapat menambahkan akselerator ke VM dengan jenis mesin dengan inti bersama.

    3. Buat perintah POST untuk menetapkan opsi penjadwalan untuk VM.

      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/VM_NAME/setScheduling

{
"onHostMaintenance": "TERMINATE",
"automaticRestart": true
}

  3. Buat permintaan POST untuk menambahkan atau mengubah GPU yang terpasang ke VM Anda.

    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/VM_NAME/setMachineResources

    {
     "guestAccelerators": [
      {
        "acceleratorCount": ACCELERATOR_COUNT,
        "acceleratorType": "https://www.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
      }
     ]
    }

  4. Mulai VM.

    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/VM_NAME/start

    Ganti kode berikut:

    • PROJECT_ID: project ID Anda.
    • VM_NAME: nama VM yang ingin Anda tambahi GPU.
    • ZONE: zona tempat VM berada.
    • ACCELERATOR_COUNT: jumlah GPU yang ingin Anda pasang ke VM. Untuk mengetahui daftar batas GPU berdasarkan jenis mesin VM Anda, lihat GPU di Compute Engine.

    • ACCELERATOR_TYPE: Model GPU yang ingin Anda pasang atau gunakan sebagai pengganti. Jika Anda berencana menjalankan workload dengan grafik yang intensif di VM ini, gunakan salah satu model workstation virtual.

      Pilih salah satu nilai berikut:

      • GPU NVIDIA:

        • NVIDIA T4: nvidia-tesla-t4
        • NVIDIA P4: nvidia-tesla-p4
        • NVIDIA P100: nvidia-tesla-p100
        • NVIDIA V100: nvidia-tesla-v100
        • NVIDIA K80: nvidia-tesla-k80. Lihat NVIDIA K80 EOL.

      • NVIDIA RTX Virtual Workstation (vWS) (sebelumnya disebut NVIDIA GRID):

        • NVIDIA T4 Virtual Workstation: nvidia-tesla-t4-vws
        • NVIDIA P4 Virtual Workstation: nvidia-tesla-p4-vws
        • NVIDIA P100 Virtual Workstation: nvidia-tesla-p100-vws

        Untuk workstation virtual ini, lisensi NVIDIA RTX Virtual Workstation (vWS) otomatis ditambahkan ke VM Anda.

Menginstal driver

Untuk menginstal driver, pilih salah satu opsi berikut:

Menghapus GPU

Bagian ini membahas cara menghapus jenis GPU berikut dari VM tujuan umum N1 yang sudah ada.

NVIDIA GPU:

  • NVIDIA T4: nvidia-tesla-t4
  • NVIDIA P4: nvidia-tesla-p4
  • NVIDIA P100: nvidia-tesla-p100
  • NVIDIA V100: nvidia-tesla-v100
  • NVIDIA K80: nvidia-tesla-k80. Lihat NVIDIA K80 EOL.

NVIDIA RTX Virtual Workstation (vWS) (sebelumnya disebut NVIDIA GRID):

  • NVIDIA T4 Virtual Workstation: nvidia-tesla-t4-vws
  • NVIDIA P4 Virtual Workstation: nvidia-tesla-p4-vws

  • NVIDIA P100 Virtual Workstation: nvidia-tesla-p100-vws

    Untuk workstation virtual ini, lisensi NVIDIA RTX Virtual Workstation (vWS) otomatis ditambahkan ke VM Anda.

Anda dapat menggunakan konsol Google Cloud untuk menghapus GPU dari VM yang sudah ada. Untuk menghapus GPU, selesaikan langkah-langkah berikut:

  1. Pastikan semua aplikasi penting Anda dihentikan di VM.

  2. Di konsol Google Cloud, buka halaman Instance VM untuk melihat daftar VM Anda.

    Buka instance VM

  3. Klik nama VM yang ingin Anda hapus GPU-nya. Halaman Detail akan terbuka.

  4. Selesaikan langkah-langkah berikut dari halaman Detail.

    1. Jika VM berjalan, klik Hentikan pada toolbar. Kemudian, tunggu hingga VM berhenti.

    2. Di toolbar, klik Edit.

    3. Di bagian Konfigurasi mesin, pilih kelompok mesin Tujuan umum, lalu lakukan hal berikut:

      1. Untuk melihat GPU yang terpasang, luaskan Konfigurasi lanjutan.

      2. Di bagian GPU, hapus GPU menggunakan salah satu opsi berikut:

        • Untuk menghapus beberapa GPU, di daftar Jumlah GPU, pilih angka baru.

        • Untuk menghapus semua GPU, klik Hapus GPU.

    4. Opsional: Ubah setelan kebijakan pemeliharaan host VM. VM dengan GPU harus memiliki kebijakan pemeliharaan host yang ditetapkan ke Akhiri instance VM. Namun, jika semua GPU dihapus, Anda memiliki opsi untuk melakukan migrasi langsung terhadap VM ini selama pemeliharaan host. Untuk informasi selengkapnya, lihat Menetapkan kebijakan pemeliharaan host VM.

    5. Untuk menerapkan perubahan, klik Simpan.

    6. Untuk memulai ulang VM, klik Mulai/Lanjutkan.

Apa langkah selanjutnya?