Compute Engine menyediakan unit pemrosesan grafis (GPU) yang dapat Anda tambahkan ke mesin virtual (VM). Anda dapat menggunakan GPU ini untuk mempercepat workload tertentu pada VM Anda, seperti machine learning dan pemrosesan data.
Dokumen ini memberikan ringkasan langkah-langkah yang diperlukan untuk membuat VM dengan GPU yang terpasang.
Untuk mengetahui informasi selengkapnya tentang GPU di Compute Engine, lihat Tentang GPU.
Memilih model GPU
Untuk daftar model GPU yang tersedia, lihat platform GPU. Catat juga jenis mesin yang didukung untuk model GPU yang dipilih.
Untuk setiap model, Anda juga dapat meninjau hal-hal berikut:
- Region dan zona yang didukung.
- Harga GPU untuk mengetahui biaya penggunaan setiap model GPU pada VM Anda. Untuk VM yang menggunakan mesin yang dioptimalkan akselerator, tinjau juga harga instance VM.
- Tinjau pembatasan untuk VM dengan GPU.
Pilih sistem operasi
Jika menggunakan GPU untuk machine learning, Anda dapat menggunakan Deep Learning VM Image untuk VM Anda. Setiap Deep Learning VM Image memiliki driver GPU yang telah diinstal sebelumnya dan menyertakan paket, seperti TensorFlow dan PyTorch. Anda juga dapat menggunakan Deep Learning VM Image untuk workload GPU umum. Untuk informasi tentang image yang tersedia dan paket yang diinstal pada image, lihat Memilih image. Anda juga dapat menggunakan image publik atau image kustom, tetapi beberapa gambar mungkin memerlukan driver unik atau proses penginstalan yang tidak tercakup dalam dokumen ini.
Anda harus mengidentifikasi driver yang sesuai untuk image OS Anda. Untuk mengetahui langkah-langkah menginstal driver, lihat menginstal driver GPU.
Memeriksa kuota GPU
Untuk melindungi sistem dan pengguna Compute Engine, project baru memiliki kuota GPU global, yang membatasi jumlah total GPU yang dapat Anda buat di semua zona yang didukung. Untuk meninjau kuota GPU, lihat Kuota GPU.
Jika Anda memerlukan kuota GPU tambahan, minta penambahan kuota. Saat meminta kuota GPU, Anda harus meminta kuota untuk jenis GPU yang ingin dibuat di setiap region dan kuota global tambahan untuk jumlah total GPU dari semua jenis di semua zona.
Jika project Anda memiliki histori penagihan yang telah ditetapkan, project tersebut akan otomatis menerima kuota setelah Anda mengirimkan permintaan.
VM GPU dan kuota alokasi preemptible
Resource untuk VM yang menggunakan model penyediaan standar default (VM standar) biasanya tidak dapat menggunakan kuota alokasi preemptible, yang ditujukan untuk workload sementara dan biasanya lebih tersedia. Jika project Anda tidak memiliki kuota preemptible, dan Anda tidak pernah meminta kuota preemptible, semua VM dalam project tersebut akan menggunakan kuota alokasi standar.
Namun, setelah Anda meminta kuota alokasi preemptible, VM standar yang memenuhi semua kriteria berikut hanya dapat menggunakan kuota alokasi preemptible.
- VM telah memasang GPU. VM ini dapat berupa VM N1 yang telah memasang GPU, atau VM yang dioptimalkan akselerator.
- VM dikonfigurasi untuk otomatis dihapus setelah waktu operasi yang telah ditentukan
selama 7 hari atau kurang melalui salah satu metode berikut:
- Menggunakan kolom
maxRunDuration
atau kolomterminationTime
. Untuk mengetahui informasi selengkapnya, lihat Membatasi waktu proses VM atau Membatasi waktu proses VM di MIG. - Menggunakan kolom
requestedRunDuration
—yang hanya tersedia untuk grup instance terkelola (MIG). Untuk informasi selengkapnya, lihat Tentang permintaan pengubahan ukuran di MIG.
- Menggunakan kolom
- VM tidak diizinkan untuk menggunakan reservasi. Untuk mengetahui informasi selengkapnya, lihat Membuat VM tanpa menggunakan reservasi.
Dengan menggunakan kuota alokasi preemptible untuk beban kerja tersebut, Anda akan mendapatkan manfaat waktu proses yang tidak terganggu dari VM standar dan peningkatan ketersediaan dari kuota alokasi preemptible.
Terlepas dari kuota yang digunakan, VM standar tidak memenuhi syarat untuk harga VM Spot dan tidak tunduk pada penghentian.
Untuk mengetahui informasi selengkapnya, lihat Kuota preemptible.
Buat VM yang telah memasang GPU
Untuk membuat VM dengan memasang GPU, selesaikan langkah-langkah berikut:
Membuat VM. Metode yang digunakan untuk membuat VM bergantung pada model GPU yang dipilih.
- Untuk membuat VM yang telah memasang GPU NVIDIA H100, A100, atau L4, lihat Membuat VM yang dioptimalkan akselerator.
- Untuk membuat VM yang telah memasang GPU NVIDIA T4, P4, P100, atau V100, lihat Membuat VM N1 yang telah memasang GPU.
Agar VM dapat menggunakan GPU, Anda harus menginstal driver GPU pada VM. Jika Anda mengaktifkan workstation virtual NVIDIA RTX (sebelumnya disebut NVIDIA GRID), instal driver untuk workstation virtual.
Apa langkah selanjutnya?
Pelajari platform GPU lebih lanjut.
Pelajari lebih lanjut fitur dan batasan penggunaan GPU.
- Pelajari cara melihat penggunaan GPU yang sebenarnya dan yang diperkirakan.