Dokumen ini menjelaskan cara membuat VM yang telah memasang GPU dan menggunakan kelompok mesin N1.
Anda dapat menggunakan sebagian besar jenis mesin N1 kecuali N1 shared-core
.
Sebelum memulai
- Untuk meninjau langkah-langkah prasyarat tambahan, seperti memilih image OS dan memeriksa kuota GPU, lihat dokumen ringkasan.
-
Siapkan autentikasi, jika Anda belum melakukannya.
Autentikasi adalah proses verifikasi identitas Anda untuk akses ke layanan dan API Google Cloud.
Untuk menjalankan kode atau contoh dari lingkungan pengembangan lokal, Anda dapat melakukan autentikasi ke Compute Engine sebagai berikut.
Pilih tab untuk melihat bagaimana Anda berencana menggunakan contoh di halaman ini:
Konsol
Saat menggunakan Konsol Google Cloud untuk mengakses API dan layanan Google Cloud, Anda tidak perlu menyiapkan autentikasi.
gcloud
-
Instal Google Cloud CLI, lalu initialize dengan menjalankan perintah berikut:
gcloud init
- Menetapkan region dan zona default.
REST
Untuk menggunakan contoh REST API di halaman ini dalam lingkungan pengembangan lokal, gunakan kredensial yang Anda berikan ke gcloud CLI.
Instal Google Cloud CLI, lalu initialize dengan menjalankan perintah berikut:
gcloud init
-
Peran yang diperlukan
Untuk mendapatkan izin yang Anda perlukan untuk membuat VM,
minta administrator untuk memberi Anda peran IAM
Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1
) di project.
Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses.
Peran bawaan ini berisi izin yang diperlukan untuk membuat VM. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:
Izin yang diperlukan
Izin berikut diperlukan untuk membuat VM:
-
compute.instances.create
pada project -
Untuk menggunakan image kustom guna membuat VM:
compute.images.useReadOnly
pada image -
Untuk menggunakan snapshot guna membuat VM:
compute.snapshots.useReadOnly
di snapshot -
Untuk menggunakan template instance untuk membuat VM:
compute.instanceTemplates.useReadOnly
di template instance -
Untuk menetapkan jaringan lama ke VM:
compute.networks.use
pada project -
Untuk menentukan alamat IP statis untuk VM:
compute.addresses.use
di project -
Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan lama:
compute.networks.useExternalIp
di project -
Untuk menentukan subnet untuk VM Anda:
compute.subnetworks.use
pada project atau subnet yang dipilih -
Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan VPC:
compute.subnetworks.useExternalIp
pada project atau di subnet yang dipilih -
Untuk menetapkan metadata instance VM untuk VM:
compute.instances.setMetadata
di project -
Untuk menetapkan tag untuk VM:
compute.instances.setTags
di VM -
Untuk menetapkan label VM:
compute.instances.setLabels
di VM -
Untuk menetapkan akun layanan yang akan digunakan VM:
compute.instances.setServiceAccount
di VM -
Untuk membuat disk baru bagi VM:
compute.disks.create
di project -
Untuk memasang disk yang ada dalam mode hanya baca atau baca-tulis:
compute.disks.use
pada disk -
Untuk memasang disk yang ada dalam mode hanya baca:
compute.disks.useReadOnly
pada disk
Anda mung juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaanlainnya.
Ringkasan
Model GPU berikut dapat dipasang ke VM yang menggunakan kelompok mesin N1.
GPU NVIDIA:
- NVIDIA T4:
nvidia-tesla-t4
- NVIDIA P4:
nvidia-tesla-p4
- NVIDIA P100:
nvidia-tesla-p100
- NVIDIA V100:
nvidia-tesla-v100
- NVIDIA K80:
nvidia-tesla-k80
. Lihat NVIDIA K80 EOL.
NVIDIA RTX Virtual Workstation (vWS) (sebelumnya disebut NVIDIA GRID):
- NVIDIA T4 Virtual Workstation:
nvidia-tesla-t4-vws
- NVIDIA P4 Virtual Workstation:
nvidia-tesla-p4-vws
NVIDIA P100 Virtual Workstation:
nvidia-tesla-p100-vws
Untuk workstation virtual ini, lisensi NVIDIA RTX Virtual Workstation (vWS) otomatis ditambahkan ke VM Anda.
Buat VM yang telah memasang GPU
Anda dapat membuat VM N1 yang telah memasang GPU menggunakan Konsol Google Cloud, Google Cloud CLI, atau REST.
Konsol
Di konsol Google Cloud, buka halaman Create an instance.
Tentukan Name untuk VM Anda. Lihat Konvensi penamaan resource.
Pilih region dan zona tempat GPU tersedia. Lihat daftar zona GPU yang tersedia.
Di bagian Machine configuration, pilih kelompok mesin GPUs, lalu lakukan tindakan berikut:
- Dalam daftar GPU type, pilih salah satu model GPU yang didukung di mesin N1.
- Dalam daftar Number of GPU, pilih jumlah GPU.
Jika model GPU Anda mendukung NVIDIA RTX Virtual Workstations (vWS) untuk workload grafis, dan Anda berencana menjalankan workload yang intensif grafis di VM ini, pilih Enable Virtual Workstation (NVIDIA GRID).
Dalam daftar Machine type, pilih salah satu jenis mesin N1 preset. Atau, Anda juga dapat menentukan setelan jenis mesin kustom.
Di bagian Boot disk, klik Change. Tindakan ini akan membuka halaman Boot disk configuration.
Di halaman Boot disk configuration, lakukan langkah berikut:
- Pada tab Public image, pilih image Compute Engine yang didukung atau Deep Learning VM Image.
- Tentukan ukuran boot disk minimal 40 GB.
- Untuk mengonfirmasi opsi boot disk, klik Select.
Luaskan bagian Advanced options.
- Luaskan bagian Management.
- Dalam daftar On host management, pilih Terminate VM instance. VM dengan GPU yang terpasang tidak dapat melakukan migrasi langsung. Lihat Menangani peristiwa host GPU.
- Dalam daftar Automatic restart, pilih On.
Konfigurasi setelan VM lain mana pun yang Anda perlukan. Misalnya, Anda dapat mengubah setelan Preemptibility untuk mengonfigurasi VM sebagai preemptible instance. Hal ini akan mengurangi biaya VM dan GPU yang terpasang. Untuk informasi selengkapnya, baca GPU pada preemptible instance.
Untuk membuat dan memulai VM, klik Create.
gcloud
Untuk membuat dan memulai VM, gunakan perintah gcloud compute instances create
dengan flag berikut.
--preemptible
adalah flag opsional yang mengonfigurasi VM Anda sebagai preemptible instance. Cara ini akan mengurangi biaya VM dan GPU yang terpasang. Untuk mengetahui informasi selengkapnya, baca GPU di preemptible instance.
gcloud compute instances create VM_NAME \ --machine-type MACHINE_TYPE \ --zone ZONE \ --boot-disk-size DISK_SIZE \ --accelerator type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \ [--image IMAGE | --image-family IMAGE_FAMILY] \ --image-project IMAGE_PROJECT \ --maintenance-policy TERMINATE --restart-on-failure \ [--preemptible]
Ganti kode berikut:
VM_NAME
: nama untuk VM baru.MACHINE_TYPE
: jenis mesin yang Anda pilih untuk VM.ZONE
: zona untuk VM. Zona ini harus mendukung jenis GPU.DISK_SIZE
: ukuran boot disk dalam GB. Tentukan ukuran boot disk minimal 40 GB.IMAGE
atauIMAGE_FAMILY
yang mendukung GPU. Tentukan salah satu dari berikut ini:IMAGE
: versi image publik yang diperlukan. Contoh,--image debian-10-buster-v20200309
.IMAGE_FAMILY
: kelompok image. Ini akan membuat VM dari OS image terbaru yang masih digunakan. Misalnya, jika Anda menentukan--image-family debian-10
, Compute Engine akan membuat VM dari OS image versi terbaru di dalam kelompok image Debian 10.
Anda juga dapat menentukan image kustom atau Deep Learning VM Image.
IMAGE_PROJECT
: project image Compute Engine yang mencakup kelompok gambar tersebut. Jika menggunakan image kustom atau Deep Learning VM Image, tentukan project tempat image tersebut berada.ACCELERATOR_COUNT
: jumlah GPU yang ingin ditambahkan ke VM. Lihat GPU di Compute Engine untuk melihat daftar batas GPU berdasarkan jenis mesin VM Anda.ACCELERATOR_TYPE
: model GPU yang ingin Anda gunakan. Jika Anda berencana menjalankan workload yang intensif grafis di VM ini, gunakan salah satu model workstation virtual.Pilih salah satu nilai berikut:
GPU NVIDIA:
- NVIDIA T4:
nvidia-tesla-t4
- NVIDIA P4:
nvidia-tesla-p4
- NVIDIA P100:
nvidia-tesla-p100
- NVIDIA V100:
nvidia-tesla-v100
- NVIDIA K80:
nvidia-tesla-k80
. Lihat NVIDIA K80 EOL.
- NVIDIA T4:
NVIDIA RTX Virtual Workstation (vWS) (sebelumnya disebut NVIDIA GRID):
- NVIDIA T4 Virtual Workstation:
nvidia-tesla-t4-vws
- NVIDIA P4 Virtual Workstation:
nvidia-tesla-p4-vws
NVIDIA P100 Virtual Workstation:
nvidia-tesla-p100-vws
Untuk workstation virtual ini, lisensi NVIDIA RTX Virtual Workstation (vWS) otomatis ditambahkan ke VM Anda.
- NVIDIA T4 Virtual Workstation:
Contoh
Misalnya, Anda dapat menggunakan perintah gcloud
berikut untuk memulai VM Ubuntu 22.04 dengan 1 GPU NVIDIA T4 dan 2 vCPU di zona us-east1-d
.
gcloud compute instances create gpu-instance-1 \ --machine-type n1-standard-2 \ --zone us-east1-d \ --boot-disk-size 40GB \ --accelerator type=nvidia-tesla-t4,count=1 \ --image-family ubuntu-2204-lts \ --image-project ubuntu-os-cloud \ --maintenance-policy TERMINATE --restart-on-failure
REST
Identifikasi jenis GPU yang ingin Anda tambahkan ke VM. Kirim permintaan GET untuk memunculkan daftar jenis GPU yang tersedia untuk project Anda di zona tertentu.
"preemptible": true
adalah parameter opsional yang mengonfigurasi VM Anda sebagai preemptible instance. Cara ini akan mengurangi biaya VM dan GPU yang terpasang. Untuk mengetahui informasi selengkapnya, baca GPU di preemptible instance.
GET https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/acceleratorTypes
Ganti kode berikut:
PROJECT_ID
: project ID.ZONE
: zona dari mana Anda ingin memunculkan daftar jenis GPU yang tersedia.
Kirim permintaan POST ke
metode instances.insert
.
Sertakan parameter acceleratorType
untuk menentukan jenis GPU yang akan digunakan, dan parameter acceleratorCount
untuk menentukan jumlah GPU yang ingin ditambahkan. Tetapkan juga parameter onHostMaintenance
ke TERMINATE
.
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances { "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE", "disks": [ { "type": "PERSISTENT", "initializeParams": { "diskSizeGb": "DISK_SIZE", "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY" }, "boot": true } ], "name": "VM_NAME", "networkInterfaces": [ { "network": "projects/PROJECT_ID/global/networks/NETWORK" } ], "guestAccelerators": [ { "acceleratorCount": ACCELERATOR_COUNT, "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE" } ], "scheduling": { "onHostMaintenance": "terminate", "automaticRestart": true, ["preemptible": true] }, }
Ganti kode berikut:
VM_NAME
: nama VM.PROJECT_ID
: Project ID Anda.ZONE
: zona untuk VM. Zona ini harus mendukung jenis GPU.MACHINE_TYPE
: jenis mesin yang Anda pilih untuk VM. Lihat GPU di Compute Engine untuk mengetahui jenis mesin yang tersedia berdasarkan jumlah GPU yang Anda inginkan.IMAGE
atauIMAGE_FAMILY
: tentukan salah satu dari berikut ini:IMAGE
: versi image publik yang diperlukan. Contoh,"sourceImage": "projects/debian-cloud/global/images/debian-10-buster-v20200309"
IMAGE_FAMILY
: kelompok image. Ini akan membuat VM dari OS image terbaru yang masih digunakan. Misalnya, jika Anda menentukan"sourceImage": "projects/debian-cloud/global/images/family/debian-10"
, Compute Engine akan membuat VM dari OS image versi terbaru dalam kelompok image Debian 10.
Anda juga dapat menentukan image kustom atau Deep Learning VM Image.
IMAGE_PROJECT
: project image Compute Engine yang mencakup kelompok gambar tersebut. Jika menggunakan image kustom atau Deep Learning VM Image, tentukan project tempat image tersebut berada.DISK_SIZE
: ukuran boot disk dalam GB. Tentukan ukuran boot disk minimal 40 GB.NETWORK
: jaringan VPC yang akan digunakan untuk VM. Anda dapat menentukandefault
untuk menggunakan jaringan default.ACCELERATOR_COUNT
: jumlah GPU yang ingin ditambahkan ke VM. Lihat GPU di Compute Engine untuk melihat daftar batas GPU berdasarkan jenis mesin VM Anda.ACCELERATOR_TYPE
: model GPU yang ingin Anda gunakan. Jika Anda berencana menjalankan workload yang intensif grafis di VM ini, gunakan salah satu model workstation virtual.Pilih salah satu nilai berikut:
GPU NVIDIA:
- NVIDIA T4:
nvidia-tesla-t4
- NVIDIA P4:
nvidia-tesla-p4
- NVIDIA P100:
nvidia-tesla-p100
- NVIDIA V100:
nvidia-tesla-v100
- NVIDIA K80:
nvidia-tesla-k80
. Lihat NVIDIA K80 EOL.
- NVIDIA T4:
NVIDIA RTX Virtual Workstation (vWS) (sebelumnya disebut NVIDIA GRID):
- NVIDIA T4 Virtual Workstation:
nvidia-tesla-t4-vws
- NVIDIA P4 Virtual Workstation:
nvidia-tesla-p4-vws
NVIDIA P100 Virtual Workstation:
nvidia-tesla-p100-vws
Untuk workstation virtual ini, lisensi NVIDIA RTX Virtual Workstation (vWS) otomatis ditambahkan ke VM Anda.
- NVIDIA T4 Virtual Workstation:
Menginstal driver
Untuk menginstal driver, pilih salah satu opsi berikut:
- Jika Anda berencana menjalankan workload yang intensif grafis, seperti untuk game dan visualisasi, instal driver untuk NVIDIA RTX Virtual Workstation.
- Untuk sebagian besar workload, instal driver GPU.
Apa langkah selanjutnya?
- Pelajari platform GPU lebih lanjut.
- Tambahkan SSD Lokal ke instance Anda. Perangkat SSD lokal berfungsi baik dengan GPU saat aplikasi Anda memerlukan penyimpanan berperforma tinggi.
- Instal driver GPU. Jika Anda mengaktifkan NVIDIA RTX Virtual Workstation, instal driver untuk workstation virtual tersebut.
- Untuk menangani pemeliharaan host GPU, lihat Menangani peristiwa pemeliharaan host GPU.