GPU yang tersedia

GPU digunakan untuk mempercepat workload, dan Cloud Workstations mendukung pemasangan GPU ke workstation. Cloud Workstations mendukung banyak model GPU yang tersedia untuk dipasang ke VM Compute Engine. Model dan jumlah GPU yang akan dipasang ke setiap workstation ditentukan pada konfigurasi workstation. Cloud Workstations menangani pemasangan GPU dan penginstalan driver perangkat mereka.

Memasang GPU ke workstation akan memengaruhi biaya seperti yang dijelaskan dalam ringkasan harga Cloud Workstations.

Batasan

Konfigurasi workstation dapat menentukan GPU, dengan batasan berikut:

Virtualisasi bertingkat tidak dapat diaktifkan pada konfigurasi workstation dengan GPU.
Cloud Workstations hanya mendukung GPU untuk konfigurasi yang menentukan jenis mesin dalam seri mesin N1 atau seri mesin A2. Lihat model GPU yang didukung untuk mengetahui detailnya.
Konfigurasi tersebut harus menentukan zona replika tempat model GPU yang dipilih tersedia.
Anda tidak dapat mengonfigurasi workstation agar memiliki lebih dari satu model GPU yang terpasang pada satu waktu.

Model GPU yang didukung

Cloud Workstations mendukung banyak model GPU yang disediakan Compute Engine. Model yang didukung bergantung pada seri mesin yang dipilih untuk konfigurasi workstation, seperti yang diringkas dalam tabel berikut.

Seri mesin N1

Seri mesin tujuan umum N1 mendukung beberapa model GPU, dan konfigurasi workstation yang menentukan salah satu jenis mesin N1 juga dapat menentukan salah satu model GPU berikut. Untuk model GPU yang dipilih, konfigurasi dapat menentukan jumlah kartu GPU yang akan dipasang ke setiap workstation.

Model GPU	Jumlah GPU
NVIDIA T4 (`nvidia-tesla-t4`)	1, 2, atau 4 GPU
NVIDIA P4 (`nvidia-tesla-p4`)	1, 2, atau 4 GPU
NVIDIA V100 (`nvidia-tesla-v100`)	1, 2, 4, atau 8 GPU
NVIDIA P100 (`nvidia-tesla-p100`)	1, 2, atau 4 GPU

Seri mesin A2

Seri mesin standar A2 yang dioptimalkan akselerator memiliki GPU NVIDIA A100 dalam jumlah tetap yang terpasang, hanya berdasarkan jenis mesin yang dipilih.

Tabel berikut menunjukkan pemetaan dari jenis mesin ke jumlah kartu yang akan dipasang.

Model GPU	Machine type	Jumlah GPU
NVIDIA A100 40GB (`nvidia-tesla-a100`)	`a2-highgpu-1g`	1 GPU
	`a2-highgpu-2g`	2 GPU
	`a2-highgpu-4g`	4 GPU
	`a2-highgpu-8g`	8 GPU
	`a2-megagpu-16g`	16 GPUs

Cloud Workstations tidak mendukung jenis mesin ultra A2.

Menambahkan GPU ke Konfigurasi Workstation yang Ada

Untuk menambahkan GPU ke konfigurasi workstation, selesaikan langkah-langkah di salah satu tab berikut.

Sebelum memulai

Pilih tab untuk melihat bagaimana Anda berencana menggunakan contoh di halaman ini:

Konsol

Saat menggunakan Konsol Google Cloud untuk mengakses API dan layanan Google Cloud, Anda tidak perlu menyiapkan autentikasi.

gcloud

Instal Google Cloud CLI, lalu initialize dengan menjalankan perintah berikut:

gcloud init

Tinjau ringkasan harga Cloud Workstations untuk memahami pengaruh konfigurasi GPU terhadap biaya Anda. Perhatikan bahwa GPU terpasang pada virtual machine (VM) yang telah dimulai yang ditentukan oleh Quick start pool size pada konfigurasi.

Mengupdate konfigurasi yang ada

Konsol

Konfigurasikan GPU pada konfigurasi workstation yang ada dari Konsol Google Cloud, dengan melakukan hal berikut:

Di konsol Google Cloud, buka halaman Workstation configurations.

Buka konfigurasi Workstation
Dalam daftar Workstation configurations, klik Name konfigurasi yang ingin ditambahi GPU.
Di halaman Workstation configuration details, klik edit Edit.
Di halaman Edit workstation configuration, klik Machine settings di menu navigasi.
Klik tombol untuk memilih GPU, bukan kelompok mesin Tujuan umum.

Di kolom GPU type, pilih Model GPU yang ingin Anda gunakan.

Di kolom Jumlah GPU, pilih jumlah kartu GPU yang ingin Anda pasang ke setiap workstation.

Di kolom Machine type, pilih jenis mesin yang ingin Anda gunakan.

Catatan: opsi untuk setiap kolom bervariasi, bergantung pada zona replika yang dipilih untuk konfigurasi serta ketersediaan GPU dan jenis mesin di zona tersebut. Jika tidak dapat menemukan GPU yang sesuai di zona replika untuk konfigurasi ini, Anda dapat memutuskan untuk membuat konfigurasi baru dengan GPU.
Klik Save untuk memperbarui konfigurasi.

gcloud

Konfigurasikan GPU di konfigurasi workstation yang ada dengan menjalankan perintah gcloud workstations configs update.

Pertama-tama, kumpulkan beberapa informasi untuk melihat model GPU mana yang tersedia dan memilih model untuk konfigurasi Anda:

Periksa zona replika mana yang ditentukan oleh konfigurasi dengan menjalankan perintah CLI gcloud berikut:
```
gcloud workstations configs describe \
  --format="table(name.scope(workstationConfigs),replicaZones.list())" \
  --project=PROJECT_ID \
  --region=LOCATION \
  --cluster=WORKSTATION_CLUSTER_ID \
  WORKSTATION_CONFIG_ID
```
Ganti kode berikut:
- PROJECT_ID: ID project yang berisi konfigurasi workstation.
- LOCATION: lokasi cluster workstation.
- WORKSTATION_CLUSTER_ID: cluster nama workstation yang berisi konfigurasi workstation.
- WORKSTATION_CONFIG_ID: nama konfigurasi workstation.
Pilih model GPU yang didukung yang tersedia di kedua zona replika konfigurasi dengan menjalankan perintah gcloud compute accelerator-types list:
```
gcloud compute accelerator-types list \
  --format="table(name:sort=1,zone,description,maximumCardsPerInstance)" \
  --filter='zone.basename()=(ZONES) AND name~"nvidia-tesla-(a100|p100|p4|t4|v100)$"' \
  --project=PROJECT_ID
```
Ganti ZONES dengan daftar zona replika yang dipisahkan koma yang ditentukan pada langkah sebelumnya (misalnya, us-central1-a,us-central1-c).

Pilih model GPU yang tercantum dua kali dalam tabel, yang menunjukkan model tersebut tersedia di kedua zona replika.

Catat kartu maksimum yang dapat Anda lampirkan untuk model GPU yang dipilih.

Catatan: Jika Ketersediaan GPU tidak sesuai di zona replika untuk konfigurasi ini, Anda dapat memutuskan untuk membuat konfigurasi baru dengan GPU.
Tentukan jenis mesin yang didukung yang tersedia di kedua zona replika konfigurasi menggunakan perintah gcloud compute machine-types list.
1. Jika Anda memilih model GPU NVIDIA A100 40 GB di langkah sebelumnya, konfigurasi Anda harus menggunakan seri mesin A2:
```
gcloud compute machine-types list \
  --format="table(name,zone,guestCpus:sort=1)" \
  --filter="name:a2-highgpu- OR name:a2-megagpu-" \
  --zones=ZONES \
  --project=PROJECT_ID
```
2. Jika Anda memilih model GPU lainnya di langkah sebelumnya, konfigurasi Anda harus menggunakan seri mesin N1:
```
gcloud compute machine-types list \
  --format="table(name,zone,guestCpus:sort=1)" \
  --filter="name:n1-standard-" \
  --zones=ZONES \
  --project=PROJECT_ID
```
Pilih jenis mesin yang tercantum dua kali dalam tabel, yang menunjukkan mesin tersebut tersedia di kedua zona replika.
Setelah Anda memilih model GPU dan jenis mesin yang kompatibel, perbarui konfigurasi:
1. Untuk GPU NVIDIA A100 40 GB, jalankan perintah ini untuk memperbarui konfigurasi Anda:
```
gcloud beta workstations configs update \
  --project=PROJECT_ID \
  --region=LOCATION \
  --cluster=WORKSTATION_CLUSTER_ID \
  WORKSTATION_CONFIG_ID \
  --machine-type=A2_MACHINE_TYPE
```
  Ganti A2_MACHINE_TYPE dengan jenis mesin A2 yang dipilih yang ditentukan pada langkah sebelumnya (misalnya, a2-highgpu-1g).
  
  Catatan: untuk seri mesin A2, model dan jumlah GPU ditetapkan berdasarkan jenis mesin, sehingga Anda dapat menghilangkan tanda --accelerator-type dan --accelerator-count.
2. Untuk semua model GPU lainnya, jalankan perintah ini:
```
gcloud beta workstations configs update \
  --project=PROJECT_ID \
  --region=LOCATION \ß
  --cluster=WORKSTATION_CLUSTER_ID \
  WORKSTATION_CONFIG_ID \
  --machine-type=N1_MACHINE_TYPE \
  --accelerator-type=ACCELERATOR_TYPE \
  --accelerator-count=ACCELERATOR_COUNT
```
  Ganti kode berikut:
  - N1_MACHINE_TYPE: jenis mesin yang dipilih dari seri N1 (misalnya, n1-standard-2).
  - ACCELERATOR_TYPE: nama model GPU yang dipilih (misalnya, nvidia-tesla-t4).
  - ACCELERATOR_COUNT: jumlah GPU yang harus dipasang ke setiap workstation (misalnya, 1, 2, 4). Harus berupa pangkat dua kurang dari maksimum untuk model GPU.

Membuat Konfigurasi Workstation baru dengan GPU

Untuk membuat konfigurasi workstation baru yang menghubungkan GPU ke workstation yang didasarkan padanya, selesaikan langkah-langkah di salah satu tab berikut.

Sebelum memulai

Pilih tab untuk melihat bagaimana Anda berencana menggunakan contoh di halaman ini:

Konsol

Saat menggunakan Konsol Google Cloud untuk mengakses API dan layanan Google Cloud, Anda tidak perlu menyiapkan autentikasi.

gcloud

Instal Google Cloud CLI, lalu initialize dengan menjalankan perintah berikut:

gcloud init

REST

Untuk menggunakan contoh REST API di halaman ini dalam lingkungan pengembangan lokal, gunakan kredensial yang Anda berikan ke gcloud CLI.

Instal Google Cloud CLI, lalu initialize dengan menjalankan perintah berikut:

gcloud init

Pilih model GPU dan lihat tabel ketersediaan GPU untuk memilih region tempat model GPU yang dipilih tersedia di setidaknya dua zona.

Jika belum memiliki cluster di region yang dipilih untuk membuat konfigurasi baru, ikuti langkah-langkah untuk Membuat cluster workstation di region tersebut.

Membuat konfigurasi baru

Konsol

Buat konfigurasi workstation baru dengan GPU dari Konsol Google Cloud, dengan melakukan hal berikut:

Di konsol Google Cloud, buka halaman Workstation configurations.

Buka konfigurasi Workstation
Di halaman Workstation configurations, klik add_box Create.
Pada langkah Basic information di halaman Create workstation configuration, tentukan nama untuk konfigurasi Anda di kolom Name.

Di kolom Workstation cluster, pilih cluster di region yang dipilih.

Tips: GPU juga terpasang ke workstation mulai cepat. Anda dapat mempertahankan biaya dengan memilih Disabled.

Klik Continue untuk melanjutkan ke langkah Machine settings.
Pada langkah Machine settings di halaman Create workstation configuration, mulailah dengan mengklik tombol untuk memilih GPUs, bukan kelompok mesin General tujuan.
1. Kemudian, di kolom Zones, pilih kotak centang di samping dua zona tempat model GPU yang Anda pilih tersedia (lihat tabel ketersediaan GPU.
2. Di kolom GPU type, pilih Model GPU yang ingin Anda gunakan.
3. Di kolom Jumlah GPU, pilih jumlah kartu GPU yang ingin Anda pasang ke setiap workstation.
4. Di kolom Machine type, pilih jenis mesin yang kompatibel.
Klik Continue untuk mengonfigurasi setelan Lingkungan dan kebijakan IAM sebelum mengklik Create untuk menyediakan konfigurasi workstation baru.

gcloud

Buat konfigurasi workstation baru dengan GPU menggunakan CLI gcloud, dengan menjalankan perintah gcloud workstations configs create.

Untuk GPU NVIDIA A100 40 GB, jalankan perintah ini untuk membuat konfigurasi Anda:
```
gcloud beta workstations configs create \
  --project=PROJECT_ID \
  --region=LOCATION \
  --cluster=WORKSTATION_CLUSTER_ID \
  WORKSTATION_CONFIG_ID \
  --replica-zones=REPLICA_ZONES \
  --machine-type=A2_MACHINE_TYPE
```
Ganti kode berikut:
- PROJECT_ID: ID project yang akan berisi konfigurasi workstation baru.
- LOCATION: lokasi cluster workstation tempat konfigurasi akan berada.
- WORKSTATION_CLUSTER_ID: cluster nama workstation yang akan berisi konfigurasi workstation baru.
- WORKSTATION_CONFIG_ID: nama konfigurasi workstation baru.
- REPLICA_ZONES: tepat dua zona di region cluster tempat model GPU yang dipilih tersedia (misalnya, us-central1-a,us-central1-c).
- A2_MACHINE_TYPE: jenis mesin seri A2 yang dipilih (misalnya, a2-highgpu-1g).
Catatan: untuk seri mesin A2, model dan jumlah GPU ditetapkan berdasarkan jenis mesin, sehingga Anda dapat menghilangkan tanda --accelerator-type dan --accelerator-count.
Untuk semua model GPU lainnya, jalankan perintah ini untuk membuat konfigurasi Anda:
```
gcloud beta workstations configs create \
  --project=PROJECT_ID \
  --region=LOCATION \
  --cluster=WORKSTATION_CLUSTER_ID \
  WORKSTATION_CONFIG_ID \
  --replica-zones=REPLICA_ZONES \
  --machine-type=N1_MACHINE_TYPE \
  --accelerator-type=ACCELERATOR_TYPE \
  --accelerator-count=ACCELERATOR_COUNT
```
Ganti kode berikut:
- PROJECT_ID: ID project yang akan berisi konfigurasi workstation baru.
- LOCATION: lokasi cluster workstation tempat konfigurasi akan berada.
- WORKSTATION_CLUSTER_ID: cluster nama workstation yang akan berisi konfigurasi workstation baru.
- WORKSTATION_CONFIG_ID: nama konfigurasi workstation baru.
- REPLICA_ZONES: tepat dua zona di region cluster tempat model GPU yang dipilih tersedia (misalnya, us-central1-a,us-central1-c).
- N1_MACHINE_TYPE: jenis mesin seri N1 yang dipilih (misalnya, n1-standard-2).
- ACCELERATOR_TYPE: nama model GPU yang dipilih (misalnya, nvidia-tesla-t4).
- ACCELERATOR_COUNT: jumlah GPU yang dipasang ke setiap workstation (misalnya, 1, 2, 4).

Driver perangkat GPU NVIDIA

Cloud Workstations menginstal driver perangkat NVIDIA pada VM host workstation selama startup VM.

Untuk mengetahui versi driver perangkat yang telah diinstal di workstation, jalankan perintah berikut:

nvidia-smi --query-gpu=name,driver_version --format=csv

Ketersediaan GPU berdasarkan region dan zona

Anda dapat menelusuri berdasarkan lokasi atau model GPU, atau kombinasi keduanya.

Zona	Location	Platform GPU
`asia-east1-a`	Changhua County, Taiwan, Asia Pasifik (APAC)	T4, P100
`asia-east1-b`	Changhua County, Taiwan, Asia Pasifik (APAC)
`asia-east1-c`	Changhua County, Taiwan, Asia Pasifik (APAC)	T4, V100, P100
`asia-east2-a`	Hong Kong, Asia Pasifik (APAC)	T4
`asia-east2-b`	Hong Kong, Asia Pasifik (APAC)
`asia-east2-c`	Hong Kong, Asia Pasifik (APAC)	T4
`asia-northeast1-a`	Tokyo, Jepang, Asia Pasifik (APAC)	A100 40GB, T4
`asia-northeast1-b`	Tokyo, Jepang, Asia Pasifik (APAC)
`asia-northeast1-c`	Tokyo, Jepang, Asia Pasifik (APAC)	A100 40GB, T4
`asia-south1-a`	Mumbai, India, Asia Pasifik (APAC)	T4
`asia-south1-b`	Mumbai, India, Asia Pasifik (APAC)	T4
`asia-south1-c`	Mumbai, India, Asia Pasifik (APAC)
`asia-southeast1-a`	Jurong West, Singapura, Asia Pasifik (APAC)	T4
`asia-southeast1-b`	Jurong West, Singapura, Asia Pasifik (APAC)	A100 40GB, T4, P4
`asia-southeast1-c`	Jurong West, Singapura, Asia Pasifik (APAC)	A100 40GB, T4, P4
`australia-southeast1-a`	Sydney, Australia, Asia Pasifik (APAC)	T4, P4
`australia-southeast1-b`	Sydney, Australia, Asia Pasifik (APAC)	P4
`australia-southeast1-c`	Sydney, Australia, Asia Pasifik (APAC)	T4, P100
`europe-north1-a` `europe-north1-b` `europe-north1-c`	Hamina, Finlandia, Eropa
`europe-west1-b`	St. Ghislain, Belgia, Eropa	T4, P100
`europe-west1-c`	St. Ghislain, Belgia, Eropa	T4
`europe-west1-d`	St. Ghislain, Belgia, Eropa	P100, T4
`europe-west2-a europe-west2-b`	London, Inggris, Eropa	T4
`europe-west2-c`	London, Inggris, Eropa
`europe-west3-a`	Frankfurt, Jerman, Eropa
`europe-west3-b`	Frankfurt, Jerman, Eropa	T4
`europe-west3-c`	Frankfurt, Jerman, Eropa
`europe-west4-a`	Eemshaven, Belanda, Eropa	A100 40GB, T4, V100, P100
`europe-west4-b`	Eemshaven, Belanda, Eropa	A100 40GB, T4, P4, V100
`europe-west4-c`	Eemshaven, Belanda, Eropa	T4, P4, V100
`europe-west6-a` `europe-west6-b` `europe-west6-c`	Zurich, Swiss, Eropa
`europe-west8-a` `europe-west8-b` `europe-west8-c`	Milan, Italia, Eropa
`europe-west9-a` `europe-west9-b` `europe-west9-c`	Paris, Prancis, Eropa
`europe-west12-a` `europe-west12-b` `europe-west12-c`	Turin, Italia, Eropa
`europe-southwest1-a` `europe-southwest1-b` `europe-southwest1-c`	Madrid, Spanyol, Eropa
`me-west1-a`	Tel Aviv, Israel, Timur Tengah
`me-west1-b`	Tel Aviv, Israel, Timur Tengah	A100 40GB, T4
`me-west1-c`	Tel Aviv, Israel, Timur Tengah	A100 40GB, T4
`northamerica-northeast1-a`	Montréal, Québec, Amerika Utara	P4
`northamerica-northeast1-b`	Montréal, Québec, Amerika Utara	P4
`northamerica-northeast1-c`	Montréal, Québec, Amerika Utara	T4, P4
`southamerica-west1-a` `southamerica-west1-b` `southamerica-west1-c`	Santiago, Cile, Amerika Selatan
`us-central1-a`	Council Bluffs, Iowa, Amerika Utara	A100 40GB, T4, P4, V100
`us-central1-b`	Council Bluffs, Iowa, Amerika Utara	A100 40GB, T4, V100
`us-central1-c`	Council Bluffs, Iowa, Amerika Utara	A100 40GB, T4, P4, V100, P100
`us-central1-f`	Council Bluffs, Iowa, Amerika Utara	A100 40GB, T4, V100, P100
`us-east1-b`	Moncks Corner, South Carolina, Amerika Utara	A100 40GB, P100
`us-east1-c`	Moncks Corner, South Carolina, Amerika Utara	T4, V100, P100
`us-east1-d`	Moncks Corner, South Carolina, Amerika Utara	T4
`us-east4-a`	Ashburn, Virginia, Amerika Utara	T4, P4
`us-east4-b`	Ashburn, Virginia, Amerika Utara	T4, P4
`us-east4-c`	Ashburn, Virginia, Amerika Utara	T4, P4
`us-west1-a`	The Dalles, Oregon, Amerika Utara	T4, V100, P100
`us-west1-b`	The Dalles, Oregon, Amerika Utara	A100 40GB, T4, V100, P100
`us-west1-c`	The Dalles, Oregon, Amerika Utara

Langkah selanjutnya

Tentukan GPU menggunakan Cloud Workstations API.
Pelajari cara Menjalankan instance Compute Engine dengan akselerator GPU.
Baca daftar lengkap jenis mesin Compute Engine.