GPU yang tersedia

GPU digunakan untuk mempercepat workload, dan Cloud Workstations mendukung pemasangan GPU ke workstation. Cloud Workstations mendukung banyak berbagai model GPU yang tersedia untuk dilampirkan ke VM Compute Engine. Model dan jumlah GPU yang akan dipasang ke setiap workstation ditentukan pada konfigurasi workstation. Cloud Workstation menangani penempelan GPU dan penginstalan driver perangkatnya.

Melampirkan GPU ke workstation akan memengaruhi biaya seperti yang dijelaskan dalam ringkasan harga Cloud Workstations.

Batasan

Konfigurasi workstation dapat menentukan GPU, dengan batasan berikut:

Model GPU yang didukung

Cloud Workstations mendukung banyak model GPU yang disediakan Compute Engine. Model yang didukung bergantung pada seri mesin yang dipilih untuk konfigurasi workstation, seperti yang dirangkum dalam tabel berikut.

Seri mesin N1

Seri mesin tujuan umum N1 mendukung beberapa model GPU, dan konfigurasi workstation yang menentukan salah satu jenis mesin N1 juga dapat menentukan salah satu model GPU berikut. Untuk model GPU yang dipilih, konfigurasi dapat menentukan jumlah kartu GPU yang akan dipasang ke setiap workstation.

Model GPU Jumlah GPU
NVIDIA T4 (nvidia-tesla-t4) 1, 2, atau 4 GPU
NVIDIA P4 (nvidia-tesla-p4) 1, 2, atau 4 GPU
NVIDIA V100 (nvidia-tesla-v100) 1, 2, 4, atau 8 GPU
NVIDIA P100 (nvidia-tesla-p100) 1, 2, atau 4 GPU

Seri mesin A2

Seri mesin yang dioptimalkan akselerator standar A2 memiliki jumlah tetap GPU NVIDIA A100 yang terpasang, hanya berdasarkan jenis mesin yang dipilih.

Tabel berikut menunjukkan pemetaan dari jenis mesin ke jumlah kartu yang akan dilampirkan.

Model GPU Jenis mesin Jumlah GPU
NVIDIA A100 40GB (nvidia-tesla-a100) a2-highgpu-1g 1 GPU
a2-highgpu-2g 2 GPU
a2-highgpu-4g 4 GPU
a2-highgpu-8g 8 GPU
a2-megagpu-16g 16 GPUs

Cloud Workstations tidak mendukung jenis mesin A2 ultra.

Menambahkan GPU ke Konfigurasi Workstation yang Ada

Untuk menambahkan GPU ke konfigurasi workstation, selesaikan langkah-langkah di salah satu tab berikut.

Sebelum memulai

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

Install the Google Cloud CLI, then initialize it by running the following command:

gcloud init

Tinjau ringkasan harga Cloud Workstations untuk memahami pengaruh konfigurasi GPU terhadap biaya Anda. Perhatikan bahwa GPU terpasang ke virtual machine (VM) yang telah dimulai sebelumnya yang ditentukan oleh Ukuran kumpulan mulai cepat konfigurasi.

Memperbarui konfigurasi yang ada

Konsol

Konfigurasikan GPU pada konfigurasi workstation yang ada dari konsolGoogle Cloud , dengan melakukan hal berikut:

  1. Di konsol Google Cloud , buka halaman Konfigurasi workstation.

    Buka Konfigurasi workstation

  2. Dalam daftar Workstation configurations, klik Name konfigurasi tempat GPU akan ditambahkan.

  3. Di halaman Workstation configuration details, klik edit Edit.

  4. Di halaman Edit workstation configuration, klik Machine settings di menu navigasi.

  5. Klik tombol untuk memilih GPU, bukan kelompok mesin Tujuan umum.

    Di kolom GPU type, pilih Model GPU yang ingin Anda gunakan.

    Di kolom Number of GPUs, pilih jumlah kartu GPU yang ingin Anda pasang ke setiap workstation.

    Di kolom Machine type, pilih jenis mesin yang ingin Anda gunakan.

  6. Klik Simpan untuk memperbarui konfigurasi.

gcloud

Konfigurasikan GPU pada konfigurasi workstation yang ada dengan menjalankan perintah gcloud workstations configs update.

Namun, pertama-tama, kumpulkan beberapa informasi untuk melihat model GPU mana yang tersedia dan pilih salah satunya untuk konfigurasi Anda:

  1. Periksa zona replika yang ditentukan konfigurasi dengan menjalankan perintah gcloud CLI berikut:

    gcloud workstations configs describe \
      --format="table(name.scope(workstationConfigs),replicaZones.list())" \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID
    

    Ganti kode berikut:

    • PROJECT_ID: ID project yang berisi konfigurasi workstation.
    • LOCATION: lokasi cluster workstation.
    • WORKSTATION_CLUSTER_ID: nama cluster workstation yang berisi konfigurasi workstation.
    • WORKSTATION_CONFIG_ID: nama konfigurasi workstation.
  2. Pilih model GPU yang didukung dan tersedia di kedua zona replika konfigurasi dengan menjalankan perintah gcloud compute accelerator-types list:

    gcloud compute accelerator-types list \
      --format="table(name:sort=1,zone,description,maximumCardsPerInstance)" \
      --filter='zone.basename()=(ZONES) AND name~"nvidia-tesla-(a100|p100|p4|t4|v100)$"' \
      --project=PROJECT_ID
    

    Ganti ZONES dengan daftar zona replika yang dipisahkan koma yang ditentukan pada langkah sebelumnya (misalnya, us-central1-a,us-central1-c).

    Pilih model GPU yang tercantum dua kali dalam tabel, yang menunjukkan bahwa GPU tersebut tersedia di kedua zona replika.

    Perhatikan jumlah maksimum kartu yang dapat Anda lampirkan untuk model GPU yang dipilih.

  3. Tentukan jenis mesin yang didukung yang tersedia di kedua zona replika konfigurasi menggunakan perintah gcloud compute machine-types list.

    1. Jika Anda memilih model GPU NVIDIA A100 40 GB pada langkah sebelumnya, konfigurasi Anda harus menggunakan seri mesin A2:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:a2-highgpu- OR name:a2-megagpu-" \
        --zones=ZONES \
        --project=PROJECT_ID
      
    2. Jika Anda memilih model GPU lain pada langkah sebelumnya, konfigurasi Anda harus menggunakan seri mesin N1:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:n1-standard-" \
        --zones=ZONES \
        --project=PROJECT_ID
      

    Pilih jenis mesin yang tercantum dua kali dalam tabel, yang menunjukkan bahwa jenis mesin tersebut tersedia di kedua zona replika.

  4. Setelah Anda memilih model GPU dan jenis mesin yang kompatibel, update konfigurasi:

    1. Untuk GPU NVIDIA A100 40 GB, jalankan perintah ini untuk mengupdate konfigurasi Anda:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION \
        --cluster=WORKSTATION_CLUSTER_ID \
        WORKSTATION_CONFIG_ID \
        --machine-type=A2_MACHINE_TYPE
      

      Ganti A2_MACHINE_TYPE dengan jenis mesin A2 yang dipilih dan ditentukan pada langkah sebelumnya (misalnya, a2-highgpu-1g).

    2. Untuk semua model GPU lainnya, jalankan perintah ini:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION \
        --cluster=WORKSTATION_CLUSTER_ID \
        WORKSTATION_CONFIG_ID \
        --machine-type=N1_MACHINE_TYPE \
        --accelerator-type=ACCELERATOR_TYPE \
        --accelerator-count=ACCELERATOR_COUNT
      

      Ganti kode berikut:

      • N1_MACHINE_TYPE: jenis mesin yang dipilih dari seri N1 (misalnya, n1-standard-2).
      • ACCELERATOR_TYPE: nama model GPU yang dipilih (misalnya, nvidia-tesla-t4).
      • ACCELERATOR_COUNT: jumlah GPU yang akan dipasang ke setiap workstation (misalnya, 1, 2, 4). Harus berupa bilangan pangkat dua yang lebih kecil dari maksimum untuk model GPU.

Membuat Konfigurasi Workstation baru dengan GPU

Untuk membuat konfigurasi workstation baru yang memasang GPU ke workstation yang didasarkan padanya, selesaikan langkah-langkah di salah satu tab berikut.

Sebelum memulai

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

Install the Google Cloud CLI, then initialize it by running the following command:

gcloud init

REST

Untuk menggunakan contoh REST API di halaman ini dalam lingkungan pengembangan lokal, gunakan kredensial yang Anda berikan ke gcloud CLI.

    Install the Google Cloud CLI, then initialize it by running the following command:

    gcloud init

Untuk informasi selengkapnya, lihat Mengautentikasi untuk menggunakan REST dalam dokumentasi autentikasi Google Cloud .

Pilih model GPU dan lihat tabel ketersediaan GPU untuk memilih region tempat model GPU yang dipilih tersedia di minimal dua zona.

Jika Anda belum memiliki cluster di region yang dipilih tempat Anda dapat membuat konfigurasi baru, ikuti langkah-langkah untuk Membuat cluster workstation di region tersebut.

Tinjau ringkasan harga Cloud Workstations untuk memahami pengaruh konfigurasi GPU terhadap biaya Anda. Perhatikan bahwa GPU terpasang ke virtual machine (VM) yang telah dimulai sebelumnya yang ditentukan oleh Ukuran kumpulan mulai cepat konfigurasi.

Membuat konfigurasi baru

Konsol

Buat konfigurasi workstation baru dengan GPU dari konsol Google Cloud , dengan melakukan hal berikut:

  1. Di konsol Google Cloud , buka halaman Konfigurasi workstation.

    Buka Konfigurasi workstation

  2. Di halaman Workstation configurations, klik add_box Create.

  3. Pada langkah Informasi dasar di halaman Buat konfigurasi workstation, tentukan nama untuk konfigurasi Anda di kolom Nama.

    Di kolom Workstation cluster, pilih cluster di region yang dipilih.

    Klik Lanjutkan untuk melanjutkan ke langkah Setelan mesin.

  4. Pada langkah Setelan mesin di halaman Buat konfigurasi workstation, mulai dengan mengklik tombol untuk memilih GPU, bukan kelompok mesin General purpose.

    1. Kemudian, di kolom Zones, centang kotak di samping dua zona tempat model GPU yang Anda pilih tersedia (lihat tabel ketersediaan GPU.

    2. Di kolom GPU type, pilih Model GPU yang ingin Anda gunakan.

    3. Di kolom Number of GPUs, pilih jumlah kartu GPU yang ingin Anda pasang ke setiap workstation.

    4. Di kolom Machine type, pilih jenis mesin yang kompatibel.

  5. Klik Lanjutkan untuk mengonfigurasi setelan Lingkungan dan kebijakan IAM sebelum mengklik Buat untuk menyediakan konfigurasi workstation baru.

gcloud

Buat konfigurasi workstation baru dengan GPU menggunakan CLI gcloud, dengan menjalankan perintah gcloud workstations configs create.

  • Untuk GPU NVIDIA A100 40 GB, jalankan perintah ini untuk membuat konfigurasi:

    gcloud beta workstations configs create \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID \
      --replica-zones=REPLICA_ZONES \
      --machine-type=A2_MACHINE_TYPE
    

    Ganti kode berikut:

    • PROJECT_ID: ID project yang akan berisi konfigurasi workstation baru.
    • LOCATION: lokasi cluster workstation tempat konfigurasi akan ditempatkan.
    • WORKSTATION_CLUSTER_ID: nama cluster workstation yang akan berisi konfigurasi workstation baru.
    • WORKSTATION_CONFIG_ID: nama konfigurasi workstation baru.
    • REPLICA_ZONES: tepat dua zona di region cluster tempat model GPU yang dipilih tersedia (misalnya, us-central1-a,us-central1-c).
    • A2_MACHINE_TYPE: jenis mesin seri A2 yang dipilih (misalnya, a2-highgpu-1g).
  • Untuk semua model GPU lainnya, jalankan perintah ini untuk membuat konfigurasi:

    gcloud beta workstations configs create \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID \
      --replica-zones=REPLICA_ZONES \
      --machine-type=N1_MACHINE_TYPE \
      --accelerator-type=ACCELERATOR_TYPE \
      --accelerator-count=ACCELERATOR_COUNT
    

    Ganti kode berikut:

    • PROJECT_ID: ID project yang akan berisi konfigurasi workstation baru.
    • LOCATION: lokasi cluster workstation tempat konfigurasi akan ditempatkan.
    • WORKSTATION_CLUSTER_ID: nama cluster workstation yang akan berisi konfigurasi workstation baru.
    • WORKSTATION_CONFIG_ID: nama konfigurasi workstation baru.
    • REPLICA_ZONES: tepat dua zona di region cluster tempat model GPU yang dipilih tersedia (misalnya, us-central1-a,us-central1-c).
    • N1_MACHINE_TYPE: jenis mesin seri N1 yang dipilih (misalnya, n1-standard-2).
    • ACCELERATOR_TYPE: nama model GPU yang dipilih (misalnya, nvidia-tesla-t4).
    • ACCELERATOR_COUNT: jumlah GPU yang akan dipasang ke setiap workstation (misalnya, 1, 2, 4).

Driver perangkat GPU NVIDIA

Cloud Workstations menginstal driver perangkat NVIDIA di VM host workstation selama startup VM.

Untuk menentukan versi driver perangkat yang telah diinstal di workstation, jalankan perintah berikut:

nvidia-smi --query-gpu=name,driver_version --format=csv

Ketersediaan GPU berdasarkan region dan zona

Anda dapat menelusuri berdasarkan lokasi atau model GPU, atau kombinasi keduanya.

Zona Location Platform GPU
asia-east1-a Changhua County, Taiwan, Asia Pasifik (APAC) T4, P100
asia-east1-b Changhua County, Taiwan, Asia Pasifik (APAC)
asia-east1-c Changhua County, Taiwan, Asia Pasifik (APAC) T4, V100, P100
asia-east2-a Hong Kong, Asia Pasifik (APAC) T4
asia-east2-b Hong Kong, Asia Pasifik (APAC)
asia-east2-c Hong Kong, Asia Pasifik (APAC) T4
asia-northeast1-a Tokyo, Jepang, Asia Pasifik (APAC) A100 40GB, T4
asia-northeast1-b Tokyo, Jepang, Asia Pasifik (APAC)
asia-northeast1-c Tokyo, Jepang, Asia Pasifik (APAC) A100 40GB, T4
asia-northeast3-a Seoul, Korea Selatan, Asia Pasifik (APAC) A100 40GB
asia-northeast3-b Seoul, Korea Selatan, Asia Pasifik (APAC) A100 40GB, T4
asia-northeast3-c Seoul, Korea Selatan, Asia Pasifik (APAC) T4
asia-south1-a Mumbai, India, Asia Pasifik (APAC) T4
asia-south1-b Mumbai, India, Asia Pasifik (APAC) T4
asia-south1-c Mumbai, India, Asia Pasifik (APAC) T4
asia-southeast1-a Jurong West, Singapura, Asia Pasifik (APAC) T4
asia-southeast1-b Jurong West, Singapura, Asia Pasifik (APAC) A100 40GB, T4, P4
asia-southeast1-c Jurong West, Singapura, Asia Pasifik (APAC) A100 40GB, T4, P4
australia-southeast1-a Sydney, Australia, Asia Pasifik (APAC) T4, P4
australia-southeast1-b Sydney, Australia, Asia Pasifik (APAC) P4
australia-southeast1-c Sydney, Australia, Asia Pasifik (APAC) T4, P100
europe-north1-a
europe-north1-b
europe-north1-c
Hamina, Finlandia, Eropa
europe-west1-b St. Ghislain, Belgia, Eropa T4, P100
europe-west1-c St. Ghislain, Belgia, Eropa T4
europe-west1-d St. Ghislain, Belgia, Eropa P100, T4
europe-west2-a
europe-west2-b
London, Inggris, Eropa T4
europe-west2-c London, Inggris, Eropa
europe-west3-a Frankfurt, Jerman, Eropa
europe-west3-b Frankfurt, Jerman, Eropa T4
europe-west3-c Frankfurt, Jerman, Eropa
europe-west4-a Eemshaven, Belanda, Eropa A100 40GB, T4, V100, P100
europe-west4-b Eemshaven, Belanda, Eropa A100 40GB, T4, P4, V100
europe-west4-c Eemshaven, Belanda, Eropa T4, P4, V100
europe-west6-a
europe-west6-b
europe-west6-c
Zurich, Swiss, Eropa
europe-west8-a
europe-west8-b
europe-west8-c
Milan, Italia, Eropa
europe-west9-a
europe-west9-b
europe-west9-c
Paris, Prancis, Eropa
europe-west12-a
europe-west12-b
europe-west12-c
Turin, Italia, Eropa
europe-southwest1-a
europe-southwest1-b
europe-southwest1-c
Madrid, Spanyol, Eropa
me-west1-a Tel Aviv, Israel, Timur Tengah
me-west1-b Tel Aviv, Israel, Timur Tengah A100 40GB, T4
me-west1-c Tel Aviv, Israel, Timur Tengah A100 40GB, T4
northamerica-northeast1-a Montréal, Québec, Amerika Utara P4
northamerica-northeast1-b Montréal, Québec, Amerika Utara P4
northamerica-northeast1-c Montréal, Québec, Amerika Utara T4, P4
southamerica-east1-a Osasco, São Paulo, Brasil, Amerika Selatan T4
southamerica-east1-c Osasco, São Paulo, Brasil, Amerika Selatan T4
southamerica-west1-a
southamerica-west1-b
southamerica-west1-c
Santiago, Cile, Amerika Selatan
us-central1-a Council Bluffs, Iowa, Amerika Utara A100 40GB, T4, P4, V100
us-central1-b Council Bluffs, Iowa, Amerika Utara A100 40GB, T4, V100
us-central1-c Council Bluffs, Iowa, Amerika Utara A100 40GB, T4, P4, V100, P100
us-central1-f Council Bluffs, Iowa, Amerika Utara A100 40GB, T4, V100, P100
us-east1-b Moncks Corner, South Carolina, Amerika Utara A100 40GB, P100
us-east1-c Moncks Corner, South Carolina, Amerika Utara T4, V100, P100
us-east1-d Moncks Corner, South Carolina, Amerika Utara T4
us-east4-a
us-east4-b
us-east4-c
Ashburn, Virginia, Amerika Utara T4, P4
us-east5-a
us-east5-b
us-east5-c
Columbus, Ohio, Amerika Utara
us-west1-a The Dalles, Oregon, Amerika Utara T4, V100, P100
us-west1-b The Dalles, Oregon, Amerika Utara A100 40GB, T4, V100, P100
us-west1-c The Dalles, Oregon, Amerika Utara
us-west4-a Las Vegas, Nevada, Amerika Utara T4
us-west4-b Las Vegas, Nevada, Amerika Utara A100 40GB, T4
us-west4-c Las Vegas, Nevada, Amerika Utara

Langkah selanjutnya