GPUs disponíveis

As GPUs são usadas para acelerar cargas de trabalho, e o Cloud Workstations oferece suporte para anexar de GPUs para estações de trabalho. O Cloud Workstations oferece suporte a vários vários modelos de GPU que estão disponíveis para serem anexados em VMs do Compute Engine. O modelo e a quantidade de GPUs a serem anexados a cada estação de trabalho são especificados na configuração da estação de trabalho. O Cloud Workstations processa a conexão das GPUs e a instalação dos drivers de dispositivo.

A anexação de GPUs a estações de trabalho afeta os custos, conforme descrito na página de informações gerais sobre os preços das estações de trabalho do Cloud.

Limitações

Uma configuração de estação de trabalho pode especificar GPUs, sujeitas às seguintes limitações:

Modelos de GPU com suporte

O Cloud Workstations oferece suporte a muitos dos modelos de GPU oferecidos pelo Compute Engine disponíveis. Os modelos compatíveis dependem da série de máquinas escolhida para a configuração da estação de trabalho, conforme resumido na tabela a seguir.

Série de máquinas N1

A série de máquinas de uso geral N1 oferece suporte a vários modelos de GPU, e as configurações de estação de trabalho que especificam qualquer um dos tipos de máquina N1 também podem especificar um dos modelos de GPU a seguir. Para o modelo de GPU escolhido, a configuração pode especificar uma contagem de quantas placas de GPU serão anexadas a cada estação de trabalho.

Modelo de GPU Contagens de GPU
NVIDIA T4 (nvidia-tesla-t4) 1, 2 ou 4 GPUs
NVIDIA P4 (nvidia-tesla-p4) 1, 2 ou 4 GPUs
NVIDIA V100 (nvidia-tesla-v100) 1, 2, 4 ou 8 GPUs
NVIDIA P100 (nvidia-tesla-p100) 1, 2 ou 4 GPUs

Série de máquina A2

A série de máquinas com otimização para acelerador padrão A2 tem um número fixo de GPUs NVIDIA A100 conectadas, com base apenas no tipo de máquina escolhido.

A tabela a seguir mostra o mapeamento do tipo de máquina para o número de cartões que serão anexados.

Modelo de GPU Tipo de máquina Contagem de GPUs
NVIDIA A100 40GB (nvidia-tesla-a100) a2-highgpu-1g 1 GPU
a2-highgpu-2g 2 GPUs
a2-highgpu-4g 4 GPUs
a2-highgpu-8g 8 GPUs
a2-megagpu-16g 16 GPUs

O Cloud Workstations não oferece suporte aos tipos de máquina A2 Ultra.

Adicionar GPUs a uma configuração de estação de trabalho

Para adicionar GPUs à configuração de uma estação de trabalho, conclua as etapas em uma das guias a seguir.

Antes de começar

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

Install the Google Cloud CLI, then initialize it by running the following command:

gcloud init

Revise os preços do Cloud Workstations para entender como os custos serão afetados pela configuração de GPUs. Observação que as GPUs sejam anexadas às máquinas virtuais (VMs) pré-iniciadas especificadas pelo tamanho do pool de início rápido de uma configuração.

Como atualizar a configuração atual

Console

Configure GPUs em uma configuração de estação de trabalho no Console do Google Cloud:

  1. No console do Google Cloud, acesse a página Configurações da estação de trabalho.

    Acessar as configurações da estação de trabalho

  2. Na lista Configurações da estação de trabalho, clique no Nome do em que as GPUs serão adicionadas.

  3. Na página Detalhes da configuração da estação de trabalho, clique em editar Editar.

  4. Na página Editar configuração da estação de trabalho, clique em Configurações da máquina no menu de navegação.

  5. Clique no botão para selecionar GPUs em vez de Uso geral. família de máquinas.

    No campo Tipo de GPU, selecione o modelo que você quer usar.

    No campo Número de GPUs, selecione o número de placas de GPU que você quer. para anexar a cada estação de trabalho.

    No campo Tipo de máquina, selecione o tipo de máquina que você quer usar.

  6. Clique em Salvar para atualizar a configuração.

gcloud

Configure GPUs em uma configuração de estação de trabalho existente executando o comando gcloud workstations configs update.

Primeiro, colete algumas informações para saber quais modelos de GPU estão disponíveis e escolha um para sua configuração:

  1. Confira quais zonas de réplica a configuração especifica executando o seguinte comando da CLI gcloud:

    gcloud workstations configs describe \
      --format="table(name.scope(workstationConfigs),replicaZones.list())" \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID
    

    Substitua:

    • PROJECT_ID: o ID do projeto que contém a configuração da estação de trabalho.
    • LOCATION: o local do cluster da estação de trabalho.
    • WORKSTATION_CLUSTER_ID: o nome do cluster da estação de trabalho que contém a configuração da estação de trabalho.
    • WORKSTATION_CONFIG_ID: o nome da configuração da estação de trabalho.
  2. Escolha um modelo de GPU com suporte que esteja disponível nos dois zonas de réplica da configuração executando Comando gcloud compute accelerator-types list:

    gcloud compute accelerator-types list \
      --format="table(name:sort=1,zone,description,maximumCardsPerInstance)" \
      --filter='zone.basename()=(ZONES) AND name~"nvidia-tesla-(a100|p100|p4|t4|v100)$"' \
      --project=PROJECT_ID
    

    Substitua ZONES por uma lista separada por vírgulas das zonas de réplica determinadas na etapa anterior (por exemplo, us-central1-a,us-central1-c).

    Escolha um modelo de GPU que esteja listado duas vezes na tabela, indicando que ele é nas duas zonas de réplica.

    Anote o número máximo de placas que você pode conectar ao modelo de GPU escolhido.

  3. Determine quais dos tipos de máquina com suporte estão disponíveis em ambas as zonas de réplica da configuração usando o comando gcloud compute machine-types list.

    1. Se você escolheu o modelo de GPU NVIDIA A100 de 40 GB na etapa anterior, sua configuração precisa usar a série de máquinas A2:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:a2-highgpu- OR name:a2-megagpu-" \
        --zones=ZONES \
        --project=PROJECT_ID
      
    2. Se você escolheu qualquer outro modelo de GPU na etapa anterior, seu precisa usar a série de máquinas N1:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:n1-standard-" \
        --zones=ZONES \
        --project=PROJECT_ID
      

    Escolha um tipo de máquina listado duas vezes na tabela, indicando que ele está disponível nas duas zonas de réplica.

  4. Agora que você selecionou um modelo de GPU e um tipo de máquina compatível, atualize a configuração:

    1. Para GPUs NVIDIA A100 de 40 GB, execute este comando para atualizar a configuração:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION \
        --cluster=WORKSTATION_CLUSTER_ID \
        WORKSTATION_CONFIG_ID \
        --machine-type=A2_MACHINE_TYPE
      

      Substitua A2_MACHINE_TYPE pelo tipo de máquina A2 escolhido determinado na etapa anterior (por exemplo, a2-highgpu-1g).

    2. Para todos os outros modelos de GPU, execute este comando:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION 
        --cluster=WORKSTATION_CLUSTER_ID \
        WORKSTATION_CONFIG_ID \
        --machine-type=N1_MACHINE_TYPE \
        --accelerator-type=ACCELERATOR_TYPE \
        --accelerator-count=ACCELERATOR_COUNT
      

      Substitua:

      • N1_MACHINE_TYPE: o tipo de máquina escolhido no Série N1 (por exemplo, n1-standard-2).
      • ACCELERATOR_TYPE: o nome do modelo de GPU escolhido (por exemplo, nvidia-tesla-t4).
      • ACCELERATOR_COUNT: o número de GPUs a serem anexadas a cada estação de trabalho (por exemplo, 1, 2, 4). Deve ser uma potência de dois é menor que o máximo para o modelo de GPU.

Criar uma nova configuração de estação de trabalho com GPUs

Para criar uma nova configuração de estação de trabalho que conecte GPUs a estações de trabalho com base nela, siga as etapas em uma das guias a seguir.

Antes de começar

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

Install the Google Cloud CLI, then initialize it by running the following command:

gcloud init

REST

Para usar as amostras da API REST nesta página em um ambiente de desenvolvimento local, use as credenciais fornecidas para gcloud CLI.

    Install the Google Cloud CLI, then initialize it by running the following command:

    gcloud init

Para mais informações, consulte Autenticar para usar REST na documentação de autenticação do Google Cloud.

Escolha um modelo de GPU e consulte a tabela de disponibilidade de GPU para selecionar uma região em que o modelo escolhido esteja disponível em pelo menos duas zonas.

Se você ainda não tiver um cluster na região escolhida para criar um nova configuração, siga as etapas para Crie um cluster de estações de trabalho na região.

Consulte a visão geral de preços das estações de trabalho do Cloud para entender como a configuração de GPUs afeta seus custos. Observação que as GPUs sejam anexadas às máquinas virtuais (VMs) pré-iniciadas especificadas pelo tamanho do pool de início rápido de uma configuração.

Criar uma nova configuração

Console

Crie uma configuração de estação de trabalho com GPUs no no console do Google Cloud, fazendo o seguinte:

  1. No console do Google Cloud, acesse Configurações da estação de trabalho página.

    Acessar as configurações da estação de trabalho

  2. Na página Configurações da estação de trabalho, clique em add_box Criar.

  3. Na etapa Informações básicas do Criar configuração de estações de trabalho, especifique o nome da no campo Name.

    No campo Cluster de estação de trabalho, selecione um cluster na opção escolhida na mesma região.

    Clique em Continuar para avançar para a etapa Configurações da máquina.

  4. Na etapa Configurações da máquina de Criar estação de trabalho página de configuração, comece clicando no botão de alternância para selecionar GPUs em vez da família de máquinas de Uso geral.

    1. Em seguida, no campo Zonas, marque as caixas de seleção ao lado de duas zonas. em que o modelo de GPU escolhido está disponível (consulte a Tabela de disponibilidade da GPU.

    2. No campo Tipo de GPU, selecione o modelo de GPU que você quer usar.

    3. No campo Número de GPUs, selecione o número de placas de GPU que você quer anexar a cada estação de trabalho.

    4. No campo Tipo de máquina, selecione um tipo de máquina compatível.

  5. Clique em Continuar para definir as configurações do ambiente e a política do IAM antes de clicar em Criar para provisionar a nova estação de trabalho configuração do Terraform.

gcloud

Crie uma configuração de estação de trabalho com GPUs usando o CLI gcloud executando comando gcloud workstations configs create.

  • Para GPUs NVIDIA A100 de 40 GB, execute este comando para criar sua configuração:

    gcloud beta workstations configs create \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID \
      --replica-zones=REPLICA_ZONES \
      --machine-type=A2_MACHINE_TYPE
    

    Substitua:

    • PROJECT_ID: o ID do projeto que vai conter a nova configuração da estação de trabalho.
    • LOCATION: o local do cluster de estações de trabalho em que a configuração estará contida.
    • WORKSTATION_CLUSTER_ID: o nome do cluster da estação de trabalho que conterá a configuração da nova estação de trabalho.
    • WORKSTATION_CONFIG_ID: o nome da configuração da nova estação de trabalho.
    • REPLICA_ZONES: exatamente duas zonas na região do cluster em que o modelo de GPU escolhido está disponível (por exemplo, us-central1-a,us-central1-c).
    • A2_MACHINE_TYPE: o tipo de máquina da série A2 escolhido (por exemplo, a2-highgpu-1g).
  • Para todos os outros modelos de GPU, execute este comando para criar sua configuração:

    gcloud beta workstations configs create \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID \
      --replica-zones=REPLICA_ZONES \
      --machine-type=N1_MACHINE_TYPE \
      --accelerator-type=ACCELERATOR_TYPE \
      --accelerator-count=ACCELERATOR_COUNT
    

    Substitua:

    • PROJECT_ID: o ID do projeto que vai conter a nova configuração da estação de trabalho.
    • LOCATION: o local do cluster de estações de trabalho em que a configuração estará contida.
    • WORKSTATION_CLUSTER_ID: o nome do cluster da estação de trabalho que conterá a configuração da nova estação de trabalho.
    • WORKSTATION_CONFIG_ID: o nome da configuração da nova estação de trabalho.
    • REPLICA_ZONES: exatamente duas zonas na região do cluster em que o modelo de GPU escolhido está disponível (por exemplo, us-central1-a,us-central1-c).
    • N1_MACHINE_TYPE: o tipo de máquina da série N1 escolhido (por exemplo, n1-standard-2).
    • ACCELERATOR_TYPE: o nome do modelo de GPU escolhido (por exemplo, nvidia-tesla-t4).
    • ACCELERATOR_COUNT: o número de GPUs a serem anexadas a cada estação de trabalho (por exemplo, 1, 2, 4).

Drivers de dispositivo da GPU NVIDIA

O Cloud Workstations instala os drivers de dispositivos NVIDIA nas estações de trabalho VMs do host durante a inicialização da VM.

Para determinar qual versão do driver do dispositivo foi instalada em uma estação de trabalho, execute o seguinte comando:

nvidia-smi --query-gpu=name,driver_version --format=csv

Disponibilidade de GPU por região e zona

É possível pesquisar por local ou modelo de GPU ou por uma combinação de ambos.

Zonas Local Plataformas de GPU
asia-east1-a Condado de Changhua, Taiwan, APAC (Ásia-Pacífico) T4, P100
asia-east1-b Condado de Changhua, Taiwan, APAC (Ásia-Pacífico)
asia-east1-c Condado de Changhua, Taiwan, APAC (Ásia-Pacífico) T4, V100, P100
asia-east2-a Hong Kong, APAC (Ásia-Pacífico) T4
asia-east2-b Hong Kong, APAC (Ásia-Pacífico)
asia-east2-c Hong Kong, APAC (Ásia-Pacífico) T4
asia-northeast1-a Tóquio, Japão, APAC (Ásia-Pacífico) A100 40 GB, T4
asia-northeast1-b Tóquio, Japão, APAC (Ásia-Pacífico)
asia-northeast1-c Tóquio, Japão, APAC (Ásia-Pacífico) A100 40 GB, T4
asia-northeast3-a Seul, Coreia do Sul, APAC (Ásia-Pacífico) A100 40 GB
asia-northeast3-b Seul, Repúblicada Coreia, APAC (Ásia-Pacífico) A100 40 GB, T4
asia-northeast3-c Seul, Coreia do Sul, APAC (Ásia-Pacífico) T4
asia-south1-a Mumbai, Índia, APAC (Ásia-Pacífico) T4
asia-south1-b Mumbai, Índia, APAC (Ásia-Pacífico) T4
asia-south1-c Mumbai, Índia, APAC (Ásia-Pacífico) T4
asia-southeast1-a Jurong West, Singapura, APAC (Ásia-Pacífico) T4
asia-southeast1-b Jurong West, Singapura, APAC (Ásia-Pacífico) A100 40 GB, T4, P4
asia-southeast1-c Jurong West, Singapura, APAC (Ásia-Pacífico) A100 40 GB, T4, P4
australia-southeast1-a Sydney, Austrália, APAC (Ásia-Pacífico) T4, P4
australia-southeast1-b Sydney, Austrália, APAC (Ásia-Pacífico) P4
australia-southeast1-c Sydney, Austrália, APAC (Ásia-Pacífico) T4, P100
europe-north1-a
europe-north1-b
europe-north1-c
Hamina, Finlândia, Europa
europe-west1-b St. Ghislain, Bélgica, Europa T4, P100
europe-west1-c St. Ghislain, Bélgica, Europa T4
europe-west1-d St. Ghislain, Bélgica, Europa P100, T4
europe-west2-a
europe-west2-b
Londres, Inglaterra, Europa T4
europe-west2-c Londres, Inglaterra, Europa
europe-west3-a Frankfurt, Alemanha, Europa
europe-west3-b Frankfurt, Alemanha, Europa T4
europe-west3-c Frankfurt, Alemanha, Europa
europe-west4-a Eemshaven, Holanda, Europa A100 40 GB, T4, V100, P100
europe-west4-b Eemshaven, Holanda, Europa A100 40 GB, T4, P4, V100
europe-west4-c Eemshaven, Holanda, Europa T4, P4, V100
europe-west6-a
europe-west6-b
europe-west6-c
Zurique, Suíça, Europa
europe-west8-a
europe-west8-b
europe-west8-c
Milão, Itália, Europa
europe-west9-a
europe-west9-b
europe-west9-c
Paris, França, Europa
europe-west12-a
europe-west12-b
europe-west12-c
Turim, Itália, Europa
europe-southwest1-a
europe-southwest1-b
europe-southwest1-c
Madri, Espanha, Europa
me-west1-a Tel Aviv, Israel, Oriente Médio
me-west1-b Tel Aviv, Israel, Oriente Médio A100 40 GB, T4
me-west1-c Tel Aviv, Israel, Oriente Médio A100 40 GB, T4
northamerica-northeast1-a Montreal, Quebec, América do Norte P4
northamerica-northeast1-b Montreal, Quebec, América do Norte P4
northamerica-northeast1-c Montreal, Quebec, América do Norte T4, P4
southamerica-east1-a Osasco, São Paulo, Brasil, América do Sul T4
southamerica-east1-c Osasco, São Paulo, Brasil, América do Sul T4
southamerica-west1-a
southamerica-west1-b
southamerica-west1-c
Santiago, Chile, América do Sul
us-central1-a Council Bluffs, Iowa, América do Norte A100 40 GB, T4, P4, V100
us-central1-b Council Bluffs, Iowa, América do Norte A100 40 GB, T4, V100
us-central1-c Council Bluffs, Iowa, América do Norte A100 40GB, T4, P4, V100, P100
us-central1-f Council Bluffs, Iowa, América do Norte A100 40 GB, T4, V100, P100
us-east1-b Moncks Corner, Carolina do Sul, América do Norte A100 40 GB, P100
us-east1-c Moncks Corner, Carolina do Sul, América do Norte T4, V100, P100
us-east1-d Moncks Corner, Carolina do Sul, América do Norte T4
us-east4-a
us-east4-b
us-east4-c
Ashburn, Virgínia, América do Norte T4, P4
us-east5-a
us-east5-b
us-east5-c
Columbus, Ohio, América do Norte
us-west1-a The Dalles, Oregon, América do Norte T4, V100, P100
us-west1-b The Dalles, Oregon, América do Norte A100 40 GB, T4, V100, P100
us-west1-c The Dalles, Oregon, América do Norte
us-west4-a Las Vegas, Nevada, América do Norte T4
us-west4-b Las Vegas, Nevada, América do Norte A100 40 GB, T4
us-west4-c Las Vegas, Nevada, América do Norte

A seguir