As GPUs são usadas para acelerar cargas de trabalho, e o Cloud Workstations permite anexar GPUs a estações de trabalho. O Cloud Workstations aceita muitos dos vários modelos de GPU disponíveis para anexar às VMs do Compute Engine. O modelo e a quantidade de GPUs a serem anexadas a cada estação de trabalho são especificados na configuração dela. O Cloud Workstations cuida da anexação das GPUs e da instalação dos drivers de dispositivo.
Anexar GPUs a estações de trabalho afetará os custos conforme descrito na visão geral de preços do Cloud Workstations.
Limitações
A configuração de uma estação de trabalho pode especificar GPUs, sujeita às seguintes limitações:
- A virtualização aninhada não pode ser ativada em uma configuração de estação de trabalho com GPUs.
- O Cloud Workstations aceita GPUs apenas em configurações que especificam tipos de máquinas na série de máquinas N1 ou na série de máquinas A2. Consulte os modelos de GPU compatíveis para mais detalhes.
- A configuração precisa especificar zonas de réplica em que o modelo de GPU escolhido esteja disponível.
- Não é possível configurar estações de trabalho para ter mais de um modelo de GPU anexado por vez.
Modelos de GPU compatíveis
O Cloud Workstations oferece suporte a muitos dos modelos de GPU disponibilizados pelo Compute Engine. Os modelos compatíveis dependem da série de máquinas escolhida para a configuração da estação de trabalho, conforme resumido na tabela a seguir.
Série de máquinas N1
A série de máquinas de uso geral N1 oferece suporte a vários modelos de GPU, e as configurações de estações de trabalho que especificam qualquer um dos tipos de máquina N1 também podem especificar um dos modelos de GPU a seguir. Para o modelo de GPU escolhido, a configuração pode especificar uma contagem de quantas placas de GPU serão anexadas a cada estação de trabalho.
Modelo de GPU | Contagens de GPU |
---|---|
NVIDIA T4 (nvidia-tesla-t4 ) |
1, 2 ou 4 GPUs |
NVIDIA P4 (nvidia-tesla-p4 ) |
1, 2 ou 4 GPUs |
NVIDIA V100 (nvidia-tesla-v100 ) |
1, 2, 4 ou 8 GPUs |
NVIDIA P100 (nvidia-tesla-p100 ) |
1, 2 ou 4 GPUs |
Série de máquina A2
A série de máquinas com otimização para acelerador padrão A2 tem um número fixo de GPUs NVIDIA A100 conectadas, com base apenas no tipo de máquina escolhido.
A tabela a seguir mostra o mapeamento do tipo de máquina para o número de cartões que serão anexados.
Modelo de GPU | Tipo de máquina | Contagem de GPUs |
---|---|---|
NVIDIA A100 40GB (nvidia-tesla-a100 ) |
a2-highgpu-1g |
1 GPU |
a2-highgpu-2g |
2 GPUs | |
a2-highgpu-4g |
4 GPUs | |
a2-highgpu-8g |
8 GPUs | |
a2-megagpu-16g |
16 GPUs |
O Cloud Workstations não oferece suporte aos tipos de máquina A2 Ultra.
Adicionar GPUs a uma configuração de estação de trabalho
Para adicionar GPUs à configuração de uma estação de trabalho, conclua as etapas em uma das guias a seguir.
Antes de começar
Selecione a guia para como planeja usar as amostras nesta página:
Console
Quando você usa o console do Google Cloud para acessar os serviços e as APIs do Google Cloud, não é necessário configurar a autenticação.
gcloud
Instale a Google Cloud CLI e inicialize-a executando o seguinte comando:
gcloud init
Consulte a visão geral dos preços do Cloud Workstations para entender como os custos serão afetados pela configuração das GPUs. Observe que as GPUs são anexadas às máquinas virtuais (VMs) pré-iniciadas especificadas pelo tamanho do pool de início rápido de uma configuração.
Como atualizar a configuração atual
Console
Para configurar GPUs em uma configuração de estação de trabalho atual no Console do Google Cloud, faça o seguinte:
No console do Google Cloud, acesse a página Configurações da estação de trabalho.
Na lista Configurações da estação de trabalho, clique no Nome da configuração em que as GPUs serão adicionadas.
Na página Detalhes de configuração da estação de trabalho, clique em editar Editar.
Na página Editar configuração da estação de trabalho, clique em Configurações da máquina no menu de navegação.
Clique no botão de alternância para selecionar GPUs em vez da família de máquinas de Uso geral.
No campo Tipo de GPU, selecione o modelo que você quer usar.
No campo Número de GPUs, selecione o número de placas que você quer anexar a cada estação de trabalho.
No campo Tipo de máquina, selecione o tipo de máquina que você quer usar.
Clique em Salvar para atualizar a configuração.
gcloud
Execute o
comando gcloud workstations configs update
para configurar GPUs em uma configuração de estação de trabalho atual.
Primeiro, colete algumas informações para ver quais modelos de GPU estão disponíveis e escolher um para sua configuração:
Verifique quais zonas de réplica a configuração especifica executando o seguinte comando da CLI
gcloud
:gcloud workstations configs describe \ --format="table(name.scope(workstationConfigs),replicaZones.list())" \ --project=PROJECT_ID \ --region=LOCATION \ --cluster=WORKSTATION_CLUSTER_ID \ WORKSTATION_CONFIG_ID
Substitua:
PROJECT_ID
: o ID do projeto que contém a configuração da estação de trabalho.LOCATION
: o local do cluster da estação de trabalho.WORKSTATION_CLUSTER_ID
: o nome do cluster da estação de trabalho que contém a configuração da estação de trabalho.WORKSTATION_CONFIG_ID
: o nome da configuração da estação de trabalho.
Escolha um modelo de GPU compatível que esteja disponível em ambas as zonas de réplica da configuração executando o comando
gcloud compute accelerator-types list
:gcloud compute accelerator-types list \ --format="table(name:sort=1,zone,description,maximumCardsPerInstance)" \ --filter='zone.basename()=(ZONES) AND name~"nvidia-tesla-(a100|p100|p4|t4|v100)$"' \ --project=PROJECT_ID
Substitua
ZONES
por uma lista separada por vírgulas das zonas de réplica determinadas na etapa anterior (por exemplo,us-central1-a,us-central1-c
).Escolha um modelo de GPU que esteja listado duas vezes na tabela, indicando que ele está disponível nas duas zonas de réplica.
Anote o número máximo de cartões que você pode anexar ao modelo de GPU escolhido.
Determine quais tipos de máquina com suporte estão disponíveis em ambas as zonas de réplica da configuração usando o comando
gcloud compute machine-types list
.Se você escolheu o modelo de GPU NVIDIA A100 de 40 GB na etapa anterior, sua configuração precisará usar a série de máquinas A2:
gcloud compute machine-types list \ --format="table(name,zone,guestCpus:sort=1)" \ --filter="name:a2-highgpu- OR name:a2-megagpu-" \ --zones=ZONES \ --project=PROJECT_ID
Se você escolheu qualquer outro modelo de GPU na etapa anterior, sua configuração precisará usar a série de máquinas N1:
gcloud compute machine-types list \ --format="table(name,zone,guestCpus:sort=1)" \ --filter="name:n1-standard-" \ --zones=ZONES \ --project=PROJECT_ID
Escolha um tipo de máquina que esteja listado duas vezes na tabela, indicando que ele está disponível nas duas zonas de réplica.
Agora que você selecionou um modelo de GPU e um tipo de máquina compatível, atualize a configuração:
Para GPUs NVIDIA A100 de 40 GB, execute este comando para atualizar sua configuração:
gcloud beta workstations configs update \ --project=PROJECT_ID \ --region=LOCATION \ --cluster=WORKSTATION_CLUSTER_ID \ WORKSTATION_CONFIG_ID \ --machine-type=A2_MACHINE_TYPE
Substitua
A2_MACHINE_TYPE
pelo tipo de máquina A2 escolhido determinado na etapa anterior (por exemplo,a2-highgpu-1g
).Para todos os outros modelos de GPU, execute este comando:
gcloud beta workstations configs update \ --project=PROJECT_ID \ --region=LOCATION \ß --cluster=WORKSTATION_CLUSTER_ID \ WORKSTATION_CONFIG_ID \ --machine-type=N1_MACHINE_TYPE \ --accelerator-type=ACCELERATOR_TYPE \ --accelerator-count=ACCELERATOR_COUNT
Substitua:
N1_MACHINE_TYPE
: o tipo de máquina escolhido da série N1 (por exemplo,n1-standard-2
).ACCELERATOR_TYPE
: o nome do modelo de GPU escolhido (por exemplo,nvidia-tesla-t4
).ACCELERATOR_COUNT
: o número de GPUs a serem anexadas a cada estação de trabalho (por exemplo,1
,2
,4
). Precisa ser uma potência de dois menor que o máximo para o modelo de GPU.
Criar uma nova configuração de estação de trabalho com GPUs
Para criar uma nova configuração de estação de trabalho que anexe GPUs a estações de trabalho baseadas nelas, conclua as etapas em uma das guias a seguir.
Antes de começar
Selecione a guia para como planeja usar as amostras nesta página:
Console
Quando você usa o console do Google Cloud para acessar os serviços e as APIs do Google Cloud, não é necessário configurar a autenticação.
gcloud
Instale a Google Cloud CLI e inicialize-a executando o seguinte comando:
gcloud init
REST
Para usar as amostras da API REST nesta página em um ambiente de desenvolvimento local, use as credenciais fornecidas para a CLI gcloud.
Instale a Google Cloud CLI e inicialize-a executando o seguinte comando:
gcloud init
Escolha um modelo de GPU e consulte a tabela de disponibilidade da GPU para selecionar uma região em que o modelo escolhido esteja disponível em pelo menos duas zonas.
Se você ainda não tiver um cluster na região escolhida em que possa criar uma nova configuração, siga as etapas para Criar um cluster de estações de trabalho na região.
Consulte a visão geral dos preços do Cloud Workstations para entender como os custos serão afetados pela configuração das GPUs. Observe que as GPUs são anexadas às máquinas virtuais (VMs) pré-iniciadas especificadas pelo tamanho do pool de início rápido de uma configuração.
Como criar uma nova configuração
Console
Crie uma configuração de estação de trabalho com GPUs no console do Google Cloud fazendo o seguinte:
No console do Google Cloud, acesse a página Configurações da estação de trabalho.
Na página Configurações da estação de trabalho, clique em add_box Criar.
Na etapa Informações básicas da página Criar configuração da estação de trabalho, especifique um nome para a configuração no campo Nome.
No campo Cluster da estação de trabalho, selecione um cluster na região escolhida.
Clique em Continuar para avançar para a etapa Configurações da máquina.
Na etapa Configurações da máquina da página Criar configuração da estação de trabalho, clique no botão de alternância para selecionar GPUs em vez da família de máquinas de Uso geral.
Em seguida, no campo Zonas, marque as caixas de seleção ao lado das duas zonas em que o modelo de GPU escolhido está disponível. Consulte a Tabela de disponibilidade da GPU.
No campo Tipo de GPU, selecione o modelo que você quer usar.
No campo Número de GPUs, selecione o número de placas que você quer anexar a cada estação de trabalho.
No campo Tipo de máquina, selecione um tipo de máquina compatível.
Clique em Continuar para definir as configurações do ambiente e a política do IAM antes de clicar em Criar para provisionar a nova configuração da estação de trabalho.
gcloud
Crie uma nova configuração de estação de trabalho com GPUs usando a
CLI gcloud
executando o
comando gcloud workstations configs create
.
Para GPUs NVIDIA A100 de 40 GB, execute este comando para criar sua configuração:
gcloud beta workstations configs create \ --project=PROJECT_ID \ --region=LOCATION \ --cluster=WORKSTATION_CLUSTER_ID \ WORKSTATION_CONFIG_ID \ --replica-zones=REPLICA_ZONES \ --machine-type=A2_MACHINE_TYPE
Substitua:
PROJECT_ID
: o ID do projeto que vai conter a configuração da nova estação de trabalho.LOCATION
: o local do cluster de estações de trabalho em que a configuração estará contida.WORKSTATION_CLUSTER_ID
: o nome do cluster da estação de trabalho que conterá a configuração da nova estação de trabalho.WORKSTATION_CONFIG_ID
: o nome da configuração da nova estação de trabalho.REPLICA_ZONES
: exatamente duas zonas na região do cluster em que o modelo de GPU escolhido está disponível (por exemplo,us-central1-a,us-central1-c
).A2_MACHINE_TYPE
: o tipo de máquina da série A2 escolhido (por exemplo,a2-highgpu-1g
).
Para todos os outros modelos de GPU, execute este comando para criar sua configuração:
gcloud beta workstations configs create \ --project=PROJECT_ID \ --region=LOCATION \ --cluster=WORKSTATION_CLUSTER_ID \ WORKSTATION_CONFIG_ID \ --replica-zones=REPLICA_ZONES \ --machine-type=N1_MACHINE_TYPE \ --accelerator-type=ACCELERATOR_TYPE \ --accelerator-count=ACCELERATOR_COUNT
Substitua:
PROJECT_ID
: o ID do projeto que vai conter a configuração da nova estação de trabalho.LOCATION
: o local do cluster de estações de trabalho em que a configuração estará contida.WORKSTATION_CLUSTER_ID
: o nome do cluster da estação de trabalho que conterá a configuração da nova estação de trabalho.WORKSTATION_CONFIG_ID
: o nome da configuração da nova estação de trabalho.REPLICA_ZONES
: exatamente duas zonas na região do cluster em que o modelo de GPU escolhido está disponível (por exemplo,us-central1-a,us-central1-c
).N1_MACHINE_TYPE
: o tipo de máquina da série N1 escolhido (por exemplo,n1-standard-2
).ACCELERATOR_TYPE
: o nome do modelo de GPU escolhido (por exemplo,nvidia-tesla-t4
).ACCELERATOR_COUNT
: o número de GPUs a serem anexadas a cada estação de trabalho (por exemplo,1
,2
,4
).
Drivers de dispositivo da GPU NVIDIA
O Cloud Workstations instala os drivers de dispositivo NVIDIA nas VMs host das estações de trabalho durante a inicialização da VM.
Para determinar qual versão do driver do dispositivo foi instalada em uma estação de trabalho, execute o seguinte comando:
nvidia-smi --query-gpu=name,driver_version --format=csv
Disponibilidade de GPU por região e zona
É possível pesquisar por local ou modelo de GPU ou por uma combinação de ambos.
Zonas | Local | Plataformas de GPU | ||||||
---|---|---|---|---|---|---|---|---|
asia-east1-a |
Condado de Changhua, Taiwan, APAC (Ásia-Pacífico) | T4, P100 | ||||||
asia-east1-b |
Condado de Changhua, Taiwan, APAC (Ásia-Pacífico) | |||||||
asia-east1-c |
Condado de Changhua, Taiwan, APAC (Ásia-Pacífico) | T4, V100, P100 | ||||||
asia-east2-a |
Hong Kong, APAC (Ásia-Pacífico) | T4 | ||||||
asia-east2-b |
Hong Kong, APAC (Ásia-Pacífico) | |||||||
asia-east2-c |
Hong Kong, APAC (Ásia-Pacífico) | T4 | ||||||
asia-northeast1-a |
Tóquio, Japão, APAC (Ásia-Pacífico) | A100 40 GB, T4 | ||||||
asia-northeast1-b |
Tóquio, Japão, APAC (Ásia-Pacífico) | |||||||
asia-northeast1-c |
Tóquio, Japão, APAC (Ásia-Pacífico) | A100 40 GB, T4 | ||||||
asia-northeast3-a |
Seul, Coreia do Sul, APAC (Ásia-Pacífico) | A100 40 GB | ||||||
asia-northeast3-b |
Seul, Repúblicada Coreia, APAC (Ásia-Pacífico) | A100 40 GB, T4 | ||||||
asia-northeast3-c |
Seul, Coreia do Sul, APAC (Ásia-Pacífico) | T4 | ||||||
asia-south1-a |
Mumbai, Índia, APAC (Ásia-Pacífico) | T4 | ||||||
asia-south1-b |
Mumbai, Índia, APAC (Ásia-Pacífico) | T4 | ||||||
asia-south1-c |
Mumbai, Índia, APAC (Ásia-Pacífico) | T4 | ||||||
asia-southeast1-a |
Jurong West, Singapura, APAC (Ásia-Pacífico) | T4 | ||||||
asia-southeast1-b |
Jurong West, Singapura, APAC (Ásia-Pacífico) | A100 40 GB, T4, P4 | ||||||
asia-southeast1-c |
Jurong West, Singapura, APAC (Ásia-Pacífico) | A100 40 GB, T4, P4 | ||||||
australia-southeast1-a |
Sydney, Austrália, APAC (Ásia-Pacífico) | T4, P4 | ||||||
australia-southeast1-b |
Sydney, Austrália, APAC (Ásia-Pacífico) | P4 | ||||||
australia-southeast1-c |
Sydney, Austrália, APAC (Ásia-Pacífico) | T4, P100 | ||||||
europe-north1-a europe-north1-b europe-north1-c |
Hamina, Finlândia, Europa | |||||||
europe-west1-b |
St. Ghislain, Bélgica, Europa | T4, P100 | ||||||
europe-west1-c |
St. Ghislain, Bélgica, Europa | T4 | ||||||
europe-west1-d |
St. Ghislain, Bélgica, Europa | P100, T4 | ||||||
europe-west2-a |
Londres, Inglaterra, Europa | T4 | ||||||
europe-west2-c |
Londres, Inglaterra, Europa | |||||||
europe-west3-a |
Frankfurt, Alemanha, Europa | |||||||
europe-west3-b |
Frankfurt, Alemanha, Europa | T4 | ||||||
europe-west3-c |
Frankfurt, Alemanha, Europa | |||||||
europe-west4-a |
Eemshaven, Holanda, Europa | A100 40 GB, T4, V100, P100 | ||||||
europe-west4-b |
Eemshaven, Países Baixos, Europa | A100 40 GB, T4, P4, V100 | ||||||
europe-west4-c |
Eemshaven, Países Baixos, Europa | T4, P4, V100 | ||||||
europe-west6-a europe-west6-b europe-west6-c |
Zurique, Suíça, Europa | |||||||
europe-west8-a europe-west8-b europe-west8-c |
Milão, Itália, Europa | |||||||
europe-west9-a europe-west9-b europe-west9-c |
Paris, França, Europa | |||||||
europe-west12-a europe-west12-b europe-west12-c |
Turim, Itália, Europa | |||||||
europe-southwest1-a europe-southwest1-b europe-southwest1-c |
Madri, Espanha, Europa | |||||||
me-west1-a |
Tel Aviv, Israel, Oriente Médio | |||||||
me-west1-b |
Tel Aviv, Israel, Oriente Médio | A100 40 GB, T4 | ||||||
me-west1-c |
Tel Aviv, Israel, Oriente Médio | A100 40 GB, T4 | ||||||
northamerica-northeast1-a |
Montreal, Quebec, América do Norte | P4 | ||||||
northamerica-northeast1-b |
Montreal, Quebec, América do Norte | P4 | ||||||
northamerica-northeast1-c |
Montreal, Quebec, América do Norte | T4, P4 | ||||||
southamerica-east1-a |
Osasco, São Paulo, Brasil, América do Sul | T4 | ||||||
southamerica-east1-c |
Osasco, São Paulo, Brasil, América do Sul | T4 | ||||||
southamerica-west1-a southamerica-west1-b southamerica-west1-c |
Santiago, Chile, América do Sul | |||||||
us-central1-a |
Council Bluffs, Iowa, América do Norte | A100 40 GB, T4, P4, V100 | ||||||
us-central1-b |
Council Bluffs, Iowa, América do Norte | A100 40 GB, T4, V100 | ||||||
us-central1-c |
Council Bluffs, Iowa, América do Norte | A100 40GB, T4, P4, V100, P100 | ||||||
us-central1-f |
Council Bluffs, Iowa, América do Norte | A100 40 GB, T4, V100, P100 | ||||||
us-east1-b |
Moncks Corner, Carolina do Sul, América do Norte | A100 40 GB, P100 | ||||||
us-east1-c |
Moncks Corner, Carolina do Sul, América do Norte | T4, V100, P100 | ||||||
us-east1-d |
Moncks Corner, Carolina do Sul, América do Norte | T4 | ||||||
us-east4-a |
Ashburn, Virgínia, América do Norte | T4, P4 | ||||||
us-east4-b |
Ashburn, Virgínia, América do Norte | T4, P4 | ||||||
us-east4-c |
Ashburn, Virgínia, América do Norte | T4, P4 | ||||||
us-east5-a |
Columbus, Ohio, América do Norte | H100 80GB | us-east5-b |
Columbus, Ohio, América do Norte | A100 80 GB | us-east5-c |
Columbus, Ohio, América do Norte | |
us-west1-a |
The Dalles, Oregon, América do Norte | T4, V100, P100 | ||||||
us-west1-b |
The Dalles, Oregon, América do Norte | A100 40 GB, T4, V100, P100 | ||||||
us-west1-c |
The Dalles, Oregon, América do Norte |
A seguir
Especifique GPUs usando a API Cloud Workstations.
Saiba mais sobre como executar instâncias do Compute Engine com aceleradores de GPU.
Consulte a lista completa de tipos de máquina do Compute Engine.