Esta página foi traduzida pela API Cloud Translation.

Gerenciar recursos da TPU

Esta página descreve como criar, listar, parar, iniciar, excluir e conectar a Cloud TPUs usando a API Create Node. A API Create Node é chamada quando você execute o comando gcloud compute tpus tpu-vm create usando a Google Cloud CLI e ao criar uma TPU usando o console do Google Cloud. Ao usar o botão Node API, sua solicitação será processada imediatamente. Se não houver capacidade suficiente para atender à sua solicitação, ela falhará.

A prática recomendada é criar TPUs usando recursos enfileirados em vez da API Create Node. Quando você solicita recursos na fila, a solicitação é adicionada a uma fila mantida pelo o serviço do Cloud TPU. Quando o recurso solicitado fica disponível, atribuídos ao seu projeto do Google Cloud para uso exclusivo imediato. Para Para mais informações, consulte Gerenciar recursos na fila.

Ao usar o Multislice, você precisa usar recursos na fila. Para mais informações, consulte Introdução ao multislice.

Se você quiser usar o Google Kubernetes Engine (GKE) para gerenciar recursos de TPU, primeiro você precisa criar um cluster do GKE. Em seguida, adicione pools de nós que contém frações de TPU ao cluster. Para mais informações, consulte Sobre TPUs no GKE

Pré-requisitos

Antes de executar os procedimentos, instale a Google Cloud CLI, crie um projeto do Google Cloud e ativar a API Cloud TPU. Para instruções, consulte Configurar o ambiente do Cloud TPU.

Se você estiver usando a Google Cloud CLI, é possível executar comandos usando o Cloud Shell, uma VM do Compute Engine ou sua máquina local. O O Cloud Shell permite interagir com Cloud TPUs sem para instalar qualquer software. O Cloud Shell se desconecta após um período inatividade. Se estiver executando comandos de longa duração, recomendamos a instalação do Google Cloud CLI na máquina local. Para mais informações sobre A Google Cloud CLI, consulte a Referência do gcloud.

Criar um Cloud TPU usando a API Create Node

É possível criar um Cloud TPU usando gcloud, o console do Google Cloud, ou a API Cloud TPU.

Ao criar um Cloud TPU, é preciso especificar a imagem da VM da TPU (também chamada de TPU versão do software). Para determinar qual imagem de VM usar, consulte VM da TPU de imagens.

Também é preciso especificar a configuração da TPU em termos de TensorCores ou TPU chips Para mais informações, consulte a seção referente à versão de TPU que você está usando em Arquitetura do sistema.

gcloud

Para criar uma TPU usando a API Create Node, use o comando gcloud compute tpus tpu-vm create.

O comando a seguir usa uma configuração baseada no TensorCore:

$ gcloud compute tpus tpu-vm create tpu-name \
  --zone=us-central2-b \
  --accelerator-type=v4-8 \
  --version=tpu-software-version

Descrições de sinalizações de comando

zone: A zona em que planeja criar o Cloud TPU.
accelerator-type: O tipo de acelerador especifica a versão e o tamanho do Cloud TPU que você quer criar. Para mais informações sobre os tipos de aceleradores compatíveis com cada versão de TPU, consulte versões de TPU.
version: A versão do software da TPU.
shielded-secure-boot (opcional): Especifica que as instâncias de TPU sejam criadas com a inicialização segura ativada. Isso as torna, implicitamente, instâncias de VM protegida. Consulte O que é VM protegida? para obter mais detalhes.

O comando a seguir cria uma TPU com uma topologia específica:

$ gcloud compute tpus tpu-vm create tpu-name \
  --zone=us-central2-b \
  --type=v4 \
  --topology=2x2x1 \
  --version=tpu-software-version

Sinalizações obrigatórias

tpu-name: O nome da VM da TPU que você está criando.
zone: A zona em que você está a criação do Cloud TPU.
type: A versão da TPU que você quer usar. Para mais informações, consulte versões de TPU.
topology: A disposição física dos chips de TPU, especificando o número de ícones em cada dimensão. Para mais informações sobre para cada versão de TPU, consulte versões de TPU.
version: A versão do software da TPU que você quer usar. Para mais informações, consulte Versões de software de TPU.

Console

No console do Google Cloud, acesse a página TPUs:

Acessar TPUs
Clique em Criar TPU.
No campo Nome, insira um nome para a TPU.
Na caixa Zona, selecione a zona em que a TPU será criada.
Na caixa Tipo de TPU, selecione um tipo de acelerador. O tipo de acelerador especifica a versão e o tamanho do Cloud TPU que você quer criar. Para mais informações sobre os tipos de aceleradores com suporte para cada versão de TPU, consulte Versões de TPU.
Na caixa Versão do software da TPU, selecione uma versão do software. Ao criar uma VM do Cloud TPU, a versão do software da TPU especifica a versão do ambiente de execução da TPU que será instalada. Para mais informações, consulte Imagens de VM da TPU.
Clique em Criar para criar os recursos.

curl

O comando a seguir usa curl para criar uma TPU.

$ curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json" -d "{accelerator_type: 'v4-8', \
runtime_version:'tpu-vm-tf-2.17.0-pjrt', \
network_config: {enable_external_ips: true}, \
shielded_instance_config: { enable_secure_boot: true }}" \
https://tpu.googleapis.com/v2/projects/project-id/locations/us-central2-b/nodes?node_id=node_name

Campos obrigatórios

runtime_version: A versão do ambiente de execução do Cloud TPU que você quer usar.
project: O nome do projeto registrado do Google Cloud.
zone: A zona em que você está criando o Cloud TPU.
node_name: O nome da VM da TPU que você está criando.

Executar um script de inicialização

É possível executar um script de inicialização em cada VM da TPU especificando o a sinalização --metadata startup-script ao criar a VM da TPU. O seguinte cria uma VM da TPU usando um script de inicialização.

$ gcloud compute tpus tpu-vm create tpu-name \
    --zone=us-central2-b \
    --accelerator-type=tpu-type \
    --version=tpu-vm-tf-2.17.0-pjrt \
    --metadata startup-script='#! /bin/bash
      pip3 install numpy
      EOF'

Conectar-se a um Cloud TPU

gcloud

Conecte-se ao Cloud TPU usando SSH:

$ gcloud compute tpus tpu-vm ssh tpu-name --zone=zone

Quando você solicita uma fração maior que um único host, a Cloud TPU cria uma VM da TPU para cada host. O número de chips de TPU por host depende do Versão da TPU.

Para instalar binários ou executar código, conecte-se a cada VM da TPU usando o tpu-vm ssh command.

$ gcloud compute tpus tpu-vm ssh tpu-name

Para se conectar a uma VM específica da TPU usando SSH, use a sinalização --worker, que segue um índice baseado em zero:

$ gcloud compute tpus tpu-vm ssh tpu-name --worker=1

Para executar um comando em todas as VMs da TPU usando um único comando, use o método Sinalizações --worker=all e --command:

$ gcloud compute tpus tpu-vm ssh tpu-name \
  --project=your_project_ID \
  --zone=zone \
  --worker=all \
  --command='pip install "jax[tpu]==0.4.20" -f https://storage.googleapis.com/jax-releases/libtpu_releases.html'

Para o multislice, é possível executar um comando em uma única VM usando o nome enumerado da TPU, com cada prefixo de fatia e o número anexado a ela. Para executar uma em todas as VMs da TPU em todas as frações, use --node=all, --worker=all, e --command, com um parâmetro opcional --batch-size .

$ gcloud compute tpus queued-resources ssh ${QUEUED_RESOURCE_ID} \
  --project=project_ID \
  --zone=zone \
  --node=all \
  --worker=all \
  --command='pip install "jax[tpu]==0.4.20" -f https://storage.googleapis.com/jax-releases/libtpu_releases.html' \
  --batch-size=4

Console

Para se conectar às suas TPUs no console do Google Cloud, use o SSH no navegador:

No console do Google Cloud, acesse a página TPUs:

Acessar TPUs
Na lista de VMs da TPU, clique em SSH na linha da VM da TPU que com que você quer se conectar.

Observação :ao se conectar a VMs de TPU usando o console do Google Cloud, O Compute Engine cria uma chave SSH temporária para você.

Listar seus recursos do Cloud TPU

É possível listar todos os Cloud TPUs em uma zona especificada.

gcloud

$ gcloud compute tpus tpu-vm list --zone=zone

Console

No console do Google Cloud, acesse a página TPUs:

Acessar TPUs

Recuperar informações sobre o Cloud TPU

É possível recuperar informações sobre um Cloud TPU especificado.

gcloud

$ gcloud compute tpus tpu-vm describe tpu-name \
  --zone=zone

Console

No console do Google Cloud, acesse a página TPUs:

Acessar TPUs
Clique no nome do Cloud TPU. O console exibe Página de detalhes do Cloud TPU.

Interrompa seus recursos do Cloud TPU

É possível interromper um único Cloud TPU para interromper as cobranças sem perder a configuração e o software da sua VM.

gcloud

$ gcloud compute tpus tpu-vm stop tpu-name \
  --zone=zone

Console

No console do Google Cloud, acesse a página TPUs:

Acessar TPUs
Marque a caixa de seleção ao lado do Cloud TPU.
Clique em Interromper.

Inicie seus recursos do Cloud TPU

É possível iniciar um Cloud TPU quando ele está parado.

gcloud

$ gcloud compute tpus tpu-vm start tpu-name \
  --zone=zone

Console

No console do Google Cloud, acesse a página TPUs:

Acessar TPUs
Marque a caixa de seleção ao lado do Cloud TPU.
Clique em Iniciar.

Excluir um Cloud TPU

Exclua as frações da VM da TPU ao final da sessão.

gcloud

$ gcloud compute tpus tpu-vm delete tpu-name \
  --project=project-id \
  --zone=zone \
  --quiet

Descrições de sinalizações de comando

zone: A zona em que você planeja excluir o Cloud TPU.

Console

No console do Google Cloud, acesse a página TPUs:

Acessar TPUs
Marque a caixa de seleção ao lado do Cloud TPU.
Clique em Excluir.