TPUs preemptivas

Importante: as VMs do Spot da TPU são a versão mais recente das TPUs preemptivas. As TPUs preemptivas novas e atuais continuam sendo compatíveis, e as VMs Spot da TPU usam o mesmo modelo de preços das TPUs preemptivas. No entanto, as VMs spot da TPU fornecer novos recursos que as TPUs preemptivas não suportam. Por exemplo, as VMs spot do TPU não têm o limite de 24 horas de execução de TPUs preemptivas. Para mais informações, consulte Gerenciar VMs spot de TPU.

As TPUs preemptivas têm um custo muito menor do que as TPUs não preemptivas. O serviço do Cloud TPU pode interromper (encerrar) essas TPUs a qualquer momento se exigir outros recursos da TPU.

Como criar uma VM preemptiva da TPU

gcloud

$ gcloud compute tpus tpu-vm create demo-tpu \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --version=tpu-vm-tf-2.17.0-pjrt \
  --preemptible
  

onde:

• demo-tpu é um nome para a TPU;
• accelerator-type é o tipo de TPU. Para mais informações sobre tipos de aceleradores compatíveis com cada versão de TPU, consulte versões de TPU.
• version é a imagem da VM do Cloud TPU a ser instalada.
• preemptible permite que a Cloud TPU force a interrupção da TPU.

Preços e cotas para TPUs preemptivas

O preço das TPUs preemptíveis é significativamente menor do que das TPUs normais. Para detalhes, consulte a página de preços. Não haverá cobranças pelas TPUs caso elas sejam interrompidas no primeiro minuto após a criação.

Geralmente, a cota para TPUs preemptivas é maior e contabilizada separadamente da cota para TPUs normais. Consulte a página de cotas.

Como descobrir se uma TPU foi interrompida

Use o seguinte comando gcloud para verificar se o O serviço do Cloud TPU encerrou sua TPU por preempção:

Liste as TPUs disponíveis:

gcloud compute tpus tpu-vm list
  --zone=us-central1-b
  

A saída do comando mostra os detalhes das TPUs criadas no projeto. Se uma TPU tiver sido interrompida, o status mudará de READY para PREEMPTED.

Exemplo:

NAME       ZONE           ACCELERATOR_TYPE  NETWORK_ENDPOINT   NETWORK  RANGE          STATUS
demo-tpu   us-central1-b  v2-8              10.240.1.2:8470    default  10.240.1.0/29  PREEMPTED

Observação: se o Cloud TPU for interrompido, você precisa excluí-lo e criar um novo, conforme descrito em Como gerenciar TPUs.

Como projetar um aplicativo de aprendizado de máquina executável em TPUs preemptivas

Seu aplicativo precisa ser resiliente a reinicializações da VM e da TPU. Para isso, salve regularmente os checkpoints do modelo e configure o aplicativo para restaurar o checkpoint mais recente ao reiniciar.