TPUs preemptivas

Importante: as VMs Spot de TPUs são a versão mais recente das TPUs preemptíveis. As TPUs preemptíveis novas e existentes continuam a ser suportadas, e as VMs Spot da TPU usam o mesmo modelo de preços que as TPUs preemptíveis. No entanto, as VMs Spot de TPU oferecem novas funcionalidades que as TPUs preemptíveis não suportam. Por exemplo, as VMs Spot de TPUs não têm o limite de tempo de execução de 24 horas das TPUs preemptíveis. Para mais informações, consulte o artigo Faça a gestão de VMs Spot de TPUs.

As TPUs preemptivas custam muito menos do que as TPUs não preemptivas. O serviço Cloud TPU pode antecipar (encerrar) estas TPUs em qualquer altura, se precisar de recursos de TPU adicionais.

Criar uma VM de TPU preemptível

gcloud

$ gcloud compute tpus tpu-vm create demo-tpu \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --version=tpu-vm-tf-2.17.1-pjrt \
  --preemptible
  

where:

• demo-tpu é um nome para a TPU.
• accelerator-type é o tipo de TPU. Para mais informações sobre os tipos de aceleradores suportados para cada versão da TPU, consulte o artigo Versões da TPU.
• version é a versão do software do Cloud TPU a instalar.
• preemptible permite que o Cloud TPU interrompa a TPU.

Preços e quota para TPUs preemptíveis

O preço das TPUs preemptivas é significativamente inferior ao das TPUs normais. Para ver detalhes, consulte a página de preços. Não lhe é cobrado qualquer valor pelas TPUs se forem antecipadas no primeiro minuto após a respetiva criação.

Geralmente, a quota para TPUs preemptíveis é superior e está separada da quota para TPUs normais. Consulte a página de quotas.

Detetar se uma TPU foi anulada

Use o seguinte comando gcloud para verificar se o serviço Cloud TPU antecipou a sua TPU:

Liste as TPUs disponíveis:

gcloud compute tpus tpu-vm list
  --zone=us-central1-b
  

O resultado do comando apresenta os detalhes das UTPs criadas no seu projeto. Se uma TPU tiver sido antecipada, o estado muda de READY para PREEMPTED.

Por exemplo:

NAME       ZONE           ACCELERATOR_TYPE  NETWORK_ENDPOINT   NETWORK  RANGE          STATUS
demo-tpu   us-central1-b  v2-8              10.240.1.2:8470    default  10.240.1.0/29  PREEMPTED

Nota: se a sua Cloud TPU for anulada, tem de a eliminar e criar uma nova, conforme descrito no artigo Gerir TPUs.

Conceber a sua aplicação de aprendizagem automática para ser executada em TPUs preemptíveis

Certifique-se de que a sua aplicação é resiliente a reinícios da VM e da TPU, guardando regularmente pontos de verificação do modelo e configurando a aplicação para restaurar o ponto de verificação mais recente no reinício.