Faça a gestão de VMs do Spot de TPUs

As VMs do Spot disponibilizam capacidade não utilizada a taxas com descontos elevados. As VMs Spot podem ser interrompidas (encerradas) em qualquer altura, mas, ao contrário das TPUs interrompíveis, não existe um limite de duração do tempo de execução. Não pode reiniciar VMs Spot de TPUs e tem de as recriar após a preempção. Para mais informações sobre as VMs de spot em geral, consulte a documentação do Compute Engine sobre VMs de spot.

Crie VMs do Spot da TPU

Pode criar VMs Spot de TPUs usando recursos em fila, o que adiciona o seu pedido de criação a uma fila e permite-lhe receber capacidade assim que estiver disponível. Criar TPUs como recursos em fila é uma prática recomendada. Para mais informações, consulte o manual do utilizador de recursos em fila.

O exemplo seguinte mostra como criar VMs Spot de TPUs usando recursos em fila:

gcloud

Adicione a flag --spot ao comando gcloud compute tpus queued-resources:

gcloud compute tpus queued-resources create QUEUED_RESOURCE_ID \
    --node-id=NODE_ID \
    --zone=europe-west4-a \
    --accelerator-type=v3-8 \
    --runtime-version=tpu-vm-tf-2.17.1-pod-pjrt \
    --spot

curl

Adicione spot: {} ao corpo do pedido:

curl -X POST https://tpu.googleapis.com/v2alpha1/projects/PROJECT_ID/locations/europe-west4-a/queuedResources?queued_resource_id=QUEUED_RESOURCE_ID \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    -d '{
        tpu: {
        node_spec: {
            parent: "projects/PROJECT_ID/locations/europe-west4-a",
            node_id: "NODE_ID",
            node: {
            accelerator_type: "v3-8",
            runtime_version: "tpu-vm-tf-2.17.1-pod-pjrt"
            }
        }
        },
        spot: {}
    }'

Consola

  1. Na Google Cloud consola, aceda à página TPUs:

    Aceder às TPUs

  2. Clique em Criar TPU.

  3. No campo Nome, introduza um nome para a TPU.

  4. Na caixa Zona, selecione a zona onde quer criar a TPU.

  5. Na caixa Tipo de TPU, selecione um tipo de acelerador. O tipo de acelerador especifica a versão e o tamanho da Cloud TPU que quer criar. Para mais informações sobre os tipos de aceleradores suportados para cada versão da TPU, consulte o artigo Versões da TPU.

  6. Na caixa Versão do software da TPU, selecione uma versão do software. Quando cria uma VM do Cloud TPU, a versão do software da TPU especifica a versão do tempo de execução da TPU a instalar. Para mais informações, consulte o artigo Versões de software da TPU.

  7. Clique no botão de ativar/desativar Ativar colocação em fila.

  8. No campo Nome do recurso em fila, introduza um nome para o seu pedido de recurso em fila.

  9. Expanda a secção Gestão.

  10. Selecione a caixa de verificação Transformar esta VM numa VM Spot da TPU.

  11. Clique em Criar.

Também pode criar VMs do Spot de TPU sem usar recursos em fila:

gcloud

Adicione a flag --spot ao comando gcloud compute tpus tpu-vm:

gcloud compute tpus tpu-vm create TPU_NAME \
    --zone=europe-west4-a \
    --accelerator-type=v3-8 \
    --version=tpu-vm-tf-2.17.1-pod-pjrt \
    --spot

curl

Adicione scheduling_config: {spot: true} ao corpo do pedido:

curl -X POST https://tpu.googleapis.com/v2/projects/PROJECT_ID/locations/europe-west4-a/nodes?node_id=TPU_NAME \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    -d '{
        accelerator_type: "v3-8",
        runtime_version: "tpu-vm-tf-2.17.1-pod-pjrt",
        network_config: {enable_external_ips: true},
        scheduling_config: {spot: true}
    }'

Consola

  1. Na Google Cloud consola, aceda à página TPUs:

    Aceder às TPUs

  2. Clique em Criar TPU.

  3. No campo Nome, introduza um nome para a TPU.

  4. Na caixa Zona, selecione a zona onde quer criar a TPU.

  5. Na caixa Tipo de TPU, selecione um tipo de acelerador. O tipo de acelerador especifica a versão e o tamanho da Cloud TPU que quer criar. Para mais informações sobre os tipos de aceleradores suportados para cada versão da TPU, consulte o artigo Versões da TPU.

  6. Na caixa Versão do software da TPU, selecione uma versão do software. Quando cria uma VM do Cloud TPU, a versão do software da TPU especifica a versão do tempo de execução da TPU a instalar. Para mais informações, consulte o artigo Versões de software da TPU.

  7. Expanda a secção Gestão.

  8. Selecione a caixa de verificação Transformar esta VM numa VM Spot da TPU.

  9. Clique em Criar.

Verifique se uma VM da TPU é uma VM de opção

gcloud

Para confirmar se a sua VM de TPU é uma VM de spot, use o comando describe:

gcloud compute tpus tpu-vm describe TPU_NAME --zone=europe-west4-a

Se a VM da TPU for uma VM de capacidade instantânea, a saída inclui o campo spot definido como true, semelhante ao seguinte:

...
schedulingConfig:
spot: true
...

Consola

  1. Na Google Cloud consola, aceda à página TPUs:

    Aceder às TPUs

  2. Clique no nome do Cloud TPU.

    Se a VM da TPU for uma VM do Spot, o Nível é VM do Spot.

Preços e quota

O preço das VMs Spot de TPU é significativamente inferior ao das TPUs a pedido e reservadas. Para mais informações sobre preços, consulte os preços do Cloud TPU.

Precisa de uma quota preemptível para usar VMs do Spot de TPUs. Para mais informações, consulte Quotas.