Administra VMs Spot con TPU

Las VMs Spot ponen a disposición la capacidad sin usar a tarifas con grandes descuentos. Las VMs Spot se pueden interrumpir (cerrar) en cualquier momento, pero a diferencia de las TPU interrumpibles, no hay límite en la duración del entorno de ejecución. No puedes reiniciar las VMs Spot de TPU y debes volver a crearlas después de la preempción. Para obtener más información sobre las VMs Spot en general, consulta la documentación de Compute Engine sobre las VMs Spot.

Nota: Las VMs Spot de TPU solo admiten la arquitectura de VM de TPU.

Crea VMs Spot de TPU

Puedes crear VMs de TPU Spot con recursos en cola, lo que agrega tu solicitud de creación a una cola y te permite recibir capacidad una vez que esté disponible. Una práctica recomendada es crear TPU como recursos en cola. Para obtener más información, consulta la guía del usuario de recursos en cola.

Para crear VMs de TPU Spot como recursos en cola, agrega la marca --spot al comando de creación de recursos en cola:

gcloud

gcloud compute tpus queued-resources create QUEUED_RESOURCE_ID \
  --node-id=NODE_ID \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --runtime-version=tpu-vm-tf-2.18.0-pod-pjrt \
  --spot

curl

curl -X POST https://tpu.googleapis.com/v2alpha1/projects/PROJECT_ID/locations/europe-west4-a/queuedResources?queued_resource_id=QUEUED_RESOURCE_ID \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  -d '{
    tpu: {
      node_spec: {
        parent: "projects/PROJECT_ID/locations/europe-west4-a",
        node_id: "NODE_ID",
        node: {
          accelerator_type: "v3-8",
          runtime_version: "tpu-vm-tf-2.18.0-pod-pjrt"
        }
      }
    },
    spot: {}
  }'

También puedes crear VMs de TPU Spot sin usar recursos en cola. Para ello, agrega la marca --spot al comando de creación:

gcloud

gcloud compute tpus tpu-vm create TPU_NAME \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --version=tpu-vm-tf-2.18.0-pod-pjrt \
  --spot

curl

curl -X POST https://tpu.googleapis.com/v2/projects/PROJECT_ID/locations/europe-west4-a/nodes?node_id=TPU_NAME \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  -d '{
    accelerator_type: "v3-8",
    runtime_version: "tpu-vm-tf-2.18.0-pod-pjrt",
    network_config: {enable_external_ips: true},
    scheduling_config: {spot: true}
  }'

Verifica si una VM de TPU es una VM Spot

Para confirmar si tu VM de TPU es una VM Spot, usa el comando describe:

gcloud compute tpus tpu-vm describe TPU_NAME --zone=europe-west4-a

Si la VM de TPU es una VM Spot, el resultado incluirá el campo spot configurado como true, similar al siguiente:

...
schedulingConfig:
  spot: true
...

Precios y cuota

Los precios de las VMs Spot de TPU son considerablemente más bajos que los de las TPU según demanda y reservadas. Para obtener más información sobre los precios, consulta los precios de Cloud TPU.

Necesitas una cuota interrumpible para usar las VMs Spot de TPU. Para obtener más información, consulta Cuotas.