Administra VMs Spot de TPU

Las VMs Spot ponen a disposición la capacidad sin usar a tarifas con grandes descuentos. Las VMs Spot se pueden interrumpir (apagar) en cualquier momento, pero, a diferencia de las interrumpibles TPU, no hay límite en la duración del entorno de ejecución. No puedes reiniciar las VMs Spot de TPU y debes volver a crearlas después de la preempción. Para para obtener más información sobre las VMs Spot en general, consulta el vínculo Compute Engine sobre las VMs Spot.

Nota: Las VMs Spot de TPU solo admiten la arquitectura de VM de TPU.

Crea VMs Spot de TPU

Puedes crear VMs de TPU Spot con recursos en cola, lo que agrega tu solicitud de creación a una cola y te permite recibir capacidad una vez que esté disponible. Una práctica recomendada es crear TPU como recursos en cola. Para obtener más información, consulta la guía del usuario de recursos en cola.

Para crear VMs Spot de TPU como recursos en cola, agrega la marca --spot al comando de creación de recursos en cola:

gcloud

gcloud compute tpus queued-resources create QUEUED_RESOURCE_ID \
  --node-id=NODE_ID \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --runtime-version=tpu-vm-tf-2.17.0-pod-pjrt \
  --spot

curl

curl -X POST https://tpu.googleapis.com/v2alpha1/projects/PROJECT_ID/locations/europe-west4-a/queuedResources?queued_resource_id=QUEUED_RESOURCE_ID \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  -d '{
    tpu: {
      node_spec: {
        parent: "projects/PROJECT_ID/locations/europe-west4-a",
        node_id: "NODE_ID",
        node: {
          accelerator_type: "v3-8",
          runtime_version: "tpu-vm-tf-2.17.0-pod-pjrt"
        }
      }
    },
    spot: {}
  }'

También puedes crear VMs Spot de TPU sin usar recursos en cola. Para ello, agrega la marca --spot al comando de creación:

gcloud

gcloud compute tpus tpu-vm create TPU_NAME \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --version=tpu-vm-tf-2.17.0-pod-pjrt \
  --spot

curl

curl -X POST https://tpu.googleapis.com/v2/projects/PROJECT_ID/locations/europe-west4-a/nodes?node_id=TPU_NAME \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  -d '{
    accelerator_type: "v3-8",
    runtime_version: "tpu-vm-tf-2.17.0-pod-pjrt",
    network_config: {enable_external_ips: true},
    scheduling_config: {spot: true}
  }'

Verifica si una VM de TPU es una VM Spot

Para confirmar si tu VM de TPU es una VM Spot, usa el comando describe:

gcloud compute tpus tpu-vm describe TPU_NAME --zone=europe-west4-a

Si la VM de TPU es una VM Spot, el resultado incluirá el El campo spot se establece en true, similar a lo siguiente:

...
schedulingConfig:
  spot: true
...

Precios y cuota

El precio de las VMs TPU Spot es significativamente más bajo que el de las VMs a pedido y las TPU reservadas. Para obtener más información sobre los precios, consulta los precios de Cloud TPU.

Necesitas una cuota interrumpible para usar las VMs Spot de TPU. Para obtener más información, consulta Cuotas.