Administra VMs Spot de TPU

Las VMs Spot hacen que la capacidad sin usar esté disponible a tarifas con un gran descuento. Las VM Spot se pueden interrumpir (apagar) en cualquier momento, pero, a diferencia de las TPU interrumpibles, no hay límite para la duración del entorno de ejecución. No puedes reiniciar las VMs Spot de TPU y debes volver a crearlas después de la interrupción. Para obtener más información sobre las VMs Spot en general, consulta la documentación de Compute Engine sobre las VMs Spot.

Nota: Las VMs TPU Spot solo admiten la arquitectura de VM de TPU.

Crear VMs Spot de TPU

Puedes crear VM TPU Spot con recursos en cola, lo que agrega tu solicitud de creación a una cola y te permite recibir capacidad una vez que esté disponible. Crear TPU como recursos en cola es una práctica recomendada. Para obtener más información, consulta la Guía del usuario de recursos en cola.

Para crear VMs TPU Spot como recursos en cola, agrega la marca --spot al comando de creación de recursos en cola:

gcloud

gcloud alpha compute tpus queued-resources create QUEUED_RESOURCE_ID \
  --node-id=NODE_ID \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --runtime-version=tpu-vm-tf-2.16.1-pod-pjrt \
  --spot

curl

curl -X POST https://tpu.googleapis.com/v2alpha1/projects/PROJECT_ID/locations/europe-west4-a/queuedResources?queued_resource_id=QUEUED_RESOURCE_ID \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  -d '{
    tpu: {
      node_spec: {
        parent: "projects/PROJECT_ID/locations/europe-west4-a",
        node_id: "NODE_ID",
        node: {
          accelerator_type: "v3-8",
          runtime_version: "tpu-vm-tf-2.16.1-pod-pjrt"
        }
      }
    },
    spot: {}
  }'

También puedes crear VMs TPU Spot sin usar recursos en cola si agregas la marca --spot al comando create:

gcloud

gcloud compute tpus tpu-vm create TPU_NAME \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --version=tpu-vm-tf-2.16.1-pod-pjrt \
  --spot

curl

curl -X POST https://tpu.googleapis.com/v2/projects/PROJECT_ID/locations/europe-west4-a/nodes?node_id=TPU_NAME \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  -d '{
    accelerator_type: "v3-8",
    runtime_version: "tpu-vm-tf-2.16.1-pod-pjrt",
    network_config: {enable_external_ips: true},
    scheduling_config: {spot: true}
  }'

Comprueba si una VM de TPU es una VM Spot

Para confirmar si tu VM de TPU es una VM Spot, usa el comando describe:

gcloud compute tpus tpu-vm describe TPU_NAME --zone=europe-west4-a

Si la VM de TPU es una VM Spot, el resultado incluirá el campo spot configurado en true, similar a lo siguiente:

...
schedulingConfig:
  spot: true
...

Precios y cuota

El precio de las VMs TPU Spot es significativamente más bajo que el de las TPU a pedido y reservadas. Para obtener más información sobre los precios, consulta los precios de Cloud TPU.

Necesitas cuotas interrumpibles para usar las VMs Spot de TPU. Para obtener más información, consulta Cuotas.