Administra VMs Spot de TPU

Las VMs Spot hacen que la capacidad sin usar esté disponible a tarifas con un gran descuento. Las VMs Spot se pueden interrumpir (apagar) en cualquier momento, pero, a diferencia de las interrumpibles TPU, no hay límite en la duración del entorno de ejecución. No puedes reiniciar las VMs Spot de TPU y debes volver a crearlas después de la interrupción. Para para obtener más información sobre las VMs Spot en general, consulta el vínculo Compute Engine sobre las VMs Spot.

Nota: Las VMs Spot de TPU solo admiten Arquitectura de VM de TPU.

Crear VMs Spot de TPU

Puedes crear VMs TPU Spot con recursos en cola, lo que agrega tu crear una solicitud en una cola y te permite recibir capacidad cuando se convierte disponibles. Crear TPU como recursos en cola es una práctica recomendada. Para ver más consulta la Guía del usuario de Recursos en cola.

Crea VMs Spot de TPU como recursos en cola agregando la marca --spot al Comando para crear recursos en cola:

gcloud

gcloud alpha compute tpus queued-resources create QUEUED_RESOURCE_ID \
  --node-id=NODE_ID \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --runtime-version=tpu-vm-tf-2.17.0-pod-pjrt \
  --spot

curl

curl -X POST https://tpu.googleapis.com/v2alpha1/projects/PROJECT_ID/locations/europe-west4-a/queuedResources?queued_resource_id=QUEUED_RESOURCE_ID \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  -d '{
    tpu: {
      node_spec: {
        parent: "projects/PROJECT_ID/locations/europe-west4-a",
        node_id: "NODE_ID",
        node: {
          accelerator_type: "v3-8",
          runtime_version: "tpu-vm-tf-2.17.0-pod-pjrt"
        }
      }
    },
    spot: {}
  }'

También puedes crear VMs TPU Spot sin usar recursos en cola Agrega la marca --spot al comando create:

gcloud

gcloud compute tpus tpu-vm create TPU_NAME \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --version=tpu-vm-tf-2.17.0-pod-pjrt \
  --spot

curl

curl -X POST https://tpu.googleapis.com/v2/projects/PROJECT_ID/locations/europe-west4-a/nodes?node_id=TPU_NAME \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  -d '{
    accelerator_type: "v3-8",
    runtime_version: "tpu-vm-tf-2.17.0-pod-pjrt",
    network_config: {enable_external_ips: true},
    scheduling_config: {spot: true}
  }'

Comprueba si una VM de TPU es una VM Spot

Para confirmar si tu VM de TPU es una VM Spot, usa el comando describe:

gcloud compute tpus tpu-vm describe TPU_NAME --zone=europe-west4-a

Si la VM de TPU es una VM Spot, el resultado incluirá el El campo spot se establece en true, similar a lo siguiente:

...
schedulingConfig:
  spot: true
...

Precios y cuota

El precio de las VMs TPU Spot es significativamente más bajo que el de las VMs a pedido y las TPU reservadas. Para obtener más información sobre los precios, consulta Cloud TPU. precios.

Necesitas cuotas interrumpibles para usar las VMs Spot de TPU. Para obtener más información, consulta Cuotas.