Administra VMs de TPU Spot

Las VMs Spot ponen a disposición la capacidad sin usar a tarifas con grandes descuentos. Las VMs Spot se pueden interrumpir (cerrar) en cualquier momento, pero a diferencia de las TPU interrumpibles, no hay límite en la duración del entorno de ejecución. No puedes reiniciar las VMs Spot de TPU y debes volver a crearlas después de la preempción. Para obtener más información sobre las VMs Spot en general, consulta la documentación de Compute Engine sobre las VMs Spot.

Crea VMs Spot de TPU

Puedes crear VMs de TPU Spot con recursos en cola, lo que agrega tu solicitud de creación a una cola y te permite recibir capacidad una vez que esté disponible. Una práctica recomendada es crear TPUs como recursos en cola. Para obtener más información, consulta la guía del usuario de recursos en cola.

En el siguiente ejemplo, se muestra cómo crear VMs de TPU Spot con recursos en fila:

gcloud

Agrega la marca --spot al comando gcloud compute tpus queued-resources:

gcloud compute tpus queued-resources create QUEUED_RESOURCE_ID \
    --node-id=NODE_ID \
    --zone=europe-west4-a \
    --accelerator-type=v3-8 \
    --runtime-version=tpu-vm-tf-2.18.0-pod-pjrt \
    --spot

curl

Agrega spot: {} al cuerpo de la solicitud:

curl -X POST https://tpu.googleapis.com/v2alpha1/projects/PROJECT_ID/locations/europe-west4-a/queuedResources?queued_resource_id=QUEUED_RESOURCE_ID \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    -d '{
        tpu: {
        node_spec: {
            parent: "projects/PROJECT_ID/locations/europe-west4-a",
            node_id: "NODE_ID",
            node: {
            accelerator_type: "v3-8",
            runtime_version: "tpu-vm-tf-2.18.0-pod-pjrt"
            }
        }
        },
        spot: {}
    }'

Console

  1. En la consola de Google Cloud, ve a la página TPUs:

    Ve a TPUs

  2. Haz clic en Crear TPU.

  3. En el campo Nombre, ingresa un nombre para tu TPU.

  4. En el cuadro Zona, selecciona la zona en la que deseas crear la TPU.

  5. En el cuadro Tipo de TPU, selecciona un tipo de acelerador. El tipo de acelerador especifica la versión y el tamaño de la Cloud TPU que deseas crear. Para obtener más información sobre los tipos de aceleradores compatibles con cada versión de TPU, consulta Versiones de TPU.

  6. En el cuadro Versión de software de TPU, selecciona una versión de software. Cuando se crea una VM de Cloud TPU, la versión del software de TPU especifica la versión del entorno de ejecución de TPU que se instalará. Para obtener más información, consulta Imágenes de VM de TPU.

  7. Haz clic en el botón de activación Habilitar colas.

  8. En el campo Nombre del recurso en cola, ingresa un nombre para tu solicitud de recurso en cola.

  9. Expande la sección Administración.

  10. Selecciona la casilla de verificación Convierte esta VM en una VM Spot con TPU.

  11. Haz clic en Crear.

También puedes crear VMs Spot de TPU sin usar recursos en cola:

gcloud

Agrega la marca --spot al comando gcloud compute tpus tpu-vm:

gcloud compute tpus tpu-vm create TPU_NAME \
    --zone=europe-west4-a \
    --accelerator-type=v3-8 \
    --version=tpu-vm-tf-2.18.0-pod-pjrt \
    --spot

curl

Agrega scheduling_config: {spot: true} al cuerpo de la solicitud:

curl -X POST https://tpu.googleapis.com/v2/projects/PROJECT_ID/locations/europe-west4-a/nodes?node_id=TPU_NAME \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    -d '{
        accelerator_type: "v3-8",
        runtime_version: "tpu-vm-tf-2.18.0-pod-pjrt",
        network_config: {enable_external_ips: true},
        scheduling_config: {spot: true}
    }'

Console

  1. En la consola de Google Cloud, ve a la página TPUs:

    Ve a TPUs

  2. Haz clic en Crear TPU.

  3. En el campo Nombre, ingresa un nombre para tu TPU.

  4. En el cuadro Zona, selecciona la zona en la que deseas crear la TPU.

  5. En el cuadro Tipo de TPU, selecciona un tipo de acelerador. El tipo de acelerador especifica la versión y el tamaño de la Cloud TPU que deseas crear. Para obtener más información sobre los tipos de aceleradores compatibles con cada versión de TPU, consulta Versiones de TPU.

  6. En el cuadro Versión de software de TPU, selecciona una versión de software. Cuando se crea una VM de Cloud TPU, la versión del software de TPU especifica la versión del entorno de ejecución de TPU que se instalará. Para obtener más información, consulta Imágenes de VM de TPU.

  7. Expande la sección Administración.

  8. Selecciona la casilla de verificación Convierte esta VM en una VM Spot con TPU.

  9. Haz clic en Crear.

Verifica si una VM de TPU es una VM Spot

gcloud

Para confirmar si tu VM de TPU es una VM Spot, usa el comando describe:

gcloud compute tpus tpu-vm describe TPU_NAME --zone=europe-west4-a

Si la VM de TPU es una VM Spot, el resultado incluirá el campo spot configurado como true, similar al siguiente:

...
schedulingConfig:
spot: true
...

Console

  1. En la consola de Google Cloud, ve a la página TPUs:

    Ve a TPUs

  2. Haz clic en el nombre de tu Cloud TPU.

    Si la VM de TPU es Spot, el nivel será VM Spot.

Precios y cuota

Los precios de las VMs Spot de TPU son considerablemente más bajos que los de las TPU según demanda y reservadas. Para obtener más información sobre los precios, consulta los precios de Cloud TPU.

Necesitas una cuota de recursos interrumpibles para usar las VMs Spot de TPU. Para obtener más información, consulta Cuotas.