Mengelola TPU Spot VM

Spot VM menyediakan kapasitas yang tidak terpakai dengan harga sangat diskon. Spot VM dapat di-preempt (dinonaktifkan) kapan saja, tetapi tidak seperti preemptible TPU, tidak ada batasan durasi runtime. Anda tidak bisa memulai ulang TPU Spot VM, dan Anda harus membuatnya kembali setelah preemption. Sebagai informasi selengkapnya tentang Spot VM secara umum, lihat Compute Engine dokumentasi tentang Spot VM.

Membuat TPU Spot VM

Anda dapat membuat TPU Spot VM menggunakan resource dalam antrean, yang menambahkan membuat permintaan ke antrean dan memungkinkan Anda menerima kapasitas setelah yang tersedia. Membuat TPU sebagai resource dalam antrean adalah praktik terbaik. Untuk selengkapnya informasi lebih lanjut, lihat Panduan pengguna untuk resource yang diantrekan.

Buat TPU Spot VM sebagai resource dalam antrean dengan menambahkan flag --spot ke perintah create resource yang diantrekan:

gcloud

gcloud compute tpus queued-resources create QUEUED_RESOURCE_ID \
  --node-id=NODE_ID \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --runtime-version=tpu-vm-tf-2.17.0-pod-pjrt \
  --spot

curl

curl -X POST https://tpu.googleapis.com/v2alpha1/projects/PROJECT_ID/locations/europe-west4-a/queuedResources?queued_resource_id=QUEUED_RESOURCE_ID \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  -d '{
    tpu: {
      node_spec: {
        parent: "projects/PROJECT_ID/locations/europe-west4-a",
        node_id: "NODE_ID",
        node: {
          accelerator_type: "v3-8",
          runtime_version: "tpu-vm-tf-2.17.0-pod-pjrt"
        }
      }
    },
    spot: {}
  }'

Anda juga dapat membuat TPU Spot VM tanpa menggunakan resource dalam antrean dengan menambahkan flag --spot ke perintah create:

gcloud

gcloud compute tpus tpu-vm create TPU_NAME \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --version=tpu-vm-tf-2.17.0-pod-pjrt \
  --spot

curl

curl -X POST https://tpu.googleapis.com/v2/projects/PROJECT_ID/locations/europe-west4-a/nodes?node_id=TPU_NAME \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  -d '{
    accelerator_type: "v3-8",
    runtime_version: "tpu-vm-tf-2.17.0-pod-pjrt",
    network_config: {enable_external_ips: true},
    scheduling_config: {spot: true}
  }'

Memeriksa apakah TPU VM adalah Spot VM

Untuk mengonfirmasi apakah TPU VM Anda adalah Spot VM, gunakan perintah jelaskan:

gcloud compute tpus tpu-vm describe TPU_NAME --zone=europe-west4-a

Jika TPU VM adalah Spot VM, maka output-nya akan menyertakan Kolom spot ditetapkan ke true, mirip dengan yang berikut ini:

...
schedulingConfig:
  spot: true
...

Harga dan kuota

Harga untuk TPU Spot VM jauh lebih rendah dibandingkan on-demand dan untuk TPU yang dicadangkan. Untuk mengetahui informasi selengkapnya tentang harga, lihat Cloud TPU harga.

Anda memerlukan kuota yang dapat dihentikan untuk menggunakan TPU Spot VM. Untuk informasi selengkapnya, lihat Kuota.