Mengelola TPU Spot VM
Spot VM menyediakan kapasitas yang tidak terpakai dengan harga sangat diskon. Spot VM dapat di-preempt (dinonaktifkan) kapan saja, tetapi tidak seperti preemptible TPU, tidak ada batasan durasi runtime. Anda tidak bisa memulai ulang TPU Spot VM, dan Anda harus membuatnya kembali setelah preemption. Sebagai informasi selengkapnya tentang Spot VM secara umum, lihat Compute Engine dokumentasi tentang Spot VM.
Membuat TPU Spot VM
Anda dapat membuat TPU Spot VM menggunakan resource dalam antrean, yang menambahkan membuat permintaan ke antrean dan memungkinkan Anda menerima kapasitas setelah yang tersedia. Membuat TPU sebagai resource dalam antrean adalah praktik terbaik. Untuk selengkapnya informasi lebih lanjut, lihat Panduan pengguna untuk resource yang diantrekan.
Buat TPU Spot VM sebagai resource dalam antrean dengan menambahkan flag --spot
ke
perintah create resource yang diantrekan:
gcloud
gcloud compute tpus queued-resources create QUEUED_RESOURCE_ID \ --node-id=NODE_ID \ --zone=europe-west4-a \ --accelerator-type=v3-8 \ --runtime-version=tpu-vm-tf-2.17.0-pod-pjrt \ --spot
curl
curl -X POST https://tpu.googleapis.com/v2alpha1/projects/PROJECT_ID/locations/europe-west4-a/queuedResources?queued_resource_id=QUEUED_RESOURCE_ID \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -d '{ tpu: { node_spec: { parent: "projects/PROJECT_ID/locations/europe-west4-a", node_id: "NODE_ID", node: { accelerator_type: "v3-8", runtime_version: "tpu-vm-tf-2.17.0-pod-pjrt" } } }, spot: {} }'
Anda juga dapat membuat TPU Spot VM tanpa menggunakan resource dalam antrean dengan
menambahkan flag --spot
ke perintah create:
gcloud
gcloud compute tpus tpu-vm create TPU_NAME \ --zone=europe-west4-a \ --accelerator-type=v3-8 \ --version=tpu-vm-tf-2.17.0-pod-pjrt \ --spot
curl
curl -X POST https://tpu.googleapis.com/v2/projects/PROJECT_ID/locations/europe-west4-a/nodes?node_id=TPU_NAME \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -d '{ accelerator_type: "v3-8", runtime_version: "tpu-vm-tf-2.17.0-pod-pjrt", network_config: {enable_external_ips: true}, scheduling_config: {spot: true} }'
Memeriksa apakah TPU VM adalah Spot VM
Untuk mengonfirmasi apakah TPU VM Anda adalah Spot VM, gunakan perintah jelaskan:
gcloud compute tpus tpu-vm describe TPU_NAME --zone=europe-west4-a
Jika TPU VM adalah Spot VM, maka output-nya akan menyertakan
Kolom spot
ditetapkan ke true
, mirip dengan yang berikut ini:
...
schedulingConfig:
spot: true
...
Harga dan kuota
Harga untuk TPU Spot VM jauh lebih rendah dibandingkan on-demand dan untuk TPU yang dicadangkan. Untuk mengetahui informasi selengkapnya tentang harga, lihat Cloud TPU harga.
Anda memerlukan kuota yang dapat dihentikan untuk menggunakan TPU Spot VM. Untuk informasi selengkapnya, lihat Kuota.