TPU preemptible

Penting: TPU Spot VM adalah TPU preemptible versi terbaru. TPU preemptible yang baru dan yang sudah ada akan terus didukung, dan TPU Spot VM menggunakan model harga yang sama dengan TPU preemptible. Namun, VM Spot TPU menyediakan fitur baru yang tidak didukung oleh TPU preemptible. Misalnya, VM Spot TPU tidak memiliki batas waktu proses 24 jam untuk TPU preemptible. Untuk mengetahui informasi selengkapnya, lihat Mengelola Spot VM TPU.

Biaya TPU preemptible jauh lebih murah daripada TPU yang tidak dapat diakhiri. Layanan Cloud TPU dapat menghentikan (mematikan) TPU ini kapan saja, jika memerlukan resource TPU tambahan.

Membuat preemptible VM TPU

gcloud

$ gcloud compute tpus tpu-vm create demo-tpu \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --version=tpu-vm-tf-2.18.0-pjrt \
  --preemptible
  

dengan:

• demo-tpu adalah nama untuk TPU.
• accelerator-type adalah jenis TPU. Untuk mengetahui informasi selengkapnya tentang jenis akselerator yang didukung untuk setiap versi TPU, lihat versi TPU.
• version adalah image VM Cloud TPU yang akan diinstal.
• preemptible memungkinkan Cloud TPU untuk mengambil alih TPU.

Harga dan kuota untuk TPU preemptible

Harga untuk TPU yang dapat diakhiri jauh lebih rendah daripada untuk TPU normal. Untuk mengetahui detailnya, lihat halaman harga. Anda tidak akan dikenai biaya jika TPU di-preempt dalam menit pertama setelah membuatnya.

Kuota untuk TPU yang dapat diakhiri umumnya lebih tinggi, dan terpisah dari kuota untuk TPU normal. Lihat halaman kuota.

Mendeteksi apakah TPU telah di-preempt

Anda menggunakan perintah gcloud berikut untuk memeriksa apakah layanan Cloud TPU telah mengambil alih TPU Anda:

Cantumkan TPU yang tersedia:

gcloud compute tpus tpu-vm list
  --zone=us-central1-b
  

Output perintah menampilkan detail TPU yang dibuat di project Anda. Jika TPU telah didahului, statusnya akan berubah dari READY menjadi PREEMPTED.

Contoh:

NAME       ZONE           ACCELERATOR_TYPE  NETWORK_ENDPOINT   NETWORK  RANGE          STATUS
demo-tpu   us-central1-b  v2-8              10.240.1.2:8470    default  10.240.1.0/29  PREEMPTED

Catatan: Jika Cloud TPU Anda di-preempt, Anda harus menghapusnya dan membuat yang baru seperti yang dijelaskan dalam Mengelola TPU.

Mendesain aplikasi machine learning untuk berjalan di TPU yang dapat di-preempt

Pastikan aplikasi Anda tahan terhadap mulai ulang VM dan TPU, dengan menyimpan titik periksa model secara rutin dan dengan mengonfigurasi aplikasi untuk memulihkan titik periksa terbaru saat dimulai ulang.