Region dan zona TPU

Ringkasan

Perbedaan utama antara jenis TPU adalah harga, performa, kapasitas memori, dan ketersediaan zona.

Google Cloud menggunakan region, yang dibagi menjadi zona, untuk menentukan lokasi geografis dari resource komputasi fisik. Misalnya, region us-central1 menunjukkan region di dekat pusat geografis Amerika Serikat. Saat membuat VM TPU, Anda menentukan zona tempat VM tersebut ingin dibuat. Lihat dokumen Resource global, regional, dan zona Compute Engine untuk mengetahui informasi selengkapnya tentang resource regional dan zona.

Anda dapat membuat konfigurasi TPU di zona yang ditampilkan dalam tabel berikut.

US

Jenis TPU (v2) Core TPU v2 Zona yang tersedia
v2-8 8 us-central1-b
us-central1-c
us-central1-f
v2-32 32 us-central1-a
v2-128 128 us-central1-a
v2-256 256 us-central1-a
v2-512 512 us-central1-a
Jenis TPU (v3) Core TPU v3 Zona yang tersedia
v3-8 8 us-central1-a
us-central1-b
us-central1-f
Jenis TPU (v4) Chip TPU v4 Zona yang tersedia
Semua konfigurasi v4 bervariasi menurut ukuran slice us-central2-b
Jenis TPU (v5e) Chip TPU v5e Zona yang tersedia
Semua konfigurasi v5litepod bervariasi menurut ukuran slice us-central1-a
us-east5-a
us-east5-b
us-east5-c
us-south1-a
us-west1-c
us-west4-a
us-west4-b
Jenis TPU (v5p) Chip TPU v5p Zona yang tersedia
Semua konfigurasi v5p bervariasi menurut ukuran slice us-east5-a

Eropa

Jenis TPU (v2) Core TPU v2 Zona yang tersedia
v2-8 8 europe-west4-a
v2-32 32 europe-west4-a
v2-128 128 europe-west4-a
v2-256 256 europe-west4-a
v2-512 512 europe-west4-a
Jenis TPU (v3) Core TPU v3 Zona yang tersedia
v3-8 8 europe-west4-a
v3-32 32 europe-west4-a
v3-64 64 europe-west4-a
v3-128 128 europe-west4-a
v3-256 256 europe-west4-a
v3-512 512 europe-west4-a
v3-1024 1024 europe-west4-a
v3-2048 2048 europe-west4-a
Jenis TPU (v5e) Chip TPU v5e Zona yang tersedia
v5lite-1 1 europe-west4-b
v5lite-4 4 europe-west4-b
v5lite-8 8 europe-west4-b
Semua konfigurasi v5litepod bervariasi menurut ukuran slice europe-west1-b
europe-west4-a
europe-west4-b
Jenis TPU (v5p) Chip TPU v5p Zona yang tersedia
Semua konfigurasi v5p bervariasi menurut ukuran slice europe-west4-b

Asia Pasifik

Jenis TPU (v2) Core TPU v2 Zona yang tersedia
v2-8 8 asia-east1-c
Jenis TPU (v5e) Chip TPU v5e Zona yang tersedia
Semua konfigurasi v5litepod bervariasi menurut ukuran slice asia-southeast1-b

Jenis TPU dengan jumlah chip atau core yang lebih tinggi hanya tersedia dalam jumlah terbatas. Jenis TPU dengan jumlah chip atau core yang lebih rendah cenderung lebih tersedia.

Menghitung kompromi harga dan performa

Untuk menentukan jenis TPU yang ingin digunakan, Anda dapat melakukan eksperimen menggunakan tutorial Cloud TPU untuk melatih model yang mirip dengan aplikasi Anda.

Jalankan tutorial untuk 5 - 10% dari jumlah langkah yang akan Anda gunakan untuk menjalankan pelatihan penuh pada jenis TPU v2-8, atau v3-8. Hasilnya akan memberi tahu Anda berapa lama waktu yang diperlukan untuk menjalankan jumlah langkah tersebut untuk model tersebut di setiap jenis TPU.

Karena performa pada jenis TPU diskalakan secara linear, jika Anda mengetahui waktu yang diperlukan untuk menjalankan tugas pada jenis TPU v2-8 atau v3-8, Anda dapat memperkirakan seberapa banyak Anda dapat mengurangi waktu tugas dengan menjalankan model pada jenis TPU yang lebih besar dengan lebih banyak chip atau core.

Misalnya, jika jenis TPU v2-8 memerlukan waktu 60 menit hingga 10.000 langkah, node v2-32 memerlukan waktu sekitar 15 menit untuk melakukan tugas yang sama.

Jika mengetahui perkiraan waktu pelatihan untuk model Anda pada beberapa jenis TPU yang berbeda, Anda dapat mempertimbangkan biaya VM/TPU dengan waktu pelatihan untuk membantu Anda memutuskan kompromi harga dan performa terbaik.

Untuk menentukan perbedaan biaya antara berbagai jenis TPU untuk Cloud TPU dan VM Compute Engine terkait, lihat halaman harga TPU.

Menentukan jenis TPU

Apa pun framework yang Anda gunakan, Anda harus menentukan jenis TPU v2 atau v3 dengan parameter accelerator-type saat meluncurkan TPU. Untuk TPU v4 atau yang lebih baru, Anda dapat menentukan jenis dan ukuran menggunakan AcceleratorType atau AcceleratorConfig. Untuk mengetahui informasi selengkapnya, lihat versi TPU. Contoh perintah ditampilkan di Mengelola TPU.

Langkah selanjutnya