Region dan zona TPU

Ringkasan

Perbedaan utama antara jenis TPU adalah harga, performa, kapasitas memori, dan ketersediaan berdasarkan zona.

Google Cloud menggunakan region, yang dibagi menjadi beberapa zona untuk menentukan lokasi geografis resource komputasi fisik. Misalnya, region us-central1 menunjukkan wilayah di dekat pusat geografis Amerika Serikat. Saat membuat TPU node, Anda menentukan zona tempat Anda ingin membuatnya. Lihat dokumen Resource global, regional, dan zona Compute Engine untuk mengetahui informasi selengkapnya tentang resource regional dan zona.

Anda dapat membuat konfigurasi TPU di zona yang ditunjukkan dalam tabel berikut.

US

Jenis TPU (v2) Core TPU v2 Zona yang tersedia
v2-8 8 us-central1-b
us-central1-c
us-central1-f
v2-32 32 us-central1-a
v2-128 128 us-central1-a
v2-256 256 us-central1-a
v2-512 512 us-central1-a
Jenis TPU (v3) Core TPU v3 Zona yang tersedia
v3-8 8 us-central1-a
us-central1-b
us-central1-f
Jenis TPU (v4) Chip TPU v4 Zona yang tersedia
Semua konfigurasi v4 bervariasi menurut ukuran irisan us-central2-b
Jenis TPU (v5e) Chip TPU v5e Zona yang tersedia
V5litepod-1 1 us-west4-a
us-east5-b
V5litepod-4 4 us-west4-a
us-east5-b
V5litepod-8 8 us-west4-a
us-east5-b
V5litepod-16 16 us-west4-a
us-east5-b
V5litepod-32 32 us-west4-a
us-east5-b
V5litepod-64 64 us-west4-a
us-east5-b
V5litepod-128 128 us-west4-a
us-east5-b
V5litepod-256 256 us-west4-a
us-east5-b
Jenis TPU (v5p) Chip v5p TPU Zona yang tersedia
Semua konfigurasi v5p bervariasi menurut ukuran irisan us-east5-a
us-east5-c
us-east1-d

Eropa

Jenis TPU (v2) Core TPU v2 Zona yang tersedia
v2-8 8 europe-west4-a
v2-32 32 europe-west4-a
v2-128 128 europe-west4-a
v2-256 256 europe-west4-a
v2-512 512 europe-west4-a
Jenis TPU (v3) Core TPU v3 Zona yang tersedia
v3-8 8 europe-west4-a
v3-32 32 europe-west4-a
v3-64 64 europe-west4-a
v3-128 128 europe-west4-a
v3-256 256 europe-west4-a
v3-512 512 europe-west4-a
v3-1024 1024 europe-west4-a
v3-2048 2048 europe-west4-a
Jenis TPU (v5e) Chip TPU v5e Zona yang tersedia
V5lite-1 1 europe-west4-b
V5lite-4 4 europe-west4-b
V5lite-8 8 europe-west4-b

Asia Pasifik

Jenis TPU (v2) Core TPU v2 Zona yang tersedia
v2-8 8 asia-east1-c

Jenis TPU dengan jumlah chip atau core yang lebih tinggi hanya tersedia dalam jumlah terbatas. Jenis TPU dengan jumlah chip atau inti yang lebih rendah lebih mungkin tersedia.

Menghitung untung-rugi harga dan performa

Untuk menentukan jenis TPU yang ingin digunakan, Anda dapat bereksperimen menggunakan tutorial Cloud TPU untuk melatih model yang serupa dengan aplikasi Anda.

Jalankan tutorial untuk 5-10% dari jumlah langkah yang akan Anda gunakan untuk menjalankan pelatihan penuh pada jenis TPU v2-8 atau v3-8. Hasilnya memberi tahu Anda durasi yang diperlukan untuk menjalankan jumlah langkah tersebut untuk model tersebut di setiap jenis TPU.

Karena performa pada jenis TPU diskalakan secara linear, jika Anda mengetahui berapa lama waktu yang diperlukan untuk menjalankan tugas pada jenis TPU v2-8 atau v3-8, Anda dapat memperkirakan seberapa banyak waktu yang dapat dikurangi dengan menjalankan model Anda pada jenis TPU yang lebih besar dengan lebih banyak chip atau core.

Misalnya, jika jenis TPU v2-8 memerlukan waktu 60 menit hingga 10.000 langkah, node v2-32 perlu waktu sekitar 15 menit untuk melakukan tugas yang sama.

Setelah mengetahui perkiraan waktu pelatihan untuk model Anda pada beberapa jenis TPU, Anda dapat mempertimbangkan biaya VM/TPU dan waktu pelatihan untuk membantu Anda memutuskan untung-rugi harga dan performa terbaik.

Untuk mengetahui perbedaan biaya antara berbagai jenis TPU untuk Cloud TPU dan VM Compute Engine terkait, lihat halaman harga TPU.

Menentukan jenis TPU

Terlepas dari framework yang digunakan, Anda harus menentukan jenis TPU v2 atau v3 dengan parameter accelerator-type saat meluncurkan TPU. Untuk TPU v4 atau yang lebih baru, Anda dapat menentukan jenis dan ukuran menggunakan AcceleratorType atau AcceleratorConfig. Untuk mengetahui informasi selengkapnya, lihat versi TPU. Perintah jenis TPU bergantung pada apakah Anda menggunakan VM TPU atau Node TPU. Contoh perintah ditampilkan di Mengelola TPU.

Langkah selanjutnya