Google Cloud menggunakan region, yang dibagi menjadi beberapa zona, untuk menentukan lokasi geografis resource komputasi fisik. Saat menjalankan tugas di AI Platform Prediction, Anda menentukan region tempat tugas dijalankan.
Biasanya Anda harus menggunakan region yang terdekat dengan lokasi fisik Anda atau lokasi fisik pengguna yang dituju, tetapi perhatikan region yang tersedia untuk setiap layanan seperti yang tercantum di bawah ini.
Region yang tersedia
Prediksi AI Platform tersedia di region berikut:
Amerika
Region | Oregon us-west1 |
Los Angeles us-west2 |
Salt Lake City us-west3 |
Iowa us-central1 |
Carolina Selatan us-east1 |
Virginia Virginia us-east4 |
Montréal northamerica-northeast1 |
São Paulo southamerica-east1 |
---|---|---|---|---|---|---|---|---|
Prediksi online (jenis mesin MLS1 lama) | ||||||||
Prediksi online (jenis mesin N1) | ||||||||
Prediksi batch | * | * | * | * | * |
Eropa
Region | London europe-west2 |
Belgia europe-west1 |
Belanda europe-west4 |
Zurich europe-west6 |
Frankfurt europe-west3 |
Finlandia europe-north1 |
---|---|---|---|---|---|---|
Prediksi online (jenis mesin MLS1 lama) | ||||||
Prediksi online (jenis mesin N1) | ||||||
Prediksi batch | * | * | * | * | * |
Asia Pasifik
Region | Mumbai asia-south1 |
Singapura asia-southeast1 |
Hong Kong asia-timur2 |
Taiwan asia-east1 |
Tokyo asia-northeast1 |
Osaka asia-northeast2 |
Sydney australia-southeast1 |
Seoul asia-northeast3 |
---|---|---|---|---|---|---|---|---|
Prediksi online (jenis mesin MLS1 lama) | ||||||||
Prediksi online (jenis mesin N1) | ||||||||
Prediksi batch | * | * | * | * | * | * | * |
Google Cloud juga menyediakan region tambahan untuk produk selain AI Platform Prediction.
Pertimbangan region
Resource tidak cukup
Permintaan tinggi untuk GPU dan resource komputasi di region us-central1
.
Anda mungkin mendapatkan pesan error di log tugas yang bertuliskan: Resources are
insufficient in region: <region>. Please try a different region.
.
Untuk mengatasi hal ini, coba gunakan wilayah lain atau coba lagi nanti.
Cloud Storage
Anda harus menjalankan tugas Prediksi AI Platform di region yang sama dengan bucket Cloud Storage yang Anda gunakan untuk membaca dan menulis data untuk tugas tersebut.
Anda harus menggunakan class Standard Storage untuk bucket Cloud Storage yang digunakan untuk membaca dan menulis data untuk tugas Prediksi AI Platform.
Prediksi online
Saat men-deploy model untuk prediksi online, Anda menentukan wilayah tempat Anda ingin menjalankan prediksi. Baik Anda berinteraksi dengan prediksi online melalui endpoint global (
ml.googleapis.com
) maupun endpoint regional (REGION-ml.googleapis.com
), prediksi online selalu disalurkan dari region default yang ditentukan untuk model tersebut. Penggunaan endpoint regional untuk prediksi online akan memberikan perlindungan tambahan untuk model Anda terhadap pemadaman layanan di region lain, karena endpoint tersebut mengisolasi model dan resource versi Anda dari region lain. Pelajari lebih lanjut perbedaan antara penggunaan endpoint regional dan penggunaan endpoint global.Jenis mesin Compute Engine (N1) untuk prediksi online hanya tersedia di endpoint regional. Jenis mesin Compute Engine (N1) tidak tersedia jika Anda menggunakan endpoint global.
Menggunakan GPU untuk prediksi online
Penggunaan GPU untuk prediksi online hanya tersedia di region tertentu, di endpoint regional. Anda tidak dapat menggunakan GPU di endpoint global. Tabel berikut mencantumkan semua akselerator yang tersedia untuk prediksi online, untuk setiap endpoint regional:
Amerika
Region | Oregon us-west1 |
Iowa us-central1 |
Carolina Selatan us-east1 |
Virginia Virginia us-east4 |
Montréal northamerica-northeast1 |
---|---|---|---|---|---|
NVIDIA Tesla K80 | |||||
NVIDIA Tesla P4 | |||||
NVIDIA Tesla P100 | |||||
NVIDIA Tesla T4 | |||||
NVIDIA Tesla V100 |
Eropa
Region | London europe-west2 |
Belgia europe-west1 |
Belanda europe-west4 |
Frankfurt europe-west3 |
---|---|---|---|---|
NVIDIA Tesla K80 | ||||
NVIDIA Tesla P4 | ||||
NVIDIA Tesla P100 | ||||
NVIDIA Tesla T4 | ||||
NVIDIA Tesla V100 |
Asia Pasifik
Region | Singapura asia-southeast1 |
Taiwan asia-east1 |
Tokyo asia-northeast1 |
Sydney australia-southeast1 |
---|---|---|---|---|
NVIDIA Tesla K80 | ||||
NVIDIA Tesla P4 | ||||
NVIDIA Tesla P100 | ||||
NVIDIA Tesla T4 | ||||
NVIDIA Tesla V100 |
Prediksi batch
Untuk menjalankan prediksi batch, Anda harus menggunakan endpoint API global, bukan endpoint regional.
Anda hanya dapat men-deploy model dan versi model untuk prediksi batch di region berikut:
us-central1
us-east1
us-east4
europe-west1
asia-northeast1
Untuk melakukan prediksi batch di region lain yang tersedia, yang ditandai dengan tanda bintang di tabel Region yang tersedia, Anda harus menggunakan TensorFlow SavedModel yang disimpan di Cloud Storage.
Untuk mendapatkan performa terbaik dalam prediksi batch, Anda harus menjalankan tugas prediksi serta menyimpan data input dan output di region yang sama, terutama untuk set data yang sangat besar.
Saat men-deploy model untuk prediksi batch, Anda menentukan region default tempat Anda ingin menjalankan prediksi. Saat memulai tugas prediksi batch, Anda dapat menentukan region tempat tugas akan dijalankan, dengan mengganti region default.
Membatasi lokasi resource
Administrator kebijakan organisasi dapat membatasi region yang tersedia untuk model dan tugas prediksi batch dengan membuat batasan lokasi resource. Baca tentang cara penerapan batasan lokasi resource pada AI Platform Prediction