Google Cloud menggunakan region, yang dibagi menjadi zona, untuk menentukan lokasi geografis dari resource komputasi fisik. Saat menjalankan tugas di AI Platform Prediction, Anda menentukan region tempat Anda ingin tugas tersebut dijalankan.
Anda biasanya harus menggunakan region yang paling dekat dengan lokasi fisik Anda atau lokasi fisik pengguna yang dituju, tetapi perhatikan region yang tersedia untuk setiap layanan seperti yang tercantum di bawah.
Wilayah yang tersedia
AI Platform Prediction tersedia di region berikut:
Amerika
Region | Oregon us-west1 |
Los Angeles us-west2 |
Salt Lake City us-west3 |
Iowa us-central1 |
South Carolina us-east1 |
Virginia Virginia us-east4 |
Montréal northamerica-northeast1 |
São Paulo southamerica-east1 |
---|---|---|---|---|---|---|---|---|
Prediksi online (jenis mesin MLS1 lama) | ||||||||
Prediksi online (jenis mesin N1) | ||||||||
Prediksi batch | * | * | * | * | * |
Eropa
Region | London europe-west2 |
Belgia europe-west1 |
Belanda europe-west4 |
Zurich europe-west6 |
Frankfurt europe-west3 |
Finlandia europe-north1 |
---|---|---|---|---|---|---|
Prediksi online (jenis mesin MLS1 lama) | ||||||
Prediksi online (jenis mesin N1) | ||||||
Prediksi batch | * | * | * | * | * |
Asia Pasifik
Region | Mumbai asia-south1 |
Singapura asia-southeast1 |
Hong Kong asia-east2 |
Taiwan asia-east1 |
Tokyo asia-northeast1 |
Osaka asia-northeast2 |
Sydney australia-southeast1 |
Seoul asia-northeast3 |
---|---|---|---|---|---|---|---|---|
Prediksi online (jenis mesin MLS1 lama) | ||||||||
Prediksi online (jenis mesin N1) | ||||||||
Prediksi batch | * | * | * | * | * | * | * |
Google Cloud juga menyediakan region tambahan untuk produk selain AI Platform Prediction.
Pertimbangan region
Resource tidak cukup
Permintaan GPU dan resource komputasi di region us-central1
tinggi.
Anda mungkin mendapatkan pesan error di log tugas yang bertuliskan: Resources are
insufficient in region: <region>. Please try a different region.
.
Untuk mengatasinya, coba gunakan region lain atau coba lagi nanti.
Cloud Storage
Anda harus menjalankan tugas Prediksi AI Platform di region yang sama dengan bucket Cloud Storage yang Anda gunakan untuk membaca dan menulis data untuk tugas tersebut.
Anda harus menggunakan class Standard Storage untuk setiap bucket Cloud Storage yang Anda gunakan untuk membaca dan menulis data untuk tugas Prediksi AI Platform.
Prediksi online
Saat men-deploy model untuk prediksi online, Anda menentukan region tempat prediksi ingin dijalankan. Baik Anda berinteraksi dengan prediksi online melalui endpoint global (
ml.googleapis.com
) maupun endpoint regional (REGION-ml.googleapis.com
), prediksi online selalu ditayangkan dari region default yang ditentukan untuk model. Menggunakan endpoint regional untuk prediksi online memberikan perlindungan tambahan untuk model Anda terhadap pemadaman layanan di region lain, karena endpoint ini mengisolasi resource model dan versi Anda dari region lain. Pelajari lebih lanjut perbedaan antara penggunaan endpoint regional dan penggunaan endpoint global.Jenis mesin Compute Engine (N1) untuk prediksi online hanya tersedia di endpoint regional. Jenis mesin Compute Engine (N1) tidak tersedia saat Anda menggunakan endpoint global.
Menggunakan GPU untuk prediksi online
Menggunakan GPU untuk prediksi online hanya tersedia di region tertentu, di endpoint regional. Anda tidak dapat menggunakan GPU di endpoint global. Tabel berikut mencantumkan semua akselerator yang tersedia untuk prediksi online, untuk setiap endpoint regional:
Amerika
Region | Oregon us-west1 |
Iowa us-central1 |
South Carolina us-east1 |
Virginia Virginia us-east4 |
Montréal northamerica-northeast1 |
---|---|---|---|---|---|
NVIDIA Tesla P4 | |||||
NVIDIA Tesla P100 | |||||
NVIDIA Tesla T4 | |||||
NVIDIA Tesla V100 |
Eropa
Region | London europe-west2 |
Belgia europe-west1 |
Belanda europe-west4 |
Frankfurt europe-west3 |
---|---|---|---|---|
NVIDIA Tesla P4 | ||||
NVIDIA Tesla P100 | ||||
NVIDIA Tesla T4 | ||||
NVIDIA Tesla V100 |
Asia Pasifik
Region | Singapura asia-southeast1 |
Taiwan asia-east1 |
Tokyo asia-northeast1 |
Sydney australia-southeast1 |
---|---|---|---|---|
NVIDIA Tesla P4 | ||||
NVIDIA Tesla P100 | ||||
NVIDIA Tesla T4 | ||||
NVIDIA Tesla V100 |
Prediksi batch
Untuk melakukan prediksi batch, Anda harus menggunakan endpoint API global, bukan endpoint regional.
Anda hanya dapat men-deploy model dan versi model untuk prediksi batch di wilayah berikut:
us-central1
us-east1
us-east4
europe-west1
asia-northeast1
Untuk melakukan prediksi batch di region lain yang tersedia, yang ditandai dengan tanda bintang di tabel Region yang tersedia, Anda harus menggunakan TensorFlow SavedModel yang disimpan di Cloud Storage.
Untuk mendapatkan performa terbaik dalam prediksi batch, Anda harus menjalankan tugas prediksi dan menyimpan data input dan output di region yang sama, terutama untuk set data yang sangat besar.
Saat men-deploy model untuk prediksi batch, Anda menentukan region default tempat prediksi akan dijalankan. Saat memulai tugas prediksi batch, Anda dapat menentukan region tempat tugas dijalankan, yang akan menggantikan region default.
Membatasi lokasi resource
Administrator kebijakan organisasi dapat membatasi region yang tersedia untuk model dan tugas prediksi batch dengan membuat batasan lokasi resource. Baca tentang cara penerapan batasan lokasi resource pada AI Platform Prediction