Kebijakan kuota

AI Platform Training membatasi alokasi dan penggunaan resource, serta menerapkan kuota yang sesuai berdasarkan per project. Kebijakan tertentu bervariasi bergantung pada ketersediaan resource, profil pengguna, histori service usage, serta faktor lainnya, dan dapat berubah tanpa pemberitahuan.

Bagian di bawah ini menguraikan secara ringkas batasan kuota sistem saat ini.

Batasan permintaan layanan

Anda hanya dapat membuat permintaan API individual dalam jumlah terbatas per interval 60 detik. Setiap batas berlaku untuk API atau grup API tertentu seperti yang dijelaskan di bagian berikut.

Anda dapat melihat kuota permintaan project di API Manager for AI Platform Training di Konsol Google Cloud. Anda dapat mengajukan penambahan kuota dengan mengklik ikon edit di sebelah batas kuota, lalu mengklik Minta kuota lebih tinggi.

Permintaan tugas

Batas berikut berlaku untuk permintaan projects.jobs.create (tugas pelatihan dan prediksi batch digabungkan):

Jangka waktu Batas
60 detik 60

Permintaan prediksi online

Batas berikut berlaku untuk permintaan projects.predict:

Jangka waktu Batas
60 detik 600.000

Permintaan pengelolaan resource

Batas berikut berlaku untuk total gabungan semua permintaan yang didukung dalam daftar ini:

Jangka waktu Batas
60 detik 300

Selain itu, semua permintaan delete yang tercantum di atas dan semua versi permintaan create dibatasi maksimal 10 permintaan total gabungan serentak.

Batas penggunaan serentak mesin virtual

Penggunaan resource pemrosesan Google Cloud oleh project Anda diukur berdasarkan jumlah mesin virtual yang digunakannya. Bagian ini menjelaskan batas penggunaan serentak resource ini di seluruh project Anda.

Batas penggunaan CPU serentak untuk pelatihan

Jumlah CPU virtual serentak untuk project standar akan diskalakan, berdasarkan histori penggunaan project Anda.

  • Total jumlah CPU serentak: Mulai dari 20 CPU, diskalakan hingga jumlah standar 450 CPU. Batas ini menunjukkan jumlah maksimum gabungan dari semua CPU yang digunakan secara serentak, termasuk semua jenis mesin.

Wilayah tertentu memiliki kuota default tambahan. Jika Anda menggunakan CPU di region ini, CPU akan mengurangi kuota regional serta total kuota:

  • asia-northeast2: 20 CPU
  • asia-northeast3: 20 CPU
  • europe-north1: 20 CPU
  • europe-west3: 20 CPU
  • europe-west6: 20 CPU
  • us-east4: 20 CPU
  • us-west2: 20 CPU
  • us-west3: 20 CPU

CPU yang Anda gunakan saat melatih model tidak dihitung sebagai CPU untuk Compute Engine, dan kuota untuk Pelatihan AI Platform tidak memberi Anda akses ke VM Compute Engine mana pun untuk kebutuhan komputasi lainnya. Jika ingin meningkatkan VM Compute Engine, Anda harus meminta kuota Compute Engine, seperti yang dijelaskan dalam dokumentasi Compute Engine.

Batasan penggunaan GPU serentak untuk pelatihan

Sebuah project standar, ketika pertama kali menggunakan AI Platform Training, dibatasi pada jumlah GPU serentak berikut yang digunakan dalam pelatihan model ML:

  • Jumlah total GPU serentak: Ini adalah jumlah maksimum GPU yang digunakan serentak, yang dibagi per jenis sebagai berikut:

    • Jumlah GPU A100 serentak: 8
    • Jumlah GPU K80 serentak: 30
    • Jumlah GPU P4 serentak: 8
    • Jumlah GPU P100 serentak: 30
    • Jumlah GPU V100 serentak: 8
    • Jumlah GPU T4 serentak: 6

Wilayah tertentu memiliki kuota default tambahan. Saat Anda menggunakan GPU berikut di region yang tercantum, GPU tersebut akan diperhitungkan dalam kuota regional serta total kuota:

  • GPU P4 di asia-southeast1: 4
  • GPU P4 di us-east4: 1
  • GPU P4 di us-west2: 1
  • GPU T4 di asia-northeast3: 1
  • GPU T4 di asia-southeast1: 4

Perlu diperhatikan bahwa kuota project bergantung pada beberapa faktor, sehingga kuota dalam project tertentu mungkin lebih rendah daripada jumlah yang tercantum di atas. GPU yang Anda gunakan saat melatih model tidak dihitung sebagai GPU untuk Compute Engine, dan kuota untuk Pelatihan AI Platform tidak memberi Anda akses ke VM Compute Engine mana pun yang menggunakan GPU. Jika ingin meningkatkan VM Compute Engine menggunakan GPU, Anda harus meminta kuota GPU Compute Engine, seperti yang dijelaskan dalam dokumentasi Compute Engine.

Jika Anda memerlukan lebih banyak GPU untuk Pelatihan AI Platform, lihat bagian Meminta penambahan kuota dalam panduan ini.

Untuk informasi lebih lanjut tentang GPU, lihat cara menggunakan GPU untuk melatih model di cloud.

Batasan penggunaan TPU serentak untuk pelatihan

Seperti halnya GPU, kuota TPU untuk Pelatihan AI Platform terpisah dari kuota Cloud TPU, yang dapat Anda gunakan langsung dengan VM Compute Engine. TPU yang Anda gunakan saat melatih model tidak dihitung sebagai TPU untuk Compute Engine, dan kuota untuk Pelatihan AI Platform tidak memberi Anda akses ke VM Compute Engine mana pun yang menggunakan TPU.

Google Cloud Console hanya menampilkan kuota Cloud TPU Anda dengan Compute Engine. Untuk meminta kuota Cloud TPU agar dapat digunakan dengan Compute Engine, kirimkan permintaan ke tim Cloud TPU.

Semua project Google Cloud diberi kuota Pelatihan AI Platform default untuk setidaknya satu Cloud TPU. Kuota dialokasikan dalam unit 8 core TPU per Cloud TPU. Kuota ini tidak ditampilkan di Google Cloud Console.

Meminta peningkatan kuota

Kuota yang tercantum di halaman ini dialokasikan per project, dan dapat meningkat dari waktu ke waktu seiring penggunaan. Jika memerlukan kemampuan pemrosesan lebih besar, Anda dapat mengajukan permohonan penambahan kuota dengan salah satu cara berikut:

  • Gunakan konsol Google Cloud untuk meminta peningkatan kuota yang tercantum dalam Pelatihan API Manager for AI Platform:

    1. Temukan bagian kuota yang ingin Anda tambah.

    2. Klik ikon pensil di sebelah nilai kuota di bagian bawah diagram penggunaan untuk kuota itu.

    3. Masukkan penambahan yang Anda minta:

      • Jika nilai kuota yang diinginkan berada dalam rentang yang ditampilkan pada dialog batas kuota, masukkan nilai baru Anda, lalu klik Simpan.

      • Jika Anda ingin menambah kuota melampaui nilai maksimum yang ditampilkan, klik Minta kuota lebih tinggi dan ikuti petunjuk cara kedua untuk meminta penambahan kuota.

  • Jika Anda ingin menambah kuota yang tidak tercantum di Google Cloud Console, seperti kuota GPU, gunakan formulir Permintaan Kuota AI Platform untuk meminta penambahan kuota. Permintaan ini ditangani berdasarkan upaya terbaik, yang berarti tidak ada perjanjian tingkat layanan (SLA) atau tujuan tingkat layanan (SLO) yang terlibat dalam peninjauan permintaan ini.

Batas penggunaan disk serentak untuk pelatihan

Jumlah disk virtual serentak untuk project standar akan diskalakan, berdasarkan histori penggunaan project Anda:

  • Total jumlah disk serentak: Mulai dari 4.000 GB untuk hard disk drive (HDD) standar dan 500 GB untuk solid-state drive (SSD), diskalakan hingga nilai standar sebesar 180.000 GB untuk HDD dan 75.000 GB untuk SSD. Batas ini menunjukkan jumlah maksimum disk gabungan yang digunakan secara serentak, termasuk semua jenis mesin.

Disk yang Anda gunakan saat melatih model tidak dihitung sebagai disk untuk Compute Engine, dan kuota untuk Pelatihan AI Platform tidak memberi Anda akses ke instance virtual machine (VM) Compute Engine untuk persyaratan komputasi lainnya. Jika ingin membuat VM Compute Engine, Anda harus meminta kuota Compute Engine

Langkah selanjutnya