Kebijakan kuota

AI Platform Training membatasi alokasi dan penggunaan resource, serta menerapkan kuota yang sesuai berdasarkan per project. Kebijakan tertentu bervariasi bergantung pada ketersediaan resource, profil pengguna, histori service usage, serta faktor lainnya, dan dapat berubah tanpa pemberitahuan.

Bagian di bawah ini menguraikan secara ringkas batasan kuota sistem saat ini.

Batasan permintaan layanan

Anda hanya dapat membuat permintaan API individual dalam jumlah terbatas per interval 60 detik. Setiap batas berlaku untuk API atau grup API tertentu seperti yang dijelaskan di bagian berikut.

Anda dapat melihat kuota permintaan project di API Manager untuk AI Platform Training di konsol Google Cloud. Anda dapat mengajukan penambahan kuota dengan mengklik ikon edit di sebelah batas kuota, lalu mengklik Minta kuota lebih tinggi.

Permintaan tugas

Batas berikut berlaku untuk permintaan projects.jobs.create (tugas pelatihan dan prediksi batch digabungkan):

Jangka waktu Batas
60 detik 60

Permintaan prediksi online

Batas berikut berlaku untuk permintaan projects.predict:

Jangka waktu Batas
60 detik 600.000

Permintaan pengelolaan resource

Batas berikut berlaku untuk total gabungan semua permintaan yang didukung dalam daftar ini:

Jangka waktu Batas
60 detik 300

Selain itu, semua permintaan delete yang tercantum di atas dan semua versi permintaan create dibatasi maksimal 10 permintaan total gabungan serentak.

Batas penggunaan serentak mesin virtual

Penggunaan resource pemrosesan Google Cloud oleh project Anda diukur berdasarkan jumlah virtual machine yang digunakan. Bagian ini menjelaskan batas penggunaan serentak resource ini di seluruh project Anda.

Batas penggunaan CPU serentak untuk pelatihan

Jumlah CPU virtual serentak untuk project standar akan diskalakan, berdasarkan histori penggunaan project Anda.

  • Total jumlah CPU serentak: Mulai dari 20 CPU, diskalakan hingga jumlah standar 450 CPU. Batas ini menunjukkan jumlah maksimum gabungan dari semua CPU yang digunakan secara serentak, termasuk semua jenis mesin.

Wilayah tertentu memiliki kuota default tambahan. Saat Anda menggunakan CPU di region ini, CPU tersebut akan mengurangi kuota regional dan total kuota:

  • asia-northeast2: 20 CPU
  • asia-northeast3: 20 CPU
  • europe-north1: 20 CPU
  • europe-west3: 20 CPU
  • europe-west6: 20 CPU
  • us-east4: 20 CPU
  • us-west2: 20 CPU
  • us-west3: 20 CPU

CPU yang Anda gunakan saat melatih model tidak dihitung sebagai CPU untuk Compute Engine, dan kuota untuk AI Platform Training tidak memberi Anda akses ke VM Compute Engine mana pun untuk kebutuhan komputasi lainnya. Jika ingin meningkatkan VM Compute Engine, Anda harus meminta kuota Compute Engine, seperti yang dijelaskan dalam dokumentasi Compute Engine.

Batasan penggunaan GPU serentak untuk pelatihan

Sebuah project standar, ketika pertama kali menggunakan AI Platform Training, dikenai batasan sebagai berikut untuk jumlah GPU serentak yang dapat digunakan dalam pelatihan model ML:

  • Jumlah total GPU serentak: Ini adalah jumlah maksimum GPU yang digunakan serentak, yang dibagi per jenis sebagai berikut:

    • Jumlah GPU A100 serentak: 8
    • Jumlah GPU P4 serentak: 8
    • Jumlah GPU P100 serentak: 30
    • Jumlah GPU V100 serentak: 8
    • Jumlah GPU T4 serentak: 6

Wilayah tertentu memiliki kuota default tambahan. Saat Anda menggunakan GPU berikut di region yang tercantum, GPU tersebut akan mengurangi kuota regional serta kuota total:

  • GPU P4 di asia-southeast1: 4
  • GPU P4 di us-east4: 1
  • GPU P4 di us-west2: 1
  • GPU T4 di asia-northeast3: 1
  • GPU T4 di asia-southeast1: 4

Perhatikan bahwa kuota project bergantung pada beberapa faktor, sehingga kuota dalam project tertentu mungkin lebih rendah dari angka yang tercantum di atas. GPU yang Anda gunakan saat melatih model tidak dihitung sebagai GPU untuk Compute Engine, dan kuota untuk AI Platform Training tidak memberi Anda akses ke VM Compute Engine mana pun yang menggunakan GPU. Jika ingin meningkatkan VM Compute Engine menggunakan GPU, Anda harus meminta kuota GPU Compute Engine, seperti yang dijelaskan dalam dokumentasi Compute Engine.

Jika Anda memerlukan lebih banyak GPU untuk Pelatihan AI Platform, lihat bagian Meminta penambahan kuota dalam panduan ini.

Untuk informasi lebih lanjut tentang GPU, lihat cara menggunakan GPU untuk melatih model di cloud.

Batas penggunaan TPU serentak untuk pelatihan

Seperti halnya GPU, kuota TPU untuk AI Platform Training terpisah dari kuota Cloud TPU, yang dapat Anda gunakan langsung dengan VM Compute Engine. TPU yang Anda gunakan saat melatih model tidak dihitung sebagai TPU untuk Compute Engine, dan kuota untuk AI Platform Training tidak memberi Anda akses ke VM Compute Engine mana pun yang menggunakan TPU.

Konsol Google Cloud hanya menampilkan kuota Cloud TPU Anda dengan Compute Engine. Untuk meminta kuota Cloud TPU agar dapat digunakan dengan Compute Engine, kirim permintaan ke tim Cloud TPU.

Semua project Google Cloud mendapatkan alokasi kuota Pelatihan AI Platform default untuk setidaknya satu Cloud TPU. Kuota dialokasikan dalam unit 8 core TPU per Cloud TPU. Kuota ini tidak ditampilkan di konsol Google Cloud.

Meminta penambahan kuota

Kuota yang tercantum di halaman ini dialokasikan per project, dan dapat meningkat dari waktu ke waktu seiring penggunaan. Jika memerlukan kemampuan pemrosesan lebih besar, Anda dapat mengajukan penambahan kuota dengan salah satu cara berikut:

  • Gunakan konsol Google Cloud untuk meminta penambahan kuota yang tercantum dalam API Manager untuk AI Platform Training:

    1. Temukan bagian kuota yang ingin Anda tambah.

    2. Klik ikon pensil di sebelah nilai kuota di bagian bawah diagram penggunaan untuk kuota itu.

    3. Masukkan penambahan yang Anda minta:

      • Jika nilai kuota yang diinginkan berada dalam rentang yang ditampilkan pada dialog batas kuota, masukkan nilai baru Anda, lalu klik Simpan.

      • Jika Anda ingin menambah kuota melampaui nilai maksimum yang ditampilkan, klik Minta kuota lebih tinggi dan ikuti petunjuk cara kedua untuk meminta penambahan kuota.

  • Jika Anda ingin meningkatkan kuota yang tidak tercantum di konsol Google Cloud, seperti kuota GPU, gunakan formulir Permintaan Kuota Platform AI untuk meminta penambahan kuota. Permintaan ini ditangani berdasarkan upaya terbaik, yang berarti tidak ada perjanjian tingkat layanan (SLA) atau tujuan tingkat layanan (SLO) yang terlibat dalam peninjauan permintaan ini.

Batas penggunaan disk serentak untuk pelatihan

Jumlah disk virtual serentak untuk project standar akan diskalakan, berdasarkan histori penggunaan project Anda:

  • Total jumlah disk serentak: Mulai dari 4.000 GB untuk hard disk drive (HDD) standar dan 500 GB untuk solid state drive (SSD), diskalakan hingga nilai standar 180.000 GB untuk HDD dan 75.000 GB untuk SSD. Batas ini mewakili jumlah maksimum gabungan dari semua disk yang digunakan secara serentak, termasuk semua jenis mesin.

Disk yang Anda gunakan saat melatih model tidak dihitung sebagai disk untuk Compute Engine, dan kuota untuk AI Platform Training tidak memberi Anda akses ke instance virtual machine (VM) Compute Engine mana pun untuk kebutuhan komputasi lainnya. Jika ingin membuat VM Compute Engine, Anda harus meminta kuota Compute Engine

Langkah selanjutnya