Kode error 429

Jika jumlah permintaan Anda melebihi kapasitas yang dialokasikan untuk memproses permintaan, kode error 429 akan ditampilkan. Tabel berikut menampilkan pesan error yang dihasilkan oleh setiap jenis framework kuota:

Framework kuota Pesan
Bayar sesuai penggunaan Resource exhausted, please try again later.
Throughput yang Disediakan Too many requests. Exceeded the Provisioned Throughput.

Dengan langganan Provisioned Throughput, Anda dapat mencadangkan jumlah throughput untuk model AI generatif tertentu. Jika Anda tidak memiliki langganan Provisioned Throughput dan resource tidak tersedia untuk aplikasi Anda, kode error 429 akan ditampilkan. Meskipun tidak memiliki kapasitas yang direservasi, Anda dapat mencoba permintaan lagi. Namun, permintaan tersebut tidak dihitung dalam rasio error seperti yang dijelaskan dalam perjanjian tingkat layanan (SLA).

Untuk project yang telah membeli Provisioned Throughput, Vertex AI mengukur throughput project dan mencadangkan jumlah throughput tersebut agar tersedia. Jika Anda menggunakan kurang dari jumlah throughput yang dibeli, error yang mungkin ditampilkan sebagai 429 akan ditampilkan sebagai 5XX dan dihitung sebagai bagian dari rasio error yang dijelaskan dalam SLA.

Bayar sesuai penggunaan

Pada framework kuota bayar sesuai penggunaan, Anda memiliki opsi berikut untuk menyelesaikan error 429:

  • Terapkan strategi percobaan ulang menggunakan backoff eksponensial terpotong.
  • Jika Anda telah menetapkan penggantian konsumen dan mengonfigurasinya untuk mengontrol biaya, tingkatkan batasnya. Untuk mengetahui informasi selengkapnya, lihat Kuota bersama dinamis.
  • Berlangganan Provisioned Throughput untuk tingkat layanan yang lebih konsisten. Untuk mengetahui informasi selengkapnya, lihat Throughput yang Disediakan.

Langkah selanjutnya