Backoff eksponensial

Backoff eksponensial adalah strategi penanganan error standar untuk aplikasi jaringan, yang mana klien secara berkala mencoba ulang permintaan yang gagal dengan penundaan yang meningkat di antara permintaan. Klien harus menggunakan backoff eksponensial untuk semua permintaan ke Memorystore for Valkey yang menampilkan error kode respons HTTP 5xx dan 429.

Memahami cara kerja backoff eksponensial sangatlah penting jika Anda mem-build aplikasi klien yang menggunakan REST API Memorystore for Valkey secara langsung.

Jika Anda menggunakan konsol Google Cloud, konsol akan mengirim permintaan ke Memorystore untuk Valkey atas nama Anda dan menangani penundaan yang diperlukan.

Contoh algoritma

Algoritma backoff eksponensial mencoba ulang permintaan dengan meningkatkan waktu tunggu antar-percobaan ulang secara eksponensial hingga waktu backoff maksimum. Contohnya adalah:

  1. Buat permintaan ke Memorystore for Valkey.

  2. Jika permintaan gagal, tunggu 1 + random_number_milliseconds detik dan coba lagi permintaan tersebut.

  3. Jika permintaan gagal, tunggu 2 + random_number_milliseconds detik dan coba lagi permintaan tersebut.

  4. Jika permintaan gagal, tunggu 4 + random_number_milliseconds detik dan coba lagi permintaan tersebut.

  5. Dan seterusnya, hingga waktu maximum_backoff.

  6. Terus tunggu dan coba ulang hingga jumlah maksimum percobaan ulang, tetapi jangan tambah waktu tunggu antar-percobaan ulang.

dengan:

  • Waktu tunggu adalah min(((2^n)+random_number_milliseconds), maximum_backoff), dengan n bertambah 1 untuk setiap iterasi (permintaan).

  • random_number_milliseconds adalah jumlah acak milidetik yang kurang dari atau sama dengan 1.000. Hal ini membantu menghindari kasus saat banyak klien disinkronkan oleh beberapa situasi dan semua mencoba lagi sekaligus, sehingga mengirimkan permintaan dalam gelombang yang disinkronkan. Nilai random_number_milliseconds harus dihitung ulang setelah setiap permintaan percobaan ulang.

  • maximum_backoff biasanya 32 atau 64 detik. Nilai yang sesuai bergantung pada kasus penggunaan.

Anda dapat terus mencoba ulang setelah mencapai waktu maximum_backoff. Percobaan ulang setelah tahap ini tidak perlu terus meningkatkan waktu backoff. Misalnya, jika klien menggunakan waktu maximum_backoff 64 detik, setelah mencapai nilai ini, klien dapat mencoba lagi setiap 64 detik. Pada saat tertentu, klien seharusnya dicegah untuk mencoba ulang tanpa batas waktu.

Backoff maksimum dan jumlah maksimum percobaan ulang yang digunakan klien bergantung pada kasus penggunaan dan kondisi jaringan. Misalnya, klien seluler aplikasi mungkin perlu mencoba lagi lebih sering dan untuk interval yang lebih lama jika dibandingkan dengan klien desktop aplikasi yang sama.

Jika permintaan percobaan ulang gagal setelah melampaui jumlah maksimum percobaan ulang, laporkan atau catat error menggunakan salah satu metode yang tercantum di bagian Mendapatkan dukungan.