Menetapkan konkurensi

Pelajari cara menetapkan jumlah maksimum permintaan yang dapat diproses secara bersamaan oleh instance container tertentu dalam penayangan Knative. Pelajari konkurensi lebih lanjut.

Setiap perubahan konfigurasi akan menghasilkan revisi baru. Revisi selanjutnya juga akan otomatis mendapatkan setelan konfigurasi ini, kecuali jika Anda melakukan pembaruan eksplisit untuk mengubahnya.

Anda dapat mengonfigurasi setelan konkurensi menggunakan konsol Google Cloud, atau Google Cloud CLI saat men-deploy layanan baru atau memperbarui layanan yang ada dan men-deploy revisi:

Konsol

1. Buka penayangan Knative di konsol Google Cloud:

   Buka Inferensi Knative

2. Klik Buat Layanan jika Anda mengonfigurasi layanan baru yang akan di-deploy. Jika Anda mengonfigurasi layanan yang sudah ada, klik layanan tersebut, lalu klik Edit & Deploy New Revision.

3. Di bagian Setelan lanjutan, klik Penampung.

4. Tetapkan nilai konkurensi yang diinginkan di kotak teks Permintaan maksimum per penampung.

5. Klik Berikutnya untuk melanjutkan ke bagian berikutnya.

6. Di bagian Configure how this service is triggered, pilih konektivitas yang ingin Anda gunakan untuk memanggil layanan.

7. Klik Create untuk men-deploy image ke layanan Knative dan tunggu deployment selesai.

Command line

• Untuk layanan yang ada, tetapkan jumlah maksimum permintaan serentak dengan menjalankan perintah gcloud run services update dengan parameter --concurrency:

  gcloud run services update SERVICE --concurrency CONCURRENCY

  Ganti:

  • SERVICE dengan nama layanan Anda.
  • CONCURRENCY dengan jumlah maksimum permintaan serentak per instance container. Tentukan default untuk menghapus setelan konkurensi apa pun: --concurrency default.

• Untuk layanan baru, tetapkan jumlah maksimum permintaan serentak dengan menjalankan perintah gcloud run deploy dengan parameter --concurrency:

  gcloud run deploy SERVICE --image=IMAGE_URL --concurrency CONCURRENCY

  Ganti:

  • SERVICE dengan nama layanan Anda.
  • IMAGE_URL dengan referensi ke image container, misalnya, gcr.io/cloudrun/hello.
  • CONCURRENCY dengan jumlah maksimum permintaan serentak per instance container. Tentukan default untuk menghapus setelan konkurensi apa pun: --concurrency default.

YAML

Perhatian: Men-deploy perubahan konfigurasi menggunakan file YAML akan mengganti konfigurasi layanan yang ada. Karena file YAML sepenuhnya menimpa semua konfigurasi, Anda harus menghindari penggunaan beberapa metode untuk mengubah layanan. Misalnya, jangan gunakan file YAML bersama dengan konsol Google Cloud atau perintah gcloud.

Anda dapat mendownload konfigurasi layanan yang ada ke dalam file YAML dengan perintah gcloud run services describe menggunakan tanda --format=export. Kemudian, Anda dapat mengubah file YAML tersebut dan men-deploy perubahan tersebut dengan perintah gcloud run services replace. Anda harus memastikan bahwa Anda hanya mengubah atribut yang ditentukan.

1. Download konfigurasi layanan Anda ke file bernama service.yaml di ruang kerja lokal:

   gcloud run services describe SERVICE --format export > service.yaml

   Ganti SERVICE dengan nama layanan penayangan Knative Anda.

2. Di file lokal, perbarui atribut containerConcurrency:

   apiVersion: serving.knative.dev/v1
   kind: Service
   metadata:
     name: SERVICE
   spec:
     template:
       spec:
         containerConcurrency: CONCURRENCY

   Ganti:

   • SERVICE dengan nama layanan penayangan Knative Anda
   • CONCURRENCY dengan jumlah maksimum permintaan serentak per instance container. Tentukan default untuk menghapus setelan konkurensi: --concurrency default.

3. Ganti layanan dengan konfigurasi barunya menggunakan perintah berikut:

   gcloud run services replace service.yaml