Mengonfigurasi alokasi CPU

Pelajari cara menentukan jumlah CPU yang akan dialokasikan untuk setiap instance container penayangan Knative. Secara default, inferensi Knative tidak menentukan jumlah CPU minimum atau maksimum. Sebaliknya, layanan Anda dibatasi oleh jumlah resource yang tersedia. Pelajari resource CPU lebih lanjut di kontrak runtime container.

Menyetel dan mengupdate alokasi CPU

Setiap perubahan konfigurasi akan menghasilkan revisi baru. Revisi selanjutnya juga akan otomatis mendapatkan setelan konfigurasi ini, kecuali jika Anda melakukan pembaruan eksplisit untuk mengubahnya.

Anda dapat menetapkan alokasi CPU menggunakan Konsol Google Cloud, Google Cloud CLI, atau file YAML saat men-deploy layanan baru atau mengupdate layanan yang ada dan men-deploy revisi:

Konsol

1. Buka penayangan Knative di konsol Google Cloud:

   Buka penayangan Knative

2. Klik Buat Layanan jika Anda mengonfigurasi layanan baru yang akan di-deploy. Jika Anda mengonfigurasi layanan yang ada, klik layanan, lalu klik Edit & Deploy New revision.

3. Di bagian Setelan lanjutan, klik Penampung.

4. Pilih alokasi CPU yang diinginkan dari daftar dropdown. Anda dapat memilih angka di unit CPU Kubernetes. Misalnya, tentukan 1 untuk 1 CPU, 400m untuk CPU 0,4, dan seterusnya.

5. Klik Berikutnya untuk melanjutkan ke bagian berikutnya.

6. Di bagian Configure bagaimana layanan ini dipicu, pilih konektivitas yang ingin Anda gunakan untuk memanggil layanan.

7. Klik Create untuk men-deploy image ke penayangan Knative dan tunggu hingga deployment selesai.

Command line

• Untuk layanan yang ada, tetapkan jumlah CPU yang akan dialokasikan dengan menjalankan perintah gcloud run services update dengan parameter --cpu:

  gcloud run services update SERVICE --cpu CPU
  

  Ganti:

  • SERVICE dengan nama layanan Anda.
  • CPU dengan alokasi CPU yang diinginkan. Menentukan nilai dalam unit CPU Kubernetes. Misalnya, tentukan 1 untuk 1 CPU, 400m untuk CPU 0,4, dan seterusnya.

• Untuk layanan baru, tetapkan jumlah CPU yang akan dialokasikan dengan menjalankan perintah gcloud run deploy dengan parameter --cpu:

  gcloud run deploy SERVICE --image=IMAGE_URL --cpu CPU
  

  Ganti:

  • SERVICE dengan nama layanan Anda.
  • IMAGE_URL dengan mereferensikan ke image container, misalnya, gcr.io/cloudrun/hello.
  • CPU dengan alokasi CPU yang diinginkan. Menentukan nilai dalam unit CPU Kubernetes. Misalnya, tentukan 1 untuk 1 CPU, 400m untuk CPU 0,4, dan seterusnya.

YAML

Perhatian: Men-deploy perubahan konfigurasi menggunakan file YAML akan mengganti konfigurasi layanan yang ada. Karena file YAML sepenuhnya menimpa semua konfigurasi, Anda harus menghindari penggunaan beberapa metode untuk mengubah layanan. Misalnya, jangan gunakan file YAML bersama dengan konsol Google Cloud atau perintah gcloud.

Anda dapat mendownload konfigurasi layanan yang ada ke dalam file YAML menggunakan perintah gcloud run services describe menggunakan flag --format=export. Anda kemudian dapat memodifikasi file YAML dan men-deploy perubahan tersebut dengan perintah gcloud run services replace. Anda harus memastikan bahwa Anda hanya mengubah atribut yang ditentukan.

1. Download konfigurasi layanan Anda ke file bernama service.yaml di ruang kerja lokal:

   gcloud run services describe SERVICE --format export > service.yaml

   Ganti SERVICE dengan nama layanan penayangan Knative Anda.

2. Di file lokal Anda, perbarui atribut cpu:

   apiVersion: serving.knative.dev/v1
   kind: Service
   metadata:
     name: SERVICE
   spec:
     template:
       spec:
         containers:
         - image: IMAGE
           resources:
             limits:
               cpu: CPU

   Ganti

   • SERVICE dengan nama layanan penayangan Knative Anda
   • IMAGE dengan URL image container Anda.
   • CPU dengan nilai CPU yang diinginkan. Tentukan nilai dalam unit CPU Kubernetes. Misalnya, tentukan 1 untuk 1 CPU, 400m untuk CPU 0,4, dan seterusnya.

3. Ganti layanan dengan konfigurasi baru menggunakan perintah berikut:

   gcloud run services replace service.yaml