Tentang startup workload yang lebih cepat dengan node mulai cepat

Halaman ini menunjukkan cara men-deploy dan menskalakan workload dengan lebih cepat di cluster Google Kubernetes Engine (GKE) menggunakan node mulai cepat. Node yang dimulai dengan cepat digunakan di GKE dengan mode Autopilot berdasarkan upaya terbaik saat workload menggunakan konfigurasi yang kompatibel.

Node GKE yang dimulai dengan cepat memiliki waktu mulai yang jauh lebih rendah untuk kelompok mesin yang kompatibel. Waktu startup yang dipercepat memberi Anda manfaat berikut:

  • Start cold yang lebih cepat
  • Penskalaan otomatis yang lebih cepat
  • Latensi ekor panjang penjadwalan Pod yang ditingkatkan
  • Peningkatan efisiensi biaya infrastruktur

Dengan node yang dimulai dengan cepat, GKE melakukan pra-inisialisasi resource hardware untuk mempercepat waktu mulai. Resource yang telah diinisialisasi sebelumnya tersedia berdasarkan upaya terbaik. Permintaan lonjakan mungkin hanya ditayangkan sebagian. Tanpa node mulai cepat, resource diinisialisasi sesuai permintaan, dan node ditayangkan pada waktu mulai normal.

Persyaratan

Node yang dimulai dengan cepat tidak memerlukan konfigurasi tambahan. GKE secara otomatis menggunakan node mulai cepat jika workload Anda menggunakan konfigurasi yang kompatibel. Anda harus memenuhi semua persyaratan berikut untuk menggunakan node mulai cepat:

  • Gunakan cluster Autopilot.
  • Gunakan versi apa pun di saluran rilis Cepat.

  • Gunakan salah satu sumber daya komputasi yang kompatibel berikut, dengan ukuran disk boot yang kompatibel maksimum 500 GiB:

  • Gunakan jenis boot disk pd-balanced.

  • Jangan gunakan fitur yang tidak kompatibel dengan node yang dimulai cepat. Untuk mengetahui informasi selengkapnya, lihat Batasan.

Batasan

Fitur berikut tidak kompatibel dengan node GKE yang dimulai dengan cepat. Jika Anda menggunakan salah satu fitur ini, GKE akan menyediakan node dengan waktu mulai yang umum:

Workload GPU Autopilot

Meminta GPU yang kompatibel di cluster Autopilot Anda akan menghasilkan waktu mulai node hingga empat kali lebih cepat dan waktu penjadwalan Pod hingga dua kali lebih cepat daripada permintaan serupa di cluster Standard GKE, karena workload GPU Autopilot dapat menggunakan node yang mulai dengan cepat.

Berikut adalah beberapa contoh kasus penggunaan. Namun, Pod apa pun yang memenuhi kondisi dari bagian Persyaratan kompatibel dengan node yang dimulai dengan cepat.

ComputeClass

Minta jenis dan jumlah akselerator yang kompatibel di ComputeClass, seperti dalam contoh berikut:

apiVersion: cloud.google.com/v1
kind: ComputeClass
metadata:
  name: ACCELERATOR_COMPUTE_CLASS_NAME
spec:
  priorities:
  - gpu:
      type: ACCELERATOR_TYPE
      count: ACCELERATOR_COUNT
  nodePoolAutoCreation:
    enabled: true

Saat Anda memilih ComputeClass ini di Pod, seperti dalam contoh berikut, GKE menggunakan node mulai cepat:

apiVersion: v1
kind: Pod
metadata:
  name: POD_NAME
spec:
  nodeSelector:
    # Select a ComputeClass that requests compatible GPUs
    cloud.google.com/compute-class: ACCELERATOR_COMPUTE_CLASS_NAME
  containers:
  - name: my-container
    image: gcr.io/google_containers/pause
    resources:
      limits:
        nvidia.com/gpu: ACCELERATOR_COUNT

Ganti nilai berikut:

  • ACCELERATOR_COMPUTE_CLASS_NAME: nama ComputeClass yang meminta akselerator.
  • ACCELERATOR_TYPE: jenis akselerator.
  • ACCELERATOR_COUNT: jumlah akselerator yang diperlukan oleh Pod. Nilai ini harus kurang dari atau sama dengan nilai di kolom spec.priorities.gpu.count di ComputeClass.
  • POD_NAME: nama Pod Anda.

Untuk mengetahui informasi selengkapnya tentang ComputeClass, lihat Tentang class komputasi kustom.

Spesifikasi pod

Pilih jenis dan jumlah akselerator yang kompatibel dalam spesifikasi Pod Anda, seperti dalam contoh berikut:

apiVersion: v1
kind: Pod
metadata:
  name: POD_NAME
spec:
  nodeSelector:
    cloud.google.com/gke-accelerator: ACCELERATOR_NAME
  containers:
  - name: my-container
    image: gcr.io/google_containers/pause
    resources:
      limits:
        nvidia.com/gpu: ACCELERATOR_COUNT

Ganti nilai berikut:

  • POD_NAME: nama Pod Anda.
  • ACCELERATOR_NAME: nama akselerator yang diperlukan oleh Pod.
  • ACCELERATOR_COUNT: jumlah akselerator yang diperlukan oleh Pod.

Harga

Node yang dimulai dengan cepat tersedia di GKE Autopilot tanpa biaya tambahan. Untuk mengetahui informasi selengkapnya tentang harga GKE Autopilot, lihat bagian mode Autopilot di Harga Google Kubernetes Engine.

Langkah berikutnya