Meningkatkan kecepatan traffic jaringan untuk node GPU

Standar

Halaman ini menunjukkan cara meningkatkan bandwidth jaringan untuk node GPU di cluster Google Kubernetes Engine (GKE) menggunakan NIC Virtual Google (gVNIC).

Sebelum memulai

Sebelum memulai, pastikan Anda telah menjalankan tugas berikut:

Aktifkan Google Kubernetes Engine API.

Aktifkan Google Kubernetes Engine API

Jika ingin menggunakan Google Cloud CLI untuk tugas ini, instal lalu initialize gcloud CLI. Jika sebelumnya Anda telah menginstal gcloud CLI, dapatkan versi terbaru dengan menjalankan gcloud components update.
Catatan: Untuk penginstalan gcloud CLI yang ada, pastikan untuk menyetel properti compute/region dan compute/zone. Dengan menetapkan lokasi default, Anda dapat menghindari error di gcloud CLI seperti berikut: One of [--zone, --region] must be supplied: Please specify location.

Batasan

Keterbatasan Compute Engine berlaku.
gVNIC API hanya didukung pada node GPU. Untuk meningkatkan bandwidth pada node non-GPU, pertimbangkan untuk mengaktifkan bandwidth Tingkat-1.

Persyaratan

Node GKE harus menggunakan image node Container-Optimized OS.

Mengaktifkan gVNIC

Anda dapat membuat cluster yang memiliki kumpulan node yang menggunakan gVNIC, membuat kumpulan node dengan gVNIC yang diaktifkan, atau memperbarui kumpulan node untuk menggunakan gVNIC.

Membuat cluster

Buat cluster dengan kumpulan node yang menggunakan gVNIC:

gcloud container clusters create CLUSTER_NAME \
    --accelerator type=GPU_TYPE,count=AMOUNT \
    --machine-type=MACHINE_TYPE \
    --enable-gvnic

Ganti kode berikut:

CLUSTER_NAME: nama cluster baru.
GPU_TYPE: jenis GPU. Dapat berupa salah satu dari berikut ini:
- nvidia-tesla-k80
- nvidia-tesla-p100
- nvidia-tesla-p4
- nvidia-tesla-v100
- nvidia-tesla-t4
- nvidia-tesla-a100
- nvidia-a100-80gb
- nvidia-l4
AMOUNT: jumlah GPU yang akan dipasang ke node di node pool.
MACHINE_TYPE: jenis mesin yang ingin Anda gunakan. gVNIC tidak didukung pada jenis mesin yang memorinya dioptimalkan.

Membuat node pool

Buat node pool yang menggunakan gVNIC:

gcloud container node-pools create NODEPOOL_NAME \
    --cluster=CLUSTER_NAME \
    --enable-gvnic

Ganti kode berikut:

NODEPOOL_NAME: nama node pool baru.
CLUSTER_NAME: nama cluster yang ada.

Memperbarui node pool

Update node pool untuk menggunakan gVNIC:

gcloud container node-pools update NODEPOOL_NAME \
    --cluster=CLUSTER_NAME \
    --enable-gvnic

Ganti kode berikut:

NODEPOOL_NAME: nama node pool yang ingin Anda perbarui.
CLUSTER_NAME: nama cluster yang ada.

Menonaktifkan gVNIC

Update kumpulan node menggunakan flag --no-enable-gvnic:

gcloud container node-pools update NODEPOOL_NAME \
    --cluster=CLUSTER_NAME \
    --no-enable-gvnic

Pemecahan masalah

Untuk memecahkan masalah gVNIC, lihat Memecahkan Masalah Google Virtual NIC.

Langkah selanjutnya

Gunakan logging kebijakan jaringan untuk merekam kapan koneksi ke Pod diizinkan atau ditolak oleh kebijakan jaringan cluster Anda.