Menyiapkan pengelolaan traffic untuk Load Balancer Aplikasi eksternal global

Dokumen ini menunjukkan contoh penggunaan pengelolaan traffic untuk beberapa kasus penggunaan tertentu. Banyak kasus penggunaan lainnya yang dapat terjadi.

Dokumen ini berisi contoh untuk Load Balancer Aplikasi eksternal global. Load Balancer Aplikasi eksternal global menggunakan skema load balancing EXTERNAL_MANAGED dan komponen load balancing global, seperti aturan penerusan, peta URL, dan layanan backend.

Untuk mengetahui informasi tentang pengelolaan traffic dengan Load Balancer Aplikasi klasik, baca Ringkasan pengelolaan traffic untuk Load Balancer Aplikasi klasik.

Untuk mengetahui informasi tentang pengelolaan traffic dengan Load Balancer Aplikasi eksternal regional, baca Ringkasan pengelolaan traffic untuk Load Balancer Aplikasi eksternal regional.

Selain fitur perutean lanjutan yang dijelaskan di halaman ini, Load Balancer Aplikasi tertentu terintegrasi dengan Ekstensi Layanan untuk memungkinkan Anda memasukkan logika kustom ke jalur data load balancing dengan mengonfigurasi info Ekstensi Layanan.

Sebelum memulai

Pastikan Anda memahami cara kerja pengelolaan traffic. Untuk informasi selengkapnya, baca Ringkasan pengelolaan traffic untuk Load Balancer Aplikasi eksternal global.

Mengonfigurasi dan menguji pengelolaan traffic

Dalam lingkungan konfigurasi yang Anda pilih, Anda dapat menyiapkan pengelolaan traffic menggunakan konfigurasi YAML. Peta URL dan layanan backend masing-masing memiliki file YAMLnya sendiri. Bergantung pada fungsionalitas yang diinginkan, Anda harus menulis file YAML peta URL, file YAML layanan backend, atau keduanya.

Untuk membantu menulis file YAML ini, Anda dapat menggunakan contoh di halaman ini dan dokumentasi Cloud Load Balancing API.

Konsol Google Cloud tidak didukung.

Dokumentasi API peta URL global dan API layanan backend global menyediakan daftar lengkap kolom, termasuk semantik terkait hubungan, pembatasan, dan kardinalitas.

Anda dapat menambahkan pengujian konfigurasi ke peta URL untuk memastikan rute peta URL Anda meminta rute sebagaimana mestinya. Anda dapat bereksperimen dengan berbagai aturan peta URL dan menjalankan pengujian sebanyak yang diperlukan untuk memastikan bahwa peta merutekan traffic ke layanan backend atau bucket backend yang sesuai. Untuk mengetahui detailnya, lihat Menambahkan pengujian ke peta URL. Jika Anda ingin menguji perubahan baru pada peta URL tanpa benar-benar men-deploy peta, lihat bagian Memvalidasi konfigurasi peta URL.

Memetakan traffic ke satu layanan

Mengirim semua traffic ke satu layanan. Pastikan untuk mengganti placeholder.

    defaultService: global/backendServices/BACKEND_SERVICE_1
    hostRules:
    - hosts:
      - '*'
      pathMatcher: matcher1
    name: URL_MAP_NAME
    pathMatchers:
    - defaultService: global/backendServices/BACKEND_SERVICE_1
      name: matcher1
      routeRules:
      - matchRules:
        - prefixMatch: /PREFIX
        priority: PRIORITY  # 0 is highest
        routeAction:
          weightedBackendServices:
          - backendService: global/backendServices/BACKEND_SERVICE_1
            weight: 100

Membagi traffic antara dua layanan

Memisahkan traffic antara dua atau beberapa layanan. Pastikan untuk mengganti placeholder.

   defaultService: global/backendServices/BACKEND_SERVICE_1
   hostRules:
   - hosts:
     - '*'
     pathMatcher: matcher1
   name: URL_MAP_NAME
   pathMatchers:
   - defaultService: global/backendServices/BACKEND_SERVICE_1
     name: matcher1
     routeRules:
     - matchRules:
       - prefixMatch: /PREFIX
       priority: 2
       routeAction:
         weightedBackendServices:
         - backendService: global/backendServices/BACKEND_SERVICE_1
           weight: 95
         - backendService: global/backendServices/BACKEND_SERVICE_2
           weight: 5

Mengonfigurasi pengalihan URL

Contoh berikut menampilkan kode respons 3xx yang dapat dikonfigurasi. Contoh tersebut juga menetapkan header respons Location dengan URI yang sesuai, sehingga menggantikan host dan jalur seperti yang ditentukan dalam tindakan pengalihan.

   defaultService: global/backendServices/BACKEND_SERVICE_1
   name: global-lb-map
   hostRules:
   - hosts:
     - '*'
     pathMatcher: matcher1
   pathMatchers:
   - defaultService: global/backendServices/BACKEND_SERVICE_1
     name: matcher1
     routeRules:
       - matchRules:
           - prefixMatch: /PREFIX
         priority: PRIORITY  # 0 is highest
         urlRedirect:
           hostRedirect: "new-host-name.com" # Omit to keep the requested host
           pathRedirect: "/new-path" # Omit to keep the requested path; mutually exclusive to prefixRedirect
           prefixRedirect: "/newPrefix" # Omit to keep the requested path; mutually exclusive to pathRedirect
           redirectResponseCode: FOUND
           stripQuery: True

Duplikasi traffic

Selain meneruskan permintaan ke layanan backend yang dipilih, Anda dapat mengirim permintaan yang identik ke layanan backend mirror yang dikonfigurasi secara aktif dan lupakan. Load balancer tidak menunggu respons dari backend tempat ia mengirimkan permintaan yang dicerminkan. Pencerminan berguna untuk menguji versi baru dari layanan backend. Anda juga dapat menggunakannya untuk men-debug error produksi pada versi debug layanan backend, bukan pada versi produksi.

   defaultService: global/backendServices/BACKEND_SERVICE_1
   name: global-lb-map
   hostRules:
   - hosts:
     - '*'
     pathMatcher: matcher1
   pathMatchers:
   - defaultService: global/backendServices/BACKEND_SERVICE_1
     name: matcher1
     routeRules:
       - matchRules:
           - prefixMatch: /PREFIX
         priority: PRIORITY  # 0 is highest
         routeAction:
           weightedBackendServices:
             - backendService: global/backendServices/BACKEND_SERVICE_1
               weight: 100
           requestMirrorPolicy:
             backendService: global/backendServices/BACKEND_SERVICE_2

Pencerminan traffic hanya didukung dalam kasus berikut:

• Kedua layanan backend memiliki backend grup instance. Jenis backend lainnya tidak didukung.
• Permintaan HTTP tidak memiliki isi.

Pencerminan tidak dapat dikonfigurasi hanya untuk bagian permintaan tertentu. Meskipun Anda membagi traffic antara beberapa layanan backend berbobot, layanan backend mirror akan menerima semua permintaan. Namun, Anda dapat menggunakan header kustom untuk mencatat layanan backend mana yang digunakan untuk menayangkan permintaan asli. Contoh berikut menambahkan header kustom yang disebut x-weighted-picked-backend ke semua permintaan klien. Untuk nilai header, gunakan nama layanan backend yang menayangkan permintaan asli.

   defaultService: global/backendServices/BACKEND_SERVICE_1
   name: global-lb-map
   hostRules:
   - hosts:
     - '*'
     pathMatcher: matcher1
   pathMatchers:
   - defaultService: global/backendServices/BACKEND_SERVICE_1
     name: matcher1
     routeRules:
       - matchRules:
           - prefixMatch: /PREFIX
         priority: PRIORITY  # 0 is highest
         routeAction:
           weightedBackendServices:
            - backendService: global/backendServices/BACKEND_SERVICE_1
              weight: 95
              headerAction:
                requestHeadersToAdd:
                - headerName: x-weighted-picked-backend
                  headerValue: BACKEND_SERVICE_1
                  replace: True
            - backendService: global/backendServices/BACKEND_SERVICE_2
              weight: 5
              headerAction:
                requestHeadersToAdd:
                - headerName: x-weighted-picked-backend
                  headerValue: BACKEND_SERVICE_2
                  replace: True
           requestMirrorPolicy:
             backendService: global/backendServices/BACKEND_SERVICE_3

Tulis ulang URL yang diminta

Tulis ulang bagian nama host URL, bagian jalur URL, atau keduanya, sebelum mengirim permintaan ke layanan backend yang dipilih. Pastikan untuk mengganti placeholder.

   defaultService: global/backendServices/BACKEND_SERVICE_1
   name: global-lb-map
   hostRules:
   - hosts:
     - '*'
     pathMatcher: matcher1
   pathMatchers:
   - defaultService: global/backendServices/BACKEND_SERVICE_1
     name: matcher1
     routeRules:
       - matchRules:
           - prefixMatch: /PREFIX
         priority: PRIORITY  # 0 is highest
         routeAction:
           weightedBackendServices:
             - backendService: global/backendServices/BACKEND_SERVICE_1
               weight: 100
           urlRewrite:
             hostRewrite: "new-host-name.com" # Omit to keep the requested host
             pathPrefixRewrite: "/new-path/" # Omit to keep the requested path

Mencoba lagi permintaan

Konfigurasikan kondisi saat load balancer mencoba ulang permintaan yang gagal, lamanya load balancer menunggu sebelum mencoba ulang, dan jumlah maksimum percobaan ulang yang diizinkan.

   defaultService: global/backendServices/BACKEND_SERVICE_1
   name: global-lb-map
   hostRules:
   - hosts:
     - '*'
     pathMatcher: matcher1
   pathMatchers:
   - defaultService: global/backendServices/BACKEND_SERVICE_1
     name: matcher1
     routeRules:
       - matchRules:
           - prefixMatch: /PREFIX
         priority: PRIORITY  # 0 is highest
         routeAction:
           weightedBackendServices:
             - backendService: global/backendServices/BACKEND_SERVICE_1
               weight: 100
           retryPolicy:
             retryConditions: 502, 504
             numRetries: 3
             perTryTimeout:
               seconds: 1
               nanos: 500000000

Menentukan waktu tunggu rute

Menentukan waktu tunggu untuk rute yang dipilih. Waktu tunggu dihitung sejak permintaan diproses sepenuhnya hingga respons diproses sepenuhnya. Waktu tunggu mencakup semua percobaan ulang. Pastikan untuk mengganti placeholder.

   defaultService: global/backendServices/BACKEND_SERVICE_1
   name: global-lb-map
   hostRules:
   - hosts:
     - '*'
     pathMatcher: matcher1
   pathMatchers:
   - defaultService: global/backendServices/BACKEND_SERVICE_1
     name: matcher1
     routeRules:
       - matchRules:
           - prefixMatch: /PREFIX
         priority: PRIORITY  # 0 is highest
         routeAction:
           weightedBackendServices:
             - backendService: global/backendServices/BACKEND_SERVICE_1
               weight: 100
           timeout:
             seconds: 30
             nanos: 0

Mengonfigurasi injeksi kesalahan

Membuat error saat melayani permintaan untuk menyimulasikan kegagalan, termasuk latensi tinggi, kelebihan beban layanan, kegagalan layanan, dan partisi jaringan. Fitur ini berguna untuk menguji ketahanan layanan terhadap kesalahan yang disimulasikan.

   defaultService: global/backendServices/BACKEND_SERVICE_1
   name: global-lb-map
   hostRules:
   - hosts:
     - '*'
     pathMatcher: matcher1
   pathMatchers:
   - defaultService: global/backendServices/BACKEND_SERVICE_1
     name: matcher1
     routeRules:
       - matchRules:
           - prefixMatch: /PREFIX
         priority: PRIORITY  # 0 is highest
         routeAction:
           weightedBackendServices:
             - backendService: global/backendServices/BACKEND_SERVICE_1
               weight: 100
           faultInjectionPolicy:
             delay:
               fixedDelay:
                 seconds: 10
                 nanos: 0
               percentage: 25
             abort:
               httpStatus: 503
               percentage: 50

Konfigurasi CORS

Konfigurasi kebijakan berbagi resource lintas asal (CORS) untuk menangani setelan guna menerapkan permintaan CORS.

   defaultService: global/backendServices/BACKEND_SERVICE_1
   name: global-lb-map
   hostRules:
   - hosts:
     - '*'
     pathMatcher: matcher1
   pathMatchers:
   - defaultService: global/backendServices/BACKEND_SERVICE_1
     name: matcher1
     routeRules:
       - matchRules:
           - prefixMatch: /PREFIX
         priority: PRIORITY  # 0 is highest
         routeAction:
           weightedBackendServices:
             - backendService: global/backendServices/BACKEND_SERVICE_1
               weight: 100
           corsPolicy:
               allowOrigins: [ "http://my-domain.com" ]
               allowMethods: [ "GET", "POST" ]
               allowHeaders: [ "Authorization", "Content-Type" ]
               maxAge: 1200
               allowCredentials: true

Menambahkan dan menghapus header permintaan dan respons

Catatan: Kami mengumumkan perubahan perilaku untuk header kustom yang dikonfigurasi di peta URL dan layanan backend. Perubahan ini tidak memengaruhi project yang memiliki traffic lama yang menggunakan header kustom sebelum 14 November 2022. Untuk mengetahui detailnya, lihat catatan rilis untuk 14 November 2022.

Tambahkan dan hapus header permintaan sebelum mengirim permintaan ke layanan backend. Selain itu, tambahkan dan hapus header respons setelah menerima respons dari layanan backend.

Ada batasan pada nilai yang valid untuk headerName dan headerValue. Untuk mengetahui detailnya, lihat Cara kerja header kustom.

   defaultService: global/backendServices/BACKEND_SERVICE_1
   name: global-lb-map
   hostRules:
   - hosts:
     - '*'
     pathMatcher: matcher1
   pathMatchers:
   - defaultService: global/backendServices/BACKEND_SERVICE_1
     name: matcher1
     routeRules:
       - matchRules:
           - prefixMatch: /PREFIX
         priority: PRIORITY  # 0 is highest
         routeAction:
           weightedBackendServices:
             - backendService: global/backendServices/BACKEND_SERVICE_1
               headerAction:
                 requestHeadersToAdd:
                 - headerName: header-1-name
                   headerValue: header-1-value
                   replace: True
                 requestHeadersToRemove:
                 - header-2-name
                 - header-3-name
                 responseHeadersToAdd:
                 - headerName: header-4-name
                   headerValue: header-4-value
                   replace: True
                responseHeadersToRemove:
                - header-5-name
                - header-6-name

Konfigurasi deteksi pencilan

Tentukan kriteria untuk mengeluarkan VM backend atau endpoint yang tidak responsif dalam NEG, beserta kriteria yang menentukan kapan backend atau endpoint dianggap cukup responsif untuk menerima traffic lagi. Pastikan untuk mengganti {i>placeholder<i}.

    loadBalancingScheme: EXTERNAL_MANAGED
    localityLbPolicy: RANDOM
    name: global/backendServices/BACKEND_SERVICE_1
    outlierDetection:
      baseEjectionTime:
        nanos: 0
        seconds: 30
      consecutiveErrors: 5
      consecutiveGatewayFailure: 3
      enforcingConsecutiveErrors: 2
      enforcingConsecutiveGatewayFailure: 100
      enforcingSuccessRate: 100
      interval:
        nanos: 0
        seconds: 1
      maxEjectionPercent: 50
      successRateMinimumHosts: 5
      successRateRequestVolume: 100
      successRateStdevFactor: 1900

Siapkan pembagian traffic: langkah-langkah mendetail

Catatan: Jangan konfigurasi afinitas sesi jika Anda menggunakan pemisahan traffic berbobot. Jika Anda melakukannya, konfigurasi pemisahan traffic berbobot akan diprioritaskan.

Contoh ini menunjukkan langkah-langkah berikut:

1. Buat template yang berbeda untuk layanan yang berbeda-beda.

2. Buat grup instance untuk template tersebut.

3. Buat aturan pemilihan rute yang menyiapkan pemisahan traffic 95% / 5%.

4. Kirim perintah curl yang menunjukkan bahwa persentase pemisahan traffic kurang lebih sama dengan konfigurasi.

Petunjuk ini mengasumsikan hal berikut:

• Proxy dan aturan penerusan target telah dibuat, beserta peta URL bernama global-lb-map.

• Peta URL mengirimkan semua traffic ke satu layanan backend, yang disebut red-service, yang merupakan layanan backend default.

• Anda menyiapkan jalur alternatif yang mengirimkan 5% traffic ke blue-service dan 95% traffic ke green-service.

• Pencocok jalur digunakan.

• Anda menggunakan Cloud Shell atau lingkungan lain yang telah menginstal bash.

Menentukan layanan

Fungsi bash berikut membuat layanan backend, termasuk template instance dan grup instance terkelola.

Petunjuk ini mengasumsikan bahwa health check HTTP (global-lb-basic-check) telah dibuat. Untuk mendapatkan petunjuk, lihat salah satu halaman berikut:

• Menyiapkan Load Balancer Aplikasi eksternal global dengan backend Compute Engine
• Menyiapkan Load Balancer Aplikasi eksternal global dengan bucket backend
• Menyiapkan Load Balancer Aplikasi eksternal global dengan konektivitas hibrid
• Menyiapkan Load Balancer Aplikasi eksternal global dengan Cloud Run, App Engine, atau Cloud Functions

function make_service() {
  local name="$1"
  local region="$2"
  local zone="$3"
  local network="$4"
  local subnet="$5"
  local subdir="$6"

  www_dir="/var/www/html/$subdir"

  (set -x; \
  gcloud compute instance-templates create "${name}-template" \
    --region="$region" \
    --network="$network" \
    --subnet="$subnet" \
    --tags=allow-ssh,load-balanced-backend \
    --image-family=debian-10 \
    --image-project=debian-cloud \
    --metadata=startup-script="#! /bin/bash
  apt-get update
  apt-get install apache2 -y
  a2ensite default-ssl
  a2enmod ssl
  sudo mkdir -p $www_dir
  /bin/hostname | sudo tee ${www_dir}index.html
  systemctl restart apache2"; \
  gcloud compute instance-groups managed create \
    "${name}-instance-group" \
    --zone="$zone" \
    --size=2 \
    --template="${name}-template"; \
  gcloud compute backend-services create "${name}-service" \
    --load-balancing-scheme=EXTERNAL_MANAGED \
    --protocol=HTTP \
    --health-checks=global-lb-basic-check \
    --global \
  gcloud compute backend-services add-backend "${name}-service" \
    --balancing-mode='UTILIZATION' \
    --instance-group="${name}-instance-group" \
    --instance-group-zone="$zone" \
    --global)
}

Membuat layanan

Panggil fungsi untuk membuat tiga layanan, red, green, dan blue. Layanan red bertindak sebagai layanan default untuk permintaan ke /. Layanan green dan blue disiapkan di /prefix untuk menangani 95% dan 5% traffic.

make_service red us-west1 us-west1-a lb-network backend-subnet ""
make_service green us-west1 us-west1-a lb-network backend-subnet /prefix
make_service blue us-west1 us-west1-a lb-network backend-subnet /prefix

Membuat peta URL

Konsol

1. Buka halaman Load balancing di Konsol Google Cloud.
   Buka Load balancing
2. Klik link global-lb-map.
3. Klik Edit .

Mengonfigurasi aturan pemilihan rute baru

1. Di bagian Aturan pemilihan rute, pilih Host, jalur, dan aturan rute lanjutan.
2. Di bagian New hosts and path matcher, buat tindakan default dengan menetapkan Service ke red-service.
3. Klik Done.
4. Klik Add hosts and path matcher.
5. Di kolom Host, masukkan alamat IP aturan penerusan load balancer Anda.

6. Tempel konten YAML berikut ke dalam kotak Path matcher:

   defaultService: global/backendServices/red-service
   name: matcher1
   routeRules:
   - priority: 2
     matchRules:
       - prefixMatch: /PREFIX
     routeAction:
       weightedBackendServices:
         - backendService: global/backendServices/green-service
           weight: 95
         - backendService: global/backendServices/blue-service
           weight: 5
   

7. Klik Done.

8. Klik Perbarui.

gcloud

1. Ekspor peta URL yang ada menggunakan perintah gcloud compute url-maps export:

   gcloud compute url-maps export global-lb-map \
     --destination=global-lb-map-config.yaml \
     --global
   

2. Update file peta URL global-lb-map-config.yaml dengan menambahkan ini ke akhir file:

   hostRules:
   - hosts:
     - '*'
     pathMatcher: matcher1
   pathMatchers:
   - defaultService: global/backendServices/red-service
     name: matcher1
     routeRules:
     - priority: 2
       matchRules:
         - prefixMatch: /PREFIX
       routeAction:
         weightedBackendServices:
           - backendService: global/backendServices/green-service
             weight: 95
           - backendService: global/backendServices/blue-service
             weight: 5
   

3. Perbarui peta URL menggunakan perintah gcloud compute url-maps import:

   gcloud compute url-maps import global-lb-map \
      --global \
      --source=global-lb-map-config.yaml
   

Menguji konfigurasi

Untuk menguji konfigurasi ini, pastikan terlebih dahulu bahwa permintaan ke alamat IP load balancer yang disiapkan sebelumnya ditangani oleh konfigurasi red default.

Kemudian, periksa untuk memastikan permintaan yang dikirim ke FORWARDING_RULE_IP_ADDRESS/prefix dibagi seperti yang diharapkan.

Siapkan afinitas sesi berdasarkan HTTP_COOKIE

Kontrol traffic memungkinkan Anda mengonfigurasi afinitas sesi berdasarkan cookie yang disediakan. Untuk mengonfigurasi afinitas sesi berbasis HTTP_COOKIE bagi layanan backend bernama red-service, ikuti petunjuk berikut.

1. Gunakan perintah gcloud compute backend_services export untuk mendapatkan konfigurasi layanan backend.

   gcloud compute backend-services export red-service \
       --destination=red-service-config.yaml \
       --global
   

2. Update file red-service-config.yaml sebagai berikut:

   sessionAffinity: 'HTTP_COOKIE'
   localityLbPolicy: 'RING_HASH'
   consistentHash:
    httpCookie:
     name: 'http_cookie'
     path: '/cookie_path'
     ttl:
       seconds: 100
       nanos: 0
    minimumRingSize: 10000
   

3. Dalam file red-service-config.yaml, hapus baris berikut:

   sessionAffinity: NONE
   

4. Perbarui file konfigurasi layanan backend:

   gcloud compute backend-services import red-service \
       --source=red-service-config.yaml \
       --global
   

Pemecahan masalah

Gunakan informasi ini untuk memecahkan masalah saat lalu lintas tidak dirutekan sesuai dengan aturan rute dan kebijakan lalu lintas yang dikonfigurasi.

Untuk mengetahui informasi tentang logging dan pemantauan, lihat logging dan pemantauan HTTP(S) Eksternal.

Gejala:

• Peningkatan traffic ke layanan pada aturan di atas aturan yang dimaksud.
• Peningkatan tidak terduga pada respons HTTP 4xx dan 5xx untuk aturan rute tertentu.

Solusi: Periksa urutan aturan rute Anda. Aturan rute ditafsirkan dalam urutan yang ditentukan.

Aturan rute dalam peta URL ditafsirkan dalam urutan yang ditentukan. Cara ini berbeda dengan cara aturan jalur ditafsirkan oleh pencocokan awalan terpanjang. Untuk aturan jalur, Load Balancer Aplikasi eksternal global hanya memilih satu aturan jalur. Namun, saat Anda menggunakan aturan rute, mungkin lebih dari satu aturan yang berlaku.

Saat Anda menentukan aturan rute, pastikan bahwa aturan di bagian atas daftar tidak mengarahkan traffic secara tidak sengaja yang tadinya akan dirutekan melalui aturan rute berikutnya. Layanan yang menerima lalu lintas yang salah arah kemungkinan akan menolak permintaan, dan layanan di aturan rute Anda akan menerima pengurangan lalu lintas atau tidak ada lalu lintas sama sekali.

Langkah selanjutnya

• Bersihkan penyiapan load balancer.