Ringkasan API pemilihan rute layanan Cloud Service Mesh

Dokumen ini ditujukan untuk administrator mesh atau platform dan developer layanan yang memiliki tingkat pemahaman sedang hingga lanjut tentang konsep Cloud Service Mesh dan service mesh serta yang men-deploy Cloud Service Mesh di Compute Engine dengan instance VM. Dokumen ini berlaku untuk deployment yang menggunakan klien Envoy dan gRPC. Untuk informasi selengkapnya tentang konsep Cloud Service Mesh, lihat ringkasan umum.

Cloud Service Mesh menyediakan kemampuan jaringan layanan ke aplikasi Anda, termasuk pengelolaan traffic, kemampuan observasi, dan keamanan lanjutan. Namun, mengonfigurasi dan mengoperasikan mesh layanan adalah tugas yang kompleks bagi administrator mesh dan developer layanan.

Dokumen ini menjelaskan API perutean layanan untuk mengonfigurasi Cloud Service Mesh. API ini dirancang untuk menyederhanakan dan meningkatkan pengalaman konfigurasi mesh secara keseluruhan.

Model pemilihan rute layanan menggunakan resource API yang disebut Mesh, Gateway, dan Route. Resource ini memberikan pengalaman konfigurasi yang relevan secara kontekstual saat Anda menentukan bidang kontrol jaringan layanan.

Dokumen ini memperkenalkan model dan resource API pemilihan rute layanan berikut.

  • Meshresource
    • Konfigurasi keamanan dan pengelolaan traffic layanan ke layanan (east-west) untuk proxy sidecar Envoy dan klien gRPC tanpa proxy.

  • Gatewayresource

    • Konfigurasi keamanan dan pengelolaan traffic untuk proxy Envoy yang bertindak sebagai gateway masuk, yang memungkinkan klien eksternal terhubung ke service mesh (north-south).

  • Resource Route dengan jenis berikut:

Konsol Google Cloud tidak memberikan dukungan untuk API pemilihan rute layanan. Anda harus menerapkan resource API ini menggunakan Google Cloud CLI atau REST API.

Kasus penggunaan dan manfaat

API perutean layanan memungkinkan Anda mengonfigurasi Cloud Service Mesh untuk deployment proxy gRPC dan Envoy tanpa proxy. Model API pemilihan rute layanan memungkinkan beberapa manfaat utama.

Dalam diagram berikut, dua layanan di mesh layanan terhubung oleh resource Mesh. Dua resource HTTPRoute mengonfigurasi perutean. Administrator mesh atau platform mengelola resource Mesh dan dua pemilik layanan membuat konfigurasi perutean untuk layanan mereka.

Traffic layanan ke layanan east-west di mesh layanan
Traffic layanan ke layanan east-west di mesh layanan (klik untuk memperbesar)

Desain API yang berorientasi pada peran memungkinkan pemisahan tanggung jawab yang jelas

API perutean layanan memungkinkan Anda memisahkan tanggung jawab konfigurasi mesh berdasarkan peran organisasi:

  • Administrator mesh dapat menentukan mesh logis serta infrastruktur gateway entrance.
  • Pemilik layanan (developer aplikasi) dapat menentukan pola akses untuk layanan mereka secara independen. Mereka juga dapat menentukan dan menerapkan kebijakan manajemen traffic untuk layanan mereka.

Dalam diagram berikut, Cloud Load Balancing dan resource Gateway menyediakan gateway traffic masuk untuk traffic yang memasuki mesh dari klien yang tidak berada dalam mesh. Administrator mesh mengonfigurasi dan mengelola resource Gateway, sedangkan pemilik layanan mengonfigurasi dan mengelola layanan dan perutean traffic mereka sendiri.

Traffic utara-selatan ke mesh melalui gateway
Traffic utara-selatan ke dalam mesh melalui gateway (klik untuk memperbesar)

Meningkatkan keandalan dengan model layanan mandiri

API pemilihan rute layanan menggunakan resource per protokol, per rute yang dapat dikonfigurasi dan dimiliki oleh pemilik layanan independen. Pendekatan ini memiliki beberapa keunggulan.

  • Pemilik layanan memiliki otonomi atas cara mereka ingin mengonfigurasi kebijakan dan pengelolaan traffic untuk layanan yang mereka miliki.
  • Memperbarui satu resource Route tidak memengaruhi resource Route lainnya dalam mesh. Proses update lebih andal karena pemilik layanan mengelola konfigurasi kecil.
  • Pemilik layanan yang bertanggung jawab atas layanan tujuan atau nama host memiliki setiap resource Route.
  • Pemilik layanan tidak harus bergantung pada administrator mesh untuk memperbarui rute.

Mengaktifkan mesh layanan yang mencakup beberapa project di lingkungan VPC Bersama

Model API pemilihan rute layanan memungkinkan pemilik layanan berpartisipasi dalam infrastruktur mesh bersama menggunakan VPC Bersama dan cara konektivitas lainnya sekaligus mempertahankan kontrol independen atas layanan mereka. Misalnya, pemilik layanan dapat menentukan resource Route dalam project mereka sendiri. Administrator platform dapat menentukan Mesh dalam project host yang dikelola secara terpusat, lalu memberikan izin IAM pemilik layanan untuk melampirkan resource Route mereka ke Mesh atau Gateway bersama. Diagram berikut menunjukkan contoh dengan VPC Bersama.

Referensi lintas project dengan VPC Bersama
Referensi lintas project dengan VPC Bersama (klik untuk memperbesar)

API pemilihan rute layanan juga memungkinkan Anda memiliki klien mesh layanan yang terhubung ke jaringan yang berbeda menggunakan Peering Jaringan VPC.

Menetapkan rute traffic berdasarkan indikator nama server

Resource TLSRoute memungkinkan Anda merutekan traffic terenkripsi TLS berdasarkan Server Name Indication (SNI) dalam handshake TLS. Anda dapat mengonfigurasi traffic TLS agar dirutekan ke layanan backend yang sesuai dengan mengonfigurasi kecocokan SNI di resource TLSRoute. Dalam deployment ini, proxy hanya merutekan traffic dan sesi TLS dihentikan di instance backend tujuan.

Resource TLSRoute hanya didukung dengan proxy Envoy yang di-deploy sebagai gateway atau proxy sidecar.

Resource TLSRoute yang dilampirkan ke resource Mesh

Deployment yang ditampilkan dalam diagram berikut merutekan traffic mesh layanan apa pun dengan ekstensi SNI yang memiliki nilai service1 ke layanan backend service1. Selain itu, setiap traffic mesh layanan dengan ekstensi SNI yang memiliki nilai service2 akan dirutekan ke layanan backend service2. Nilai ekstensi SNI dan nama layanan backend tidak saling bergantung.

Resource TLSRoute dan resource Mesh
Resource TLSRoute dan resource Mesh (klik untuk memperbesar)

Resource TLSRoute yang dilampirkan ke resource Gateway

Deployment yang ditunjukkan dalam diagram berikut merutekan traffic masuk ke resource Gateway dengan ekstensi SNI memiliki nilai serviceA ke layanan layanan backend serviceA. Selain itu, setiap traffic masuk ke Gateway dengan ekstensi SNI yang memiliki nilai serviceB akan dirutekan ke layanan backend serviceB. Nilai ekstensi SNI dan nama layanan backend tidak saling memengaruhi. Nilai ekstensi SNI dan header dalam permintaan HTTP juga independen.

Resource Gateway tidak menghentikan koneksi TLS di proxy Envoy Gateway. Sebagai gantinya, koneksi TLS dihentikan di layanan backend yang sesuai. Gateway tidak dapat memeriksa informasi apa pun yang dienkripsi di lapisan TLS, selain melihat ClientHello, yang berisi ekstensi SNI teks biasa. Gateway melakukan passthrough TLS dalam mode ini. Perhatikan bahwa ClientHello terenkripsi tidak didukung.

Resource TLSRoute dan resource Gateway
Resource TLSRoute dan resource Gateway (klik untuk memperbesar)

Dukungan gRPC inti

Anda dapat mengonfigurasi klien gRPC tanpa proxy menggunakan atribut gRPC inti seperti pencocokan menurut metode.

Pemisahan traffic untuk traffic TCP

Anda dapat menerapkan pemisahan traffic berbasis bobot untuk traffic TCP di seluruh beberapa layanan backend. Anda dapat mengonfigurasi pola seperti peluncuran canary (biru-hijau) saat mengupdate layanan. Pembagian traffic juga memungkinkan Anda memigrasikan traffic dengan cara yang terkontrol tanpa periode nonaktif.

Intersepsi traffic

Saat Anda menggunakan resource API pemilihan rute layanan Mesh dan Gateway, semua traffic akan otomatis dicegat. Untuk informasi selengkapnya, lihat Opsi untuk penyiapan VM Compute Engine dengan deployment Envoy otomatis.

Arsitektur dan resource

Bagian ini menjelaskan model API pemilihan rute layanan dan resource-nya, serta membantu Anda memahami cara kerja resource API pemilihan rute layanan.

Resource Mesh

Resource Mesh mewakili instance mesh layanan. Anda menggunakannya untuk membuat mesh layanan logis dalam project Anda. Setiap resource Mesh harus memiliki nama unik dalam project. Setelah resource Mesh dibuat, namanya tidak dapat diubah.

Resource Mesh API dengan sidecar Envoy dan deployment gRPC tanpa proxy
Resource MeshAPI dengan sidecar Envoy dan deployment gRPC tanpa proxy (klik untuk memperbesar)

Resource Mesh direferensikan dalam resource Route untuk menambahkan rute untuk layanan yang merupakan bagian dari mesh.

Proxy Envoy dan klien gRPC tanpa proxy menerima konfigurasi dari Cloud Service Mesh dengan bergabung ke mesh layanan yang diidentifikasi oleh nama resource Mesh. Resource Mesh mendukung deployment bidang data berikut:

  • Envoy berjalan bersama aplikasi sebagai proxy sidecar
  • Klien gRPC tanpa proxy
  • Gabungan sidecar Envoy dan klien gRPC tanpa proxy

Resource Route

Resource Route digunakan untuk menyiapkan pemilihan rute ke layanan. Ada empat jenis resource API Route yang berbeda. Keduanya menentukan protokol yang digunakan untuk me-route traffic ke layanan backend.

  • HTTPRoute
  • GRPCRoute
  • TCPRoute
  • TLSRoute

API tidak berisi Route API secara verbatim. Satu-satunya resource API yang dapat dikonfigurasi adalah HTTPRoute, GRPCRoute, TCPRoute, dan TLSRoute.

Resource Route mereferensikan satu atau beberapa resource Mesh dan Gateway untuk menambahkan rute yang merupakan bagian dari konfigurasi Mesh atau Gateway yang sesuai. Resource Route dapat mereferensikan resource Gateway dan Mesh.

Resource Route juga mereferensikan satu atau beberapa resource layanan backend. Layanan dikonfigurasi menggunakan API layanan backend. Anda membuat resource layanan backend yang mengarah ke satu atau beberapa backend MIG atau NEG.

Diagram berikut menunjukkan hubungan antara resource Mesh, Gateway, dan Route serta resource layanan backend dan backend-nya.

Resource Route API
Resource Route API (klik untuk memperbesar)

Anda menentukan kemampuan pengelolaan traffic lainnya, seperti perutean, perubahan header, waktu tunggu, dan pemisahan traffic berbasis bobot di resource Route. Misalnya, dalam diagram berikut, resource HTTPRoute menentukan pembagian traffic 70% / 30% antara dua layanan backend.

Pemisahan traffic berbasis bobot
Pemisahan traffic berbasis bobot (klik untuk memperbesar)

Untuk menyederhanakan administrasi mesh layanan, Anda dapat mencantumkan semua resource Route yang dilampirkan ke resource Mesh atau Gateway.

Resource TLSRoute

Gunakan resource TLSRoute untuk merutekan traffic TLS ke layanan backend berdasarkan nama host SNI dan nama Application-Layer Protocol Negotiation (ALPN). Konfigurasi TLSRoute menunjukkan passthrough TLS, dengan proxy Envoy tidak mengakhiri traffic TLS.

Resource TLSRoute mereferensikan satu atau beberapa resource Mesh dan Gateway untuk menambahkan rute yang merupakan bagian dari konfigurasi Mesh atau Gateway yang sesuai.

Resource TLSRoute juga mereferensikan satu atau beberapa resource layanan backend. Layanan dikonfigurasi menggunakan resource API layanan backend.

Resource Gateway

Resource Gateway digunakan untuk merepresentasikan proxy Envoy yang bertindak sebagai gateway masuk, yang memungkinkan klien eksternal terhubung ke mesh layanan (traffic utara-selatan). Resource ini memiliki port pemrosesan bersama dengan parameter scope. Proxy Envoy yang bertindak sebagai gateway masuk terikat ke port yang ditentukan dan ke 0.0.0.0, yang mewakili semua alamat IP di VM lokal. Diagram berikut menunjukkan proxy Envoy yang di-deploy sebagai layanan ingress dan dikonfigurasi oleh resource Gateway. Dalam contoh khusus ini, proxy Envoy dikonfigurasi untuk memproses koneksi masuk dari klien di port 80.

Resource Gateway API hanya mendukung bidang data proxy Envoy. Layanan ini tidak mendukung gRPC tanpa proxy. gRPCRoutes didukung dalam resource Gateway, tetapi traffic gRPC dirutekan oleh proxy Envoy, yang bertindak sebagai proxy tengah.

Ingress mesh layanan melalui resource `Gateway`
Ingress mesh layanan melalui resource Gateway (klik untuk memperbesar)
Resource gateway
Resource Gateway (klik untuk memperbesar)

Apa yang dimaksud dengan cakupan Gateway dan konfigurasi Gateway yang digabungkan?

Instance resource Gateway mewakili port dan konfigurasi khusus untuk traffic yang diterima di port tersebut. Resource Gateway API memiliki parameter, scope, yang digunakan untuk mengelompokkan dan menggabungkan konfigurasi dua atau beberapa resource Gateway secara logis.

Misalnya, jika Anda ingin proxy Gateway memproses port 80 dan 443 untuk menerima traffic HTTP dan HTTPS, Anda harus membuat dua resource Gateway. Konfigurasikan satu resource Gateway dengan port 80, untuk traffic HTTP, dan yang lainnya dengan 443, untuk traffic HTTPS. Berikan nilai yang sama untuk kolom scope di setiap kolom. Cloud Service Mesh menggabungkan setiap konfigurasi dari semua Gateway yang memiliki cakupan yang sama secara dinamis. Di sisi bidang data, proxy Envoy yang berjalan dalam mode gateway masuk juga harus menampilkan parameter cakupan yang sama ke Cloud Service Mesh untuk menerima konfigurasi Gateway. Perhatikan bahwa Anda menentukan cakupan saat membuat resource Gateway, dan Anda menentukan cakupan yang sama dengan parameter bootstrap untuk proxy.

Perilaku penggabungan resource gateway
Perilaku penggabungan resource Gateway (klik untuk memperbesar)

Berikut adalah pertimbangan utama untuk resource Gateway:

  • Parameter cakupan Gateway wajib diisi. Tentukan cakupan di resource Gateway dan dalam konfigurasi bootstrap proxy Envoy meskipun hanya ada satu Gateway.
  • Membuat resource Gateway tidak men-deploy layanan dengan proxy Envoy. Men-deploy proxy Envoy adalah langkah terpisah.
  • Resource Gateway memiliki type yang mewakili jenis deployment ingres. Kolom ini dicadangkan untuk penggunaan di masa mendatang. Satu-satunya nilai yang saat ini didukung adalah OPEN_MESH, yang merupakan nilai default dan tidak dapat diubah.

Deployment mesh dengan protokol dan data plane campuran

Anda dapat memiliki deployment bidang data campuran, dengan proxy Envoy dan gRPC tanpa proxy dalam mesh yang sama. Saat Anda membuat deployment tersebut, pertimbangkan hal berikut.

  • Deployment sidecar Envoy mendukung semua Rute (HTTPRoute, GRPCRoute, TCPRoute, dan TLSRoute).
  • Deployment gRPC tanpa proxy hanya mendukung GRPCRoute.
  • GRPCRoute dibatasi pada fitur yang hanya didukung oleh deployment tanpa proxy gRPC.

Topologi yang didukung di lingkungan VPC Bersama multi-project

Cloud Service Mesh mendukung penambahan resource Route yang ditentukan dalam project lain ke resource Mesh atau Gateway yang ditentukan dalam project administrasi terpusat. Pemilik layanan resmi dapat langsung menambahkan konfigurasi perutean layanan mereka ke Mesh atau Gateway.

Referensi lintas project antara resource Mesh dan Route
Referensi lintas project antara resource Mesh dan Route (klik untuk memperbesar)

Dalam skenario lintas project yang umum, Anda memilih project (project host atau project administrasi yang dikontrol secara terpusat) sebagai project administrasi mesh tempat Anda membuat resource Mesh. Pemilik project administrasi mesh memberikan otorisasi resource Route dari project lain untuk mereferensikan resource Mesh, sehingga konfigurasi perutean dari project lain dapat menjadi bagian dari mesh. Bidang data mesh, baik Envoy maupun gRPC, meminta konfigurasi dari project administrasi dan menerima gabungan semua rute yang dilampirkan ke Mesh. Untuk Gateway, rute juga digabungkan di semua Gateways yang menggunakan cakupan yang sama.

Project administrasi Mesh dapat berupa project apa pun yang Anda pilih, dan konfigurasi akan berfungsi selama project pokok memiliki konektivitas jaringan VPC, baik melalui VPC Bersama maupun Peering Jaringan VPC.

Izin dan peran IAM

Berikut adalah izin IAM yang diperlukan untuk mendapatkan, membuat, memperbarui, menghapus, mencantumkan, dan menggunakan resource Mesh dan Route dengan aman.

  • Administrator mesh harus memiliki izin networkservices.mesh.*.
  • Administrator gateway harus memiliki izin networkservices.gateways.*.
  • Pemilik layanan harus memiliki izin networkservices.grpcRoutes.*, networkservices.httpRoutes.*, atau networkservices.tcpRoutes.*.

Administrator mesh perlu memberikan izin networkservices.mesh.use kepada pemilik layanan agar pemilik layanan dapat melampirkan resource Route mereka ke resource Mesh. Model yang sama berlaku untuk resource Gateway.

Untuk melihat semua izin IAM untuk resource Mesh, buka halaman referensi izin IAM dan telusuri meshes.

Tidak ada peran standar tambahan yang diperlukan. Peran bawaan yang ada, Compute Network Admin (roles/compute.networkAdmin), memiliki izin networkservices.* secara default. Anda mungkin perlu menambahkan izin yang dijelaskan sebelumnya ke peran kustom Anda.

Pertimbangan dan batasan

  • Konsol Google Cloud tidak mendukung API pemilihan rute layanan.
  • Gunakan xDS API versi 3 atau yang lebih baru.
    • Versi Envoy minimum 1.20.0 (karena API pemilihan rute layanan hanya didukung di xDS versi 3)
    • Versi generator bootstrap gRPC minimum v0.14.0
  • Resource TLSRoute hanya didukung dengan proxy Envoy yang di-deploy sebagai proxy atau gateway sidecar.
  • Hanya VM Compute Engine dengan deployment Envoy otomatis dan Pod GKE dengan injeksi Envoy otomatis yang didukung. Anda tidak dapat menggunakan deployment manual dengan API pemilihan rute layanan.
  • API pemilihan rute layanan tidak kompatibel dengan API lama.
  • Saat resource TCPRoute dilampirkan ke resource Mesh, port yang digunakan untuk mencocokkan traffic TCP tidak dapat digunakan untuk menayangkan apa pun kecuali traffic yang dijelaskan oleh TCPRoute ini.
    • Misalnya, deployment Anda mungkin menyertakan resource TCPRoute yang cocok dengan port "8000" dan resource HttpRoute. Jika keduanya disertakan ke resource Mesh yang sama, traffic yang dirutekan oleh resource HTTPRoute tidak dapat menggunakan port 8000 meskipun alamat IP yang mendasarinya berbeda. Batasan ini berasal dari penerapan proxy Envoy, yang menetapkan prioritas ke rute yang cocok dengan port terlebih dahulu.
  • Resource Gateway tidak menyediakan load balancer terkelola dan tidak membuat layanan Envoy secara dinamis.
  • Envoy yang di-deploy secara otomatis yang berfungsi sebagai gateway ingress tidak boleh memiliki argumen serving_ports ke flag --service-proxy.
  • Envoy yang di-deploy secara otomatis tidak mendukung penyediaan nomor project yang berbeda dengan project VM.

Langkah selanjutnya

  • Untuk informasi tentang cara mencantumkan resource rute yang terkait dengan resource Mesh atau Gateway, lihat Mencantumkan resource Route. Fitur ini masih dalam Pratinjau.
  • Untuk informasi tentang API pemilihan rute layanan, baca dokumentasi untuk API layanan jaringan.