Apa yang dimaksud dengan Pub/Sub dan Pub/Sub Lite?

Halaman ini membantu Anda memahami Pub/Sub, alasan bisnis memerlukan Pub/Sub, dan keunggulan Pub/Sub dibandingkan dengan teknologi serupa. Selain itu, pelajari konsep Pub/Sub inti yang mencakup istilah topik, penayang, dan pelanggan.

Pub/Sub adalah layanan pesan asinkron dan skalabel yang memisahkan layanan yang menghasilkan pesan dari layanan yang memproses pesan tersebut.

Pub/Sub memungkinkan layanan berkomunikasi secara asinkron, dengan latensi sekitar 100 milidetik.

Pub/Sub digunakan untuk analisis streaming dan pipeline integrasi data untuk menyerap dan mendistribusikan data. Middleware ini sama efektifnya dengan middleware berorientasi pesan untuk integrasi layanan atau sebagai antrean untuk melakukan tugas secara paralel.

Pub/Sub memungkinkan Anda membuat sistem produsen dan konsumen peristiwa, yang disebut penayang dan pelanggan. Penayang berkomunikasi dengan pelanggan secara asinkron dengan menyiarkan peristiwa, bukan dengan remote procedure call (RPC) sinkron.

Penayang mengirimkan peristiwa ke layanan Pub/Sub, tanpa memperhatikan cara atau waktu peristiwa ini akan diproses. Pub/Sub kemudian mengirimkan peristiwa ke semua layanan yang bereaksi terhadap peristiwa tersebut. Dalam sistem yang berkomunikasi melalui RPC, penayang harus menunggu pelanggan menerima data. Namun, integrasi asinkron di Pub/Sub meningkatkan fleksibilitas dan keandalan sistem secara keseluruhan.

Untuk memulai Pub/Sub, lihat Panduan memulai menggunakan Konsol Google Cloud. Untuk pengantar yang lebih komprehensif, lihat Mem-build sistem pesan Pub/Sub.

Kasus penggunaan umum

  • Penyerapan interaksi pengguna dan peristiwa server. Untuk menggunakan peristiwa interaksi pengguna dari aplikasi pengguna akhir atau peristiwa server dari sistem Anda, Anda dapat meneruskannya ke Pub/Sub. Kemudian, Anda dapat menggunakan alat pemrosesan streaming, seperti Dataflow, yang mengirimkan peristiwa ke database. Contoh database tersebut adalah BigQuery, Bigtable, dan Cloud Storage. Pub/Sub memungkinkan Anda mengumpulkan peristiwa dari banyak klien secara bersamaan.

  • Distribusi peristiwa real-time. Peristiwa, mentah atau yang telah diproses, dapat disediakan untuk beberapa aplikasi di seluruh tim dan organisasi Anda untuk pemrosesan real-time. Pub/Sub mendukung "bus peristiwa perusahaan" dan pola desain aplikasi berbasis peristiwa. Pub/Sub memungkinkan Anda terintegrasi dengan banyak sistem Google yang mengekspor peristiwa ke Pub/Sub.

  • Mereplikasi data di antara database. Pub/Sub biasanya digunakan untuk mendistribusikan peristiwa perubahan dari database. Peristiwa ini dapat digunakan untuk membuat tampilan status database dan histori status di BigQuery dan sistem penyimpanan data lainnya.

  • Pemrosesan dan alur kerja paralel. Anda dapat mendistribusikan banyak tugas secara efisien di antara beberapa pekerja menggunakan pesan Pub/Sub untuk terhubung ke fungsi Cloud Run. Contoh tugas tersebut adalah mengompresi file teks, mengirim notifikasi email, mengevaluasi model AI, dan memformat ulang gambar.

  • Bus peristiwa Enterprise. Anda dapat membuat bus berbagi data real-time di seluruh perusahaan, yang mendistribusikan peristiwa bisnis, update database, dan peristiwa analisis di seluruh organisasi.

  • Streaming data dari aplikasi, layanan, atau perangkat IoT. Misalnya, aplikasi SaaS dapat memublikasikan feed peristiwa secara real time. Atau, sensor perumahan dapat melakukan streaming data ke Pub/Sub untuk digunakan di produk Google Cloud lainnya melalui pipeline Dataflow.

  • Memuat ulang cache terdistribusi. Misalnya, aplikasi dapat memublikasikan peristiwa pembatalan validasi untuk memperbarui ID objek yang telah berubah.

  • Load balancing untuk keandalan. Misalnya, instance layanan dapat di-deploy di Compute Engine di beberapa zona, tetapi berlangganan topik yang sama. Jika layanan gagal di zona mana pun, zona lain dapat mengambil beban secara otomatis.

Jenis layanan Pub/Sub

Pub/Sub terdiri dari dua layanan:

  • Layanan Pub/Sub. Layanan pesan ini adalah pilihan default untuk sebagian besar pengguna dan aplikasi. Layanan ini menawarkan keandalan tertinggi dan kumpulan integrasi terbesar, beserta pengelolaan kapasitas otomatis. Pub/Sub menjamin replikasi sinkron semua data ke setidaknya dua zona dan replikasi upaya terbaik ke zona tambahan ketiga.

  • Layanan Pub/Sub Lite. Layanan pesan terpisah, tetapi serupa, yang dibuat dengan biaya lebih rendah. Layanan ini menawarkan keandalan yang lebih rendah dibandingkan dengan Pub/Sub. Pub/Sub Lite menawarkan penyimpanan topik zonal atau regional. Topik Lite zonal hanya disimpan di satu zona. Topik Lite regional mereplikasi data ke zona kedua secara asinkron. Selain itu, Pub/Sub Lite memerlukan Anda untuk melakukan pra-penyediaan dan mengelola kapasitas penyimpanan dan throughput. Pertimbangkan Pub/Sub Lite hanya untuk aplikasi yang mencapai biaya rendah yang membenarkan beberapa pekerjaan operasional tambahan dan keandalan yang lebih rendah.

Untuk mengetahui detail selengkapnya tentang perbedaan antara Pub/Sub dan Pub/Sub Lite, lihat artikel Memilih Pub/Sub atau Pub/Sub Lite.

Membandingkan Pub/Sub dengan teknologi pesan lainnya

Pub/Sub menggabungkan skalabilitas horizontal Apache Kafka dan Pulsar dengan fitur yang ditemukan di middleware pesan tradisional seperti Apache ActiveMQ dan RabbitMQ. Contoh fitur tersebut adalah antrean pesan yang tidak terkirim dan pemfilteran.

Fitur lain yang diadopsi Pub/Sub dari middleware pesan adalah paralelisme per pesan, bukan pesan berbasis partisi. Pub/Sub "menyewakan" setiap pesan ke klien pelanggan, lalu melacak apakah pesan tertentu berhasil diproses.

Sebaliknya, sistem pesan lain yang skalabel secara horizontal menggunakan partisi untuk penskalaan horizontal. Hal ini memaksa subscriber untuk memproses pesan di setiap partisi secara berurutan dan membatasi jumlah klien serentak dengan jumlah partisi. Pemrosesan per pesan memaksimalkan paralelisme aplikasi pelanggan, dan membantu memastikan kebebasan penayang/pelanggan.

Membandingkan komunikasi Layanan ke layanan dan layanan ke klien

Pub/Sub ditujukan untuk komunikasi layanan ke layanan, bukan komunikasi dengan pengguna akhir atau klien IoT. Pola lain lebih didukung oleh produk lain:

Anda dapat menggunakan kombinasi layanan ini untuk membuat pola database klien -> layanan -> database. Misalnya, lihat tutorial Melakukan streaming pesan Pub/Sub melalui WebSockets.

Integrasi

Pub/Sub memiliki banyak integrasi dengan produk Google Cloud lainnya untuk membuat sistem pesan yang lengkap:

  • Pemrosesan streaming dan integrasi data. Didukung oleh Dataflow, termasuk template dan SQL Dataflow, yang memungkinkan pemrosesan dan integrasi data ke BigQuery dan data lake di Cloud Storage. Template Dataflow untuk memindahkan data dari Pub/Sub ke Cloud Storage, BigQuery, dan produk lainnya tersedia di UI Pub/Sub dan Dataflow di konsol Google Cloud. Integrasi dengan Apache Spark, terutama jika dikelola dengan Dataproc, juga tersedia. Komposisi visual integrasi dan pipeline pemrosesan yang berjalan di Spark + Dataproc dapat dilakukan dengan Data Fusion.
  • Pemantauan, Pemberitahuan, dan Logging. Didukung oleh produk Monitoring dan Logging.
  • Autentikasi dan IAM. Pub/Sub mengandalkan autentikasi OAuth standar yang digunakan oleh produk Google Cloud lainnya dan mendukung IAM terperinci, yang memungkinkan kontrol akses untuk setiap resource.
  • API. Pub/Sub menggunakan teknologi API layanan gRPC dan REST standar bersama dengan library klien untuk beberapa bahasa.
  • Pemicu, notifikasi, dan webhook. Pub/Sub menawarkan pengiriman pesan berbasis push sebagai permintaan POST HTTP ke webhook. Anda dapat menerapkan otomatisasi alur kerja menggunakan Cloud Functions atau produk serverless lainnya.
  • Orkestrasi. Pub/Sub dapat diintegrasikan ke dalam Alur Kerja serverless multi-langkah secara deklaratif. Big data dan orkestrasi analisis sering dilakukan dengan Cloud Composer, yang mendukung pemicu Pub/Sub. Anda juga dapat mengintegrasikan Pub/Sub dengan Integrasi Aplikasi (Pratinjau) yang merupakan solusi Integration Platform as a Service (iPaaS). Integrasi Aplikasi menyediakan pemicu Pub/Sub untuk memicu atau memulai integrasi.
  • Integration Connectors.(Pratinjau) Konektor ini memungkinkan Anda terhubung ke berbagai sumber data. Dengan konektor, layanan Google Cloud dan aplikasi bisnis pihak ketiga ditampilkan ke integrasi Anda melalui antarmuka standar yang transparan. Untuk Pub/Sub, Anda dapat membuat koneksi Pub/Sub untuk digunakan dalam integrasi.

Konsep inti

  • Topik. Resource bernama yang menjadi tujuan pengiriman pesan oleh penayang.
  • Langganan. Resource bernama yang mewakili aliran pesan dari satu topik tertentu, yang akan dikirim ke aplikasi yang berlangganan. Untuk detail selengkapnya tentang langganan dan semantik pengiriman pesan, lihat Panduan Pelanggan.
  • Pesan. Kombinasi data dan atribut (opsional) yang dikirim penayang ke suatu topik dan pada akhirnya dikirim ke pelanggan.
  • Atribut pesan. Pasangan nilai kunci yang dapat ditentukan penayang untuk pesan. Misalnya, kunci iana.org/language_tag dan nilai en dapat ditambahkan ke pesan untuk menandainya sebagai dapat dibaca oleh pelanggan yang berbahasa Inggris.
  • Penayang. Aplikasi yang membuat dan mengirim pesan ke satu atau beberapa topik.
  • Pelanggan. Aplikasi dengan langganan ke satu atau beberapa topik untuk menerima pesan darinya.
  • Pengesahan (atau "ack"). Sinyal yang dikirim oleh pelanggan ke Pub/Sub setelah berhasil menerima pesan. Pesan yang direspons akan dihapus dari antrean pesan langganan.
  • Mendorong dan menarik. Dua metode pengiriman pesan. Pelanggan menerima pesan dengan Pub/Sub mendorong pesan ke endpoint yang dipilih pelanggan, atau dengan pelanggan menarik pesan dari layanan.

Hubungan penayang-pelanggan dapat berupa one-to-many (fan-out), many-to-one (fan-in), dan many-to-many, seperti yang ditunjukkan dalam diagram berikut:

Hubungan penayang-pelanggan

Diagram berikut menggambarkan cara pesan diteruskan dari penayang ke pelanggan. Untuk pengiriman push, konfirmasi bersifat implisit dalam respons terhadap permintaan push, sedangkan untuk pengiriman pull, diperlukan RPC terpisah.

Siklus proses pesan

Langkah berikutnya