Topik impor Azure Event Hubs memungkinkan Anda terus menyerap data dari Azure Event Hubs sebagai sumber eksternal dan ke Pub/Sub. Kemudian, Anda dapat melakukan streaming data ke salah satu tujuan yang didukung Pub/Sub.
Dokumen ini menunjukkan cara membuat dan mengelola topik impor Azure Event Hubs. Untuk membuat topik standar, lihat Membuat topik standar.
Untuk mengetahui informasi selengkapnya tentang topik impor, lihat Tentang topik impor.
Sebelum memulai
Ketahui lebih lanjut proses publikasi Pub/Sub.
Konfigurasikan peran dan izin yang diperlukan untuk mengelola topik impor Azure Event Hubs, termasuk hal berikut:
Siapkan workload identity federation sehingga Google Cloud dapat mengakses layanan streaming eksternal.
Peran dan izin yang diperlukan
Untuk mendapatkan izin yang
Anda perlukan untuk membuat dan mengelola topik impor Azure Event Hubs,
minta administrator untuk memberi Anda
peran IAM Pub/Sub Editor (roles/pubsub.editor
) di topik atau project Anda.
Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.
Peran bawaan ini berisi izin yang diperlukan untuk membuat dan mengelola topik impor Azure Event Hubs. Untuk melihat izin yang benar-benar diperlukan, luaskan bagian Izin yang diperlukan:
Izin yang diperlukan
Izin berikut diperlukan untuk membuat dan mengelola topik impor Azure Event Hubs:
-
Buat topik impor:
pubsub.topics.create
-
Menghapus topik impor:
pubsub.topics.delete
-
Mendapatkan topik impor:
pubsub.topics.get
-
Cantumkan topik impor:
pubsub.topics.list
-
Memublikasikan ke topik impor:
pubsub.topics.publish
-
Memperbarui topik impor:
pubsub.topics.update
-
Dapatkan kebijakan IAM untuk topik impor:
pubsub.topics.getIamPolicy
-
Konfigurasikan kebijakan IAM untuk topik impor:
pubsub.topics.setIamPolicy
Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.
Anda dapat mengonfigurasi kontrol akses di tingkat project dan tingkat resource individual.
Menyiapkan identitas gabungan untuk mengakses Azure Event Hubs
Workload Identity Federation memungkinkan Google Cloud layanan mengakses workload yang berjalan di luar Google Cloud. Dengan federasi identitas, Anda tidak perlu mempertahankan atau meneruskan kredensial ke Google Cloud untuk mengakses resource di cloud lain. Sebagai gantinya, Anda dapat menggunakan identitas workload itu sendiri untuk melakukan autentikasi ke Google Cloud dan mengakses resource.
Membuat akun layanan di Google Cloud
Ini langkah opsional. Jika sudah memiliki akun layanan, Anda dapat menggunakannya dalam prosedur ini, bukan membuat akun layanan baru. Jika Anda menggunakan akun layanan yang ada, buka Mencatat ID unik akun layanan untuk langkah berikutnya.
Untuk topik impor Azure Event Hubs, Pub/Sub menggunakan akun layanan sebagai identitas untuk mengakses resource dari Azure.
Untuk mengetahui informasi selengkapnya tentang cara membuat akun layanan, termasuk prasyarat, peran dan izin yang diperlukan, serta panduan penamaan, lihat Membuat akun layanan. Setelah membuat akun layanan, Anda mungkin perlu menunggu selama 60 detik atau lebih sebelum menggunakan akun layanan. Perilaku ini terjadi karena operasi baca pada akhirnya konsisten; perlu waktu hingga akun layanan baru terlihat.
Catat ID unik akun layanan
Anda memerlukan ID unik akun layanan untuk menyiapkan Pendaftaran aplikasi di Azure.
Di konsol Google Cloud, buka halaman detail Service account.
Klik akun layanan yang baru saja Anda buat atau yang ingin Anda gunakan.
Dari halaman Detail akun layanan, catat nomor ID Unik.
Anda memerlukan ID sebagai bagian dari alur kerja untuk menyiapkan Pendaftaran aplikasi di Azure.
Menambahkan peran pembuat token akun layanan ke akun layanan Pub/Sub
Peran pembuat token akun layanan (roles/iam.serviceAccountTokenCreator
)
memungkinkan akun utama membuat kredensial jangka pendek
untuk akun layanan. Token atau kredensial ini digunakan untuk meniru identitas akun layanan.
Untuk informasi selengkapnya tentang peniruan akun layanan, lihat Peniruan akun layanan.
Anda juga dapat menambahkan peran penayang Pub/Sub (roles/pubsub.publisher
)
selama prosedur ini. Untuk mengetahui informasi selengkapnya tentang peran dan alasan Anda menambahkannya,
lihat Menambahkan peran penayang Pub/Sub ke akun layanan Pub/Sub.
Di konsol Google Cloud, buka halaman IAM.
Klik kotak centang Sertakan pemberian peran yang disediakan Google.
Cari akun layanan yang memiliki format
service-{PROJECT_NUMBER}@gcp-sa-pubsub.iam.gserviceaccount.com
.Untuk akun layanan ini, klik tombol Edit Principal.
Jika diperlukan, klik Tambahkan peran lain.
Telusuri dan klik Peran pembuat token akun layanan (
roles/iam.serviceAccountTokenCreator
).Klik Simpan.
Membuat pendaftaran Aplikasi dengan federasi identitas
Untuk menyerap data dari Azure Event Hubs, daftarkan aplikasi ke platform Microsoft Identity dan aktifkan federasi identitas untuk akun layanan Anda. Tindakan ini memungkinkan akun layanan Anda mengautentikasi ke Azure.
Untuk informasi selengkapnya tentang cara mendaftarkan aplikasi dengan platform Microsoft Identity, lihat panduan awal pendaftaran aplikasi Azure.
Login ke portal Azure dan buka halaman Microsoft Entra ID.
Di panel navigasi, klik Kelola > Pendaftaran aplikasi.
Klik New registration.
Beri nama aplikasi dan tetapkan Jenis akun yang didukung ke apa pun selain Khusus akun Microsoft pribadi.
Untuk mendaftarkan permohonan, klik Register.
Buka aplikasi dan klik Manage > Certificates & Secrets.
Klik Tambahkan kredensial.
Untuk mengonfigurasi kredensial gabungan, klik Other issuer.
Untuk kolom Issuer, masukkan
https://accounts.google.com
.Untuk kolom Value, masukkan ID unik akun layanan Pub/Sub Anda.
Anda dapat menemukan ID ini di Mencatat ID unik akun layanan.
Beri nama identitas gabungan, lalu klik Tambahkan.
Memberikan penetapan peran ke Aplikasi terdaftar
Agar Pub/Sub dapat membaca dari hub peristiwa Azure, berikan peran yang diperlukan ke aplikasi terdaftar Anda.
Login ke portal Azure dan buka namespace Event Hubs Anda.
Untuk membuka namespace, masukkan Event Hubs di penelusuran, lalu klik salah satu namespace.
Di sidebar, klik Access control (IAM).
Klik Tambahkan > Tambahkan penetapan peran.
Pilih peran Azure Event Hubs Data Receiver, lalu klik Next.
Tindakan ini akan memberikan akses baca ke akun layanan Pub/Sub ke event hub Azure Anda.
Klik +Select members, lalu telusuri aplikasi terdaftar Anda.
Ketik nama aplikasi terdaftar di kolom penelusuran.
Klik nama aplikasi, lalu klik Pilih.
Klik Tinjau + Tetapkan.
Ulangi langkah 3–6 dan tambahkan peran Azure Event Hubs Data Sender.
Peran ini memberikan izin Akun Layanan Google Cloud untuk mengambil metadata dari event hub Azure Anda.
Untuk informasi selengkapnya tentang cara menetapkan peran Azure, buka halaman Menetapkan peran Azure.
Menambahkan peran penayang Pub/Sub ke akun utama Pub/Sub
Untuk mengaktifkan publikasi, Anda harus menetapkan peran penayang ke akun layanan Pub/Sub agar Pub/Sub dapat memublikasikan ke topik impor Azure Event Hubs.
Mengaktifkan publikasi dari semua topik
Gunakan metode ini jika Anda belum membuat topik impor Azure Event Hubs.
Di konsol Google Cloud, buka halaman IAM.
Klik kotak centang Sertakan pemberian peran yang disediakan Google.
Cari akun layanan yang memiliki format
service-{PROJECT_NUMBER}@gcp-sa-pubsub.iam.gserviceaccount.com
.Untuk akun layanan ini, klik tombol Edit Principal.
Jika diperlukan, klik Tambahkan peran lain.
Telusuri dan klik Peran penayang Pub/Sub (
roles/pubsub.publisher
).Klik Simpan.
Mengaktifkan publikasi dari satu topik
Gunakan metode ini hanya jika topik impor Azure Event Hubs sudah ada.
In the Google Cloud console, activate Cloud Shell.
At the bottom of the Google Cloud console, a Cloud Shell session starts and displays a command-line prompt. Cloud Shell is a shell environment with the Google Cloud CLI already installed and with values already set for your current project. It can take a few seconds for the session to initialize.
Jalankan perintah
gcloud pubsub topics add-iam-policy-binding
:gcloud pubsub topics add-iam-policy-binding TOPIC_ID \ --member="serviceAccount:service-PROJECT_NUMBER@gcp-sa-pubsub.iam.gserviceaccount.com" \ --role="roles/pubsub.publisher"
Ganti kode berikut:
TOPIC_ID
: ID topik topik impor Azure Event Hubs.PROJECT_NUMBER
: nomor project. Untuk melihat nomor project, lihat Mengidentifikasi project.
Menambahkan peran pengguna akun layanan ke akun layanan
Peran Pengguna Akun Layanan (roles/iam.serviceAccountUser
) mencakup izin iam.serviceAccounts.actAs
yang memungkinkan akun utama melampirkan akun layanan ke setelan penyerapan topik impor Azure Event Hubs dan menggunakan akun layanan tersebut untuk identitas gabungan.
Di konsol Google Cloud, buka halaman IAM.
Untuk akun utama yang mengeluarkan panggilan pembuatan atau pembaruan topik, klik tombol Edit Principal.
Jika diperlukan, klik Tambahkan peran lain.
Telusuri dan klik Peran pengguna akun layanan (
roles/iam.serviceAccountUser
).Klik Simpan.
Menggunakan topik impor Azure Event Hubs
Anda dapat membuat topik impor baru atau mengedit topik yang ada.
Pertimbangan
Membuat topik dan langganan secara terpisah, meskipun dilakukan secara cepat, dapat menyebabkan hilangnya data. Ada periode singkat saat topik tersedia tanpa langganan. Jika ada data yang dikirim ke topik selama waktu ini, data tersebut akan hilang. Dengan membuat topik terlebih dahulu, membuat langganan, lalu mengonversi topik menjadi topik impor, Anda menjamin bahwa tidak ada pesan yang terlewat selama proses impor.
Jika perlu membuat ulang event hub Azure dari topik impor yang ada dengan nama yang sama, Anda tidak dapat hanya menghapus event hub Azure dan membuatnya ulang. Tindakan ini dapat membatalkan validasi pengelolaan offset Pub/Sub, yang dapat menyebabkan hilangnya data. Untuk mengurangi hal ini, ikuti langkah-langkah berikut:
- Menghapus topik impor Pub/Sub
- Menghapus hub peristiwa Azure
- Membuat event hub Azure
- Membuat topik impor Pub/Sub
Data dari event hub Azure selalu dibaca dari offset paling awal.
Membuat topik impor Azure Event Hubs
Untuk mengetahui lebih lanjut properti yang terkait dengan topik, lihat Properti topik.
Pastikan Anda telah menyelesaikan prosedur berikut:
Untuk membuat topik impor Azure Event Hubs, ikuti langkah-langkah berikut:
Konsol
Di konsol Google Cloud, buka halaman Topics.
Klik Create topic.
Di kolom Topic ID, masukkan ID untuk topik impor Azure Event Hubs Anda. Untuk informasi selengkapnya tentang topik penamaan, lihat panduan penamaan.
Pilih Tambahkan langganan default.
Pilih Aktifkan penyerapan.
Untuk sumber transfer, pilih Azure Event Hubs.
Masukkan detail berikut:
Grup resource: nama Grup Resource Azure yang berisi namespace Azure Event Hubs yang ingin Anda serap ke dalam Pub/Sub.
Namespace Event Hub: nama namespace Azure Event Hubs yang berisi event hub Azure yang ingin Anda serap ke Pub/Sub.
Event Hub: nama event hub Azure yang ingin Anda masukkan ke Pub/Sub.
Client ID: ID aplikasi (klien) dari Aplikasi terdaftar di Azure yang berisi identitas gabungan Akun Layanan Google Cloud. Nilai ini harus berupa UUID. Untuk informasi selengkapnya, buka halaman Pendaftaran Aplikasi Azure.
Tenant ID: ID direktori (tenant) dari tenant yang memiliki event hub Azure yang ingin Anda serap ke dalam Pub/Sub. Nilai ini harus berupa UUID. Untuk menemukan ID tenant, buka halaman Azure Get subscription and tenant IDs.
Subscription ID: ID langganan dari langganan yang memiliki grup resource Azure Event Hubs. Nilai ini harus berupa UUID. Untuk menemukan ID langganan, buka halaman Azure Get subscription and tenant IDs.
Akun layanan: akun layanan yang Anda buat di Membuat akun layanan di Google Cloud.
Biarkan kolom lainnya tetap pada nilai default.
Klik Create topic.
gcloud
-
In the Google Cloud console, activate Cloud Shell.
At the bottom of the Google Cloud console, a Cloud Shell session starts and displays a command-line prompt. Cloud Shell is a shell environment with the Google Cloud CLI already installed and with values already set for your current project. It can take a few seconds for the session to initialize.
Jalankan perintah
gcloud pubsub topics create
:gcloud pubsub topics create TOPIC_ID \ --azure-event-hubs-ingestion-resource-group RESOURCE_GROUP \ --azure-event-hubs-ingestion-namespace NAMESPACE \ --azure-event-hubs-ingestion-event-hub EVENT_HUB \ --azure-event-hubs-ingestion-client-id CLIENT_ID \ --azure-event-hubs-ingestion-tenant-id TENANT_ID \ --azure-event-hubs-ingestion-subscription-id SUBSCRIPTION_ID \ --azure-event-hubs-ingestion-service-account SERVICE_ACCOUNT
Ganti kode berikut:
TOPIC_ID
: nama atau ID topik Pub/Sub Anda.RESOURCE_GROUP
: nama grup resource Azure Event Hubs yang berisi namespace Azure Event Hubs yang ingin Anda serap ke dalam Pub/Sub.NAMESPACE
: nama namespace Azure Event Hubs yang berisi event hub Azure yang Anda rencanakan untuk ditransfer ke Pub/Sub.EVENT_HUB
: nama event hub Azure yang ingin Anda serap ke dalam Pub/Sub.CLIENT_ID
: ID aplikasi (klien) Aplikasi terdaftar di Azure yang berisi identitas gabungan Google Cloud Akun Layanan. Nilai ini harus berupa UUID. Untuk informasi selengkapnya, buka halaman Pendaftaran Aplikasi Azure.TENANT_ID
: ID direktori (tenant) dari tenant yang memiliki Azure Event Hub yang ingin Anda transfer ke Pub/Sub. Nilai ini harus berupa UUID. Untuk menemukan ID tenant, buka halaman peristiwa Azure halaman Azure Get subscription and tenant IDs.SUBSCRIPTION_ID
: ID langganan langganan yang memiliki event hub Azure yang ingin Anda transfer ke Pub/Sub. Nilai ini harus berupa UUID. Untuk menemukan ID langganan, buka halaman Azure Get subscription and tenant IDs.SERVICE_ACCOUNT
: akun layanan yang Anda buat di Membuat akun layanan di Google Cloud
Go
Sebelum mencoba contoh ini, ikuti petunjuk penyiapan Go di panduan memulai Pub/Sub menggunakan library klien. Untuk mengetahui informasi selengkapnya, lihat dokumentasi referensi API Go Pub/Sub.
Untuk melakukan autentikasi ke Pub/Sub, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk lingkungan pengembangan lokal.
Java
Sebelum mencoba contoh ini, ikuti petunjuk penyiapan Java di panduan memulai Pub/Sub menggunakan library klien. Untuk mengetahui informasi selengkapnya, lihat dokumentasi referensi API Java Pub/Sub.
Untuk melakukan autentikasi ke Pub/Sub, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk lingkungan pengembangan lokal.
Node.js
Sebelum mencoba contoh ini, ikuti petunjuk penyiapan Node.js di panduan memulai Pub/Sub menggunakan library klien. Untuk mengetahui informasi selengkapnya, lihat dokumentasi referensi API Node.js Pub/Sub.
Untuk melakukan autentikasi ke Pub/Sub, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk lingkungan pengembangan lokal.
Python
Sebelum mencoba contoh ini, ikuti petunjuk penyiapan Python di panduan memulai Pub/Sub menggunakan library klien. Untuk mengetahui informasi selengkapnya, lihat dokumentasi referensi API Python Pub/Sub.
Untuk melakukan autentikasi ke Pub/Sub, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk lingkungan pengembangan lokal.
C++
Sebelum mencoba contoh ini, ikuti petunjuk penyiapan C++ di panduan memulai Pub/Sub menggunakan library klien. Untuk mengetahui informasi selengkapnya, lihat dokumentasi referensi API C++ Pub/Sub.
Untuk melakukan autentikasi ke Pub/Sub, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk lingkungan pengembangan lokal.
Node.js (TypeScript)
Sebelum mencoba contoh ini, ikuti petunjuk penyiapan Node.js di panduan memulai Pub/Sub menggunakan library klien. Untuk mengetahui informasi selengkapnya, lihat dokumentasi referensi API Node.js Pub/Sub.
Untuk melakukan autentikasi ke Pub/Sub, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk lingkungan pengembangan lokal.
Jika Anda mengalami masalah, lihat Memecahkan masalah topik impor Azure Event Hubs.
Mengedit topik impor Azure Event Hubs
Untuk mengedit setelan sumber data penyerapan topik impor Azure Event Hubs, ikuti langkah-langkah berikut:
Konsol
Di konsol Google Cloud, buka halaman Topics.
Klik topik impor Azure Event Hubs.
Di halaman detail topik, klik Edit.
Perbarui kolom yang ingin diubah.
Klik Perbarui.
gcloud
-
In the Google Cloud console, activate Cloud Shell.
At the bottom of the Google Cloud console, a Cloud Shell session starts and displays a command-line prompt. Cloud Shell is a shell environment with the Google Cloud CLI already installed and with values already set for your current project. It can take a few seconds for the session to initialize.
Jalankan perintah
gcloud pubsub topics update
dengan semua flag yang disebutkan dalam contoh berikut:gcloud pubsub topics update TOPIC_ID \ --azure-event-hubs-ingestion-resource-group RESOURCE_GROUP \ --azure-event-hubs-ingestion-namespace NAMESPACE \ --azure-event-hubs-ingestion-event-hub EVENT_HUB \ --azure-event-hubs-ingestion-client-id CLIENT_ID \ --azure-event-hubs-ingestion-tenant-id TENANT_ID \ --azure-event-hubs-ingestion-subscription-id SUBSCRIPTION_ID \ --azure-event-hubs-ingestion-service-account SERVICE_ACCOUNT
Ganti kode berikut:
TOPIC_ID
: nama atau ID topik Pub/Sub Anda.RESOURCE_GROUP
: nama grup resource Azure Event Hubs yang berisi namespace Azure Event Hubs yang Anda transfer ke Pub/Sub.NAMESPACE
: nama namespace Azure Event Hubs yang berisi event hub Azure yang Anda transfer ke Pub/Sub.EVENT_HUB
: nama event hub Azure yang Anda transfer ke Pub/Sub.CLIENT_ID
: ID aplikasi (klien) Aplikasi terdaftar di Azure yang berisi identitas gabungan Google Cloud Akun Layanan. Nilai ini harus berupa UUID. Untuk informasi selengkapnya, lihat halaman Pendaftaran Aplikasi Azure.TENANT_ID
: ID direktori (tenant) tenant yang memiliki Azure Event Hubs yang Anda transfer ke Pub/Sub. Nilai ini harus berupa UUID. Untuk menemukan ID tenant, lihat buka halaman Azure Get subscription and tenant IDs.SUBSCRIPTION_ID
: ID langganan dari langganan yang memiliki event hub Azure yang Anda transfer ke Pub/Sub. Nilai ini harus berupa UUID. Untuk menemukan ID langganan, lihat Azure Mendapatkan ID langganan dan tenant.SERVICE_ACCOUNT
: akun layanan yang Anda buat di Membuat akun layanan di Google Cloud
Kuota dan batas
Throughput penayang untuk topik impor dibatasi oleh kuota publikasi topik. Untuk mengetahui informasi selengkapnya, lihat Kuota dan batas Pub/Sub.
Langkah berikutnya
Pilih jenis langganan untuk topik Anda.
Pelajari cara memublikasikan pesan ke topik.
Buat atau ubah topik dengan gcloud CLI, REST API, atau Library klien.