Membangun database analisis real-time dengan Bigtable dan BigQuery

Bigtable dan BigQuery digabungkan untuk menghasilkan database analisis real-time yang skalabel dan berperforma tinggi. Tingkatkan kepuasan pelanggan Anda dengan data yang lebih cepat dan insight berbasis AI melalui platform terintegrasi yang menyederhanakan proses pengembangan. Dengan begitu, analisis real-time menjadi lebih mudah diakses, membuka berbagai peluang, dan membantu mengintegrasikan AI ke dalam alur kerja operasional Anda.

hero real time bigtable2

Apa itu database analisis real-time?

Database analisis real-time memberikan insight dan tindakan langsung dengan memproses data segera setelah dibuat. Jenis database ini dapat menggabungkan pengetahuan perusahaan dengan alur kerja operasional dan memungkinkan penerapan kemampuan yang dapat menangani masalah mendesak atau memerlukan AI untuk mendukung operasi bisnis sehari-hari.

Analisis real-time digunakan dalam berbagai aplikasi seperti rekomendasi yang dipersonalisasi, reaksi dari perangkat smart, pemeliharaan prediktif, mesh data, otomatisasi proses, pengamanan cyber, dan pencegahan penipuan. Database analisis real-time sering kali sangat penting untuk alur kerja AI generatif yang mengandalkan akses ke informasi terbaru. 

Sebelumnya, membangun jenis aplikasi ini merupakan proses yang rumit dan membutuhkan banyak resource. Namun, kemajuan baru di Bigtable dan BigQuery menyederhanakan prosesnya.

Manfaat

Integrasi yang lancar

Bigtable dan BigQuery menggabungkan insight real-time dengan data historis tanpa perlu tugas ETL yang dikelola sendiri. Dialek SQL terpadu antara keduanya juga memungkinkan pengalaman pengembangan yang seragam.

Kemampuan real-time bawaan

Fitur real-time khusus yang dirancang untuk bekerja sama menyediakan database analisis real-time yang komprehensif bahkan dengan data berukuran terabyte atau petabyte dan kueri per detik (QPS) yang sangat tinggi.

Mengurangi operasi, mendapatkan lebih banyak hasil

Solusi analisis real-time tingkat perusahaan yang terkelola sepenuhnya dan meminimalkan overhead operasional dengan SLA terbaik di industri untuk memastikan keandalan dan performa yang tepercaya.

Fitur utama

Merespons data streaming

Google Cloud menawarkan ekosistem analisis streaming yang andal untuk memproses aliran data berkelanjutan dari berbagai sumber. BigQuery adalah sumber penyerapan yang ideal untuk skema yang sudah dikenal. Storage Write API dan kueri berkelanjutan BigQuery memungkinkan penyerapan data langsung, memaksimalkan keaktualan data dalam warehouse, dan memungkinkan Anda terhubung ke sumber lain. Di sisi lain, Bigtable menawarkan skalabilitas linear global dan sinkronisasi data bawaan, yang sangat cocok untuk skema dinamis dan fleksibel yang memerlukan konsistensi read-after-write secara langsung. Bigtable juga menyediakan pembuatan versi siap pakai berdasarkan stempel waktu dan kebijakan retensi time to live (TTL) otomatis, sehingga menjadikannya pilihan penyimpanan dan analisis yang ideal untuk peristiwa streaming. Jumlah data yang Anda perlukan untuk melakukan streaming juga perlu dipertimbangkan. BigQuery dapat melakukan streaming data dalam satu GBps per detik di multi-region AS dan Uni Eropa dengan ratusan MBps per detik di region lain. Bigtable memberikan lebih banyak fleksibilitas dalam menangkap data streaming, dengan skalabilitas linear sebesar 14.000 penulisan per detik per node di region mana pun yang didukung oleh Bigtable. 

Dengan kombinasi BigQuery dan Bigtable, Anda tidak perlu membuat kompromi, tetapi dapat memilih teknik penyerapan yang tepat sesuai kasus penggunaan.

Pipeline Streaming

Penyimpanan yang skalabel dan fleksibel dengan analisis dan pengambilan yang cepat

Sebagian besar database mengharuskan Anda memilih antara pengambilan baris yang cepat atau pemrosesan analisis berskala besar. Bigtable dan BigQuery menggabungkan tujuan yang berbeda untuk menyediakan database analisis real-time yang lengkap, terlepas dari jenis kueri. 

Bigtable sangat cocok sebagai mesin penyimpanan yang dioptimalkan untuk pengambilan satu baris atau rentang data dalam waktu sekejap. Hal ini menjadikannya ideal untuk aplikasi yang ditampilkan kepada pengguna yang memerlukan responsivitas real-time, seperti diagram dalam aplikasi, pencarian profil, analisis deret waktu, metrik pada data streaming seperti klik, atau kueri lain yang dapat diprediksi dan perlu ditampilkan dalam volume tinggi dan dengan latensi rendah. Bigtable didasarkan pada mesin berstruktur log (LSM tree) yang mengoptimalkan performa tinggi menggunakan kombinasi penyimpanan dalam memori dan disk yang terpilah serta library klien khusus yang menawarkan akses sinkron dan asinkron. Skema fleksibel Bigtable dan kemampuan pengelolaan mandirinya makin meningkatkan kesesuaiannya untuk aplikasi dengan tuntutan performa yang tinggi. Sebaliknya, BigQuery unggul dalam workload analisis, menyediakan alat yang andal untuk membuat kueri dan menganalisis set data besar dengan agregasi kompleks, integrasi dengan Vertex AI, dan transformasi.

Dengan memilih kombinasi Bigtable dan BigQuery, Anda tidak perlu memilih antara pencarian baris individual dan pemrosesan analisis komprehensif untuk set data besar. Integrasi yang lancar memudahkan penggunaan kedua model penyimpanan ini untuk mendukung aplikasi real-time Anda. Bigtable sering digunakan sebagai solusi caching yang hemat biaya untuk set data berukuran BigQuery. Misalnya, BigQuery dapat digunakan untuk membuat embedding secara batch, lalu menyajikan embedding tersebut di Bigtable untuk mendukung aplikasi Retrieval Augmented Generation (RAG).

Arsitektur BQ

Metrik yang tersedia secara instan

Bigtable menawarkan jenis data khusus yang memproses data Anda terlebih dahulu saat ditulis sehingga memberikan hasil dan insight secara instan. Anda dapat menghitung jumlah, nilai minimum, nilai maksimum, dan perkiraan jumlah yang berbeda saat data ditulis, dengan replikasi global bawaan untuk hasil yang konsisten di seluruh aplikasi Anda. Jenis data ini juga dapat dioperasikan secara penuh dengan data warehouse yang dapat dimuat dari BigQuery.

Agregasi data real-time dapat mendukung pembuatan fitur machine learning yang komprehensif, yang menghasilkan prediksi akurat yang dapat berinteraksi dengan pengguna pada saat itu juga.

Dasbor Google Automotive

Analisis pada data berkelanjutan

Bigtable terintegrasi ke dalam ekosistem analisis BigQuery sehingga data real time Anda dapat diakses dengan mudah untuk analisis streaming tambahan. Anda dapat membuat kueri dan menggabungkan data Bigtable dengan set data lain di BigQuery menggunakan tabel eksternal, menggunakan analisis Spark open source atau pipeline Apache Beam langsung di data Bigtable, dan menulis kembali hasilnya. Akses analisis ini juga dapat menggunakan Data Boost Bigtable untuk mendapatkan analisis berperforma tinggi tanpa memengaruhi performa aplikasi real-time Anda. Selain itu, dengan Pengambilan Data Perubahan (CDC) dan Dataplex, mengekspor dan menemukan data Bigtable menjadi mudah dan tidak memerlukan tugas sinkronisasi data yang rumit atau disesuaikan.


Analisis Bigtable

Portofolio analisis real-time Google Cloud

Baca selengkapnya tentang solusi analisis real-time di Google Cloud.