Apa itu Data Warehouse?

Data warehouse, juga disebut enterprise data warehouse (EDW), adalah platform data perusahaan yang digunakan untuk analisis dan pelaporan data terstruktur dan semi-terstruktur dari berbagai sumber data, seperti transaksi di tempat penjualan, otomatisasi pemasaran, pengelolaan hubungan pelanggan (CRM), dan banyak lagi. 

Data warehouse mencakup database analitis serta komponen dan prosedur analitis yang kritis. Data warehouse mendukung analisis ad hoc dan pelaporan kustom, seperti pipeline data, kueri, dan aplikasi bisnis. Layanan ini dapat mengonsolidasikan dan mengintegrasikan sejumlah besar data terkini dan historis di satu tempat dan dirancang untuk memberikan pandangan jangka panjang tentang data dari waktu ke waktu. Kemampuan data warehouse tersebut telah menjadikan data warehousing sebagai elemen utama analisis perusahaan yang membantu mendukung keputusan bisnis yang tepat.

Pelajari BigQuery, data warehouse perusahaan multicloud yang hemat biaya dan serverless dari Google Cloud.

Data warehouse yang ditentukan

Data warehouse adalah sistem perusahaan yang digunakan untuk analisis dan pelaporan data terstruktur dan semiterstruktur dari berbagai sumber, seperti transaksi di tempat penjualan, otomatisasi pemasaran, pengelolaan hubungan pelanggan (CRM), dan lain-lain. Data warehouse cocok untuk analisis ad hoc serta pelaporan kustom. Data warehouse dapat menyimpan data saat ini dan data historis di satu tempat dan dirancang untuk memberikan pandangan jangka panjang tentang data dari waktu ke waktu, sehingga menjadikannya komponen utama business intelligence.

Data warehouse tradisional vs. berbasis cloud

Data warehouse tradisional dihosting secara lokal, dengan data yang mengalir dari database relasional, sistem transaksional, aplikasi bisnis, dan sistem sumber lainnya. Namun, sistem ini biasanya dirancang untuk menangkap subset data dalam batch dan menyimpannya berdasarkan skema yang kaku, sehingga tidak cocok untuk kueri spontan atau analisis real-time. Perusahaan juga harus membeli hardware dan software mereka sendiri dengan data warehouse lokal, sehingga melakukan penskalaan dan pemeliharaan menjadi mahal. Di warehouse tradisional, penyimpanan biasanya terbatas dibandingkan dengan komputasi, sehingga data diubah dengan cepat dan kemudian dibuang agar ruang penyimpanan tetap kosong.

Aktivitas analitik data saat ini telah berubah menjadi pusat dari semua aktivitas bisnis inti, termasuk menghasilkan pendapatan, membatasi biaya, meningkatkan operasi, dan meningkatkan pengalaman pelanggan. Seiring berkembangnya dan beragam data, organisasi memerlukan solusi data warehouse yang lebih andal serta alat analisis canggih untuk menyimpan, mengelola, dan menganalisis data dalam jumlah besar di seluruh organisasi. 

Sistem ini harus skalabel, andal, cukup aman untuk industri yang diregulasi, serta cukup fleksibel untuk mendukung berbagai jenis data dan kasus penggunaan big data. Sistem ini juga harus mendukung harga dan komputasi yang fleksibel, sehingga Anda hanya membayar sesuai kebutuhan, tidak perlu memperkirakan kapasitas. Persyaratannya melampaui kemampuan sebagian besar data warehouse lama. Akibatnya, banyak perusahaan beralih ke solusi data warehouse berbasis cloud.

Cloud data warehouse (CDW) tidak melakukan kompromi dari data warehouse tradisional, tetapi memperluas kemampuan dan dijalankan pada layanan terkelola sepenuhnya di cloud. Cloud data warehousing menawarkan skalabilitas instan untuk memenuhi kebutuhan bisnis yang terus berubah dan pemrosesan data yang canggih untuk mendukung kueri analisis yang kompleks. 

Dengan cloud data warehouse, Anda mendapatkan keuntungan dari fleksibilitas yang melekat pada lingkungan cloud dengan biaya yang lebih dapat diprediksi. Investasi di muka biasanya jauh lebih rendah dan waktu pengerjaan lebih singkat dengan solusi data warehouse lokal karena penyedia layanan cloud mengelola dan memelihara infrastruktur fisik. 

Cara kerja data warehousing di cloud

Seperti data warehouse tradisional, cloud data warehouse (CDW) mengumpulkan, mengintegrasikan, dan menyimpan data dari sumber data internal dan eksternal. Data biasanya ditransfer dari sistem sumber menggunakan pipeline data. Data diekstrak dari sistem sumber, diubah, lalu dimuat ke data warehouse. Proses ini dikenal sebagai ETL (ekstrak, transformasi, pemuatan). Data juga dapat dikirim langsung ke repositori pusat, lalu dikonversi menggunakan proses ELT (ekstrak, pemuatan, transformasi). Dari sana, pengguna dapat menggunakan berbagai alat business intelligence (BI) untuk mengakses, menambang, dan melaporkan data. Cloud data warehouse (CDW) juga harus mendukung kasus penggunaan streaming untuk mengaktifkan data secara real time atau mendekati real time.

Cloud data warehouse menawarkan penyimpanan, pemrosesan, integrasi, pembersihan, pemuatan, dan sebagainya pada data terstruktur dan semi-terstruktur dalam lingkungan cloud publik. Anda juga dapat menggunakannya dengan cloud data lake untuk mengumpulkan dan menyimpan data yang tidak terstruktur. Dengan beberapa penyedia, Anda bahkan dapat menggabungkan data warehouse dan data lake untuk mempertahankan dan mengelola satu salinan data perusahaan Anda secara terpusat. 

Penyedia cloud yang berbeda mungkin mengambil pendekatan yang berbeda untuk layanan cloud data warehouse. Misalnya, beberapa cloud data warehouse (CDW) mungkin menggunakan arsitektur berbasis cluster yang mirip dengan data warehouse tradisional. Sebaliknya, perusahaan lain mengadopsi arsitektur serverless modern, yang makin meminimalkan tanggung jawab pengelolaan data. Namun, sebagian besar cloud data warehouse menyediakan fitur penyimpanan data bawaan, pengelolaan kapasitas, serta upgrade otomatis.

Kemampuan utama cloud data warehouse lainnya meliputi: 

  • Pemrosesan paralel secara masif (MPP)
  • Penyimpanan data berformat kolom
  • Integrasi data ETL dan ELT mandiri  
  • Fitur pemulihan dari bencana (disaster recovery) dan pencadangan otomatis
  • Alat kepatuhan dan tata kelola data
  • Integrasi bawaan untuk BI, AI, dan machine learning

Keuntungan data warehousing di cloud

Perusahaan makin banyak yang beralih dari data warehouse tradisional dan bermigrasi ke cloud, dengan memanfaatkan penghematan biaya dan skalabilitas yang dapat diberikan layanan terkelola. 

Berikut adalah keuntungan utama cloud data warehousing.

Dibuat untuk penskalaan

Cloud data warehouse bersifat elastis, menyediakan penyimpanan dan kapasitas yang hampir tanpa batas. Anda dapat meningkatkan atau menurunkan skalanya dengan mudah sesuai kebutuhan bisnis Anda yang berubah dan hanya membayar sesuai penggunaan. 

Inisiatif AI dan machine learning

Pelanggan dapat dengan cepat membuka dan mengoperasionalkan model machine learning dan teknologi AI terhadap cloud data warehouse untuk penambangan data, memprediksi hasil bisnis, dan mengoptimalkan area lainnya, mulai dari pengelolaan siklus proses data, proses bisnis, hingga biaya operasional.

Waktu beroperasi yang lebih baik

Penyedia cloud diwajibkan untuk memenuhi SLA dan memberikan waktu beroperasi yang lebih baik dengan infrastruktur cloud yang andal dan dapat diskalakan dengan lancar. Data warehouse lokal memiliki keterbatasan skala dan resource yang dapat memengaruhi performa.

Prediktabilitas biaya

Dengan cloud, Anda mendapatkan harga yang lebih fleksibel dan dapat diprediksi. Beberapa penyedia mengenakan biaya berdasarkan throughput atau per jam per node. Penyedia lainnya mengenakan harga tetap untuk jumlah resource tertentu. Dalam setiap kasus, Anda menghindari biaya besar yang ditimbulkan oleh data warehouse lokal yang berjalan 24 jam sehari, tujuh hari seminggu, terlepas dari apakah resource sedang digunakan atau tidak.

Penghematan operasional

Cloud data warehouse terkelola sepenuhnya, sehingga Anda dapat mengalihkan pengelolaan yang merepotkan kepada penyedia cloud yang harus memenuhi perjanjian tingkat layanan (SLA). Hal ini memberikan penghematan operasional dan dapat membuat tim internal Anda tetap fokus pada inisiatif pertumbuhan.

Analisis real-time

Cloud data warehouse (CDW) menyediakan komputasi lebih andal yang mendukung streaming data, sehingga Anda dapat mengkueri data secara real time. Hasilnya, Anda dapat mengakses dan menggunakan data jauh lebih cepat dibandingkan dengan data warehouse lokal, sehingga Anda dapat memperoleh insight yang lebih akurat dengan lebih cepat dan membuat keputusan bisnis yang lebih tepat.

Apa fungsi data warehouse?

Cloud data warehousing menawarkan berbagai solusi yang dapat menguntungkan organisasi. Berikut adalah beberapa kasus penggunaan data warehouse yang paling umum:

Membuat keputusan real-time: Analisis data secara real time untuk secara proaktif mengatasi tantangan, mengidentifikasi peluang, mendapatkan efisiensi, mengurangi biaya, dan secara proaktif merespons peristiwa bisnis.

Menggabungkan data terpisah: Menarik data dengan cepat dari berbagai sumber terstruktur di seluruh organisasi Anda, seperti sistem tempat penjualan, situs, dan daftar email, lalu menyatukannya ke dalam satu lokasi sehingga Anda dapat melakukan analisis dan mendapatkan insight.

Mengaktifkan pelaporan bisnis dan analisis ad hoc: Simpan data historis di server yang terpisah dari data operasional sehingga pengguna akhir dapat mengaksesnya serta menjalankan kueri dan laporan mereka sendiri tanpa memengaruhi performa sistem operasional atau menunggu untuk mendapatkan bantuan dari IT.

Menerapkan machine learning dan AI: Mengumpulkan data historis dan real-time untuk mengembangkan algoritma yang dapat memberikan insight prediktif, seperti mengantisipasi lonjakan traffic atau menyarankan produk yang relevan kepada pelanggan yang menjelajahi situs.

Banyak bisnis dan industri membutuhkan analisis data yang tidak hanya dalam skala besar, tetapi juga berkelanjutan dan real time. Misalnya, beberapa penyedia layanan menggunakan data real-time untuk menyesuaikan harga secara dinamis sepanjang hari. Perusahaan asuransi melacak polis, penjualan, klaim, penggajian, dan lainnya. Fitur ini juga menggunakan machine learning untuk memprediksi penipuan. Perusahaan game harus melacak dan bereaksi terhadap perilaku pengguna secara real time untuk meningkatkan pengalaman pemain. Data warehouse memungkinkan semua aktivitas tersebut.

Jika organisasi Anda memiliki atau melakukan salah satu hal berikut, Anda mungkin kandidat yang baik untuk data warehouse:

  • Banyak sumber data yang berbeda
  • Analisis dan visualisasi big data—secara real time dan asinkron
  • Model machine learning dan proses berbasis AI lainnya
  • Analisis streaming
  • Pembuatan laporan kustom dan analisis ad hoc
  • Penambangan Data
  • Data science dan analisis geospasial

Cara memilih solusi data warehouse berbasis cloud

Saat memilih data warehouse berbasis cloud, sangat penting untuk mengevaluasi cara kerja solusi dan memiliki pemahaman mendalam tentang kasus penggunaan yang ada yang perlu didukung oleh cloud data warehouse Anda. 

Ada banyak pertimbangan selain kemampuan warehousing yang perlu dipertimbangkan saat memilih di antara berbagai penyedia, termasuk perbedaan dalam arsitektur, skalabilitas, keamanan, harga, performa, dan lainnya. Misalnya, Anda mungkin menemukan bahwa solusi yang mudah diterapkan tidaklah mudah untuk diskalakan atau Anda mungkin harus melatih ulang semua analis data dan membeli lisensi tambahan untuk meningkatkan sistem Anda saat ini. 

Selain melihat perbedaan antar-vendor, penting juga untuk mempertimbangkan apa saja yang tercakup dalam migrasi ke cloud data warehouse dan bagaimana kaitannya dengan investasi IT Anda yang ada dan kebutuhan bisnis tertentu. 

Data warehouse perusahaan memainkan peran penting dalam pengambilan keputusan di organisasi. Oleh karena itu, Anda harus memastikan bahwa Anda memiliki pemahaman mendalam tentang persyaratan bisnis, kasus penggunaan saat ini, dan kekurangan apa pun dengan solusi yang ada. Akan sangat membantu untuk melibatkan pemangku kepentingan utama di awal proses untuk membantu mengetahui implikasi penggantian solusi data warehouse lama, persyaratan fungsional untuk memenuhi tantangan, serta informasi teknis mendetail tentang sumber data, alat, framework, dan lainnya.

Mengatasi tantangan bisnis Anda dengan Google Cloud

Pelanggan baru mendapatkan kredit gratis senilai $300 untuk dibelanjakan di Google Cloud.
Bicara dengan spesialis penjualan Google Cloud untuk membahas tantangan unik Anda secara lebih mendetail.

Langkah selanjutnya

Mulailah membangun solusi di Google Cloud dengan kredit gratis senilai $300 dan lebih dari 20 produk yang selalu gratis.

Google Cloud
  • ‪English‬
  • ‪Deutsch‬
  • ‪Español‬
  • ‪Español (Latinoamérica)‬
  • ‪Français‬
  • ‪Indonesia‬
  • ‪Italiano‬
  • ‪Português (Brasil)‬
  • ‪简体中文‬
  • ‪繁體中文‬
  • ‪日本語‬
  • ‪한국어‬
Konsol
Google Cloud