Memvisualisasikan data BigQuery di notebook Jupyter

---

Tutorial ini menjelaskan cara menjelajahi dan memvisualisasikan data menggunakan library klien BigQuery untuk Python dan pandas di instance notebook Jupyter terkelola di Vertex AI Workbench. Alat visualisasi data dapat membantu Anda menganalisis data BigQuery secara interaktif, serta mengidentifikasi tren dan menyampaikan insight dari data Anda. Tutorial ini menggunakan data yang ditemukan di set data publik BigQuery Google Trends.

Notebook terkelola Vertex AI Workbench tidak digunakan lagi. Pada 30 Januari 2025, dukungan untuk notebook terkelola akan berakhir dan kemampuan untuk membuat instance notebook terkelola akan dihapus. Untuk menggunakan BigQuery dengan instance Vertex AI Workbench, lihat Data kueri di BigQuery dari dalam JupyterLab serta Menjelajahi dan memvisualisasikan data di BigQuery dari dalam JupyterLab.

Tujuan

• Membuat instance notebook Jupyter terkelola menggunakan Vertex AI Workbench.
• Buat kueri data BigQuery menggunakan perintah ajaib di notebook.
• Membuat kueri dan memvisualisasikan data BigQuery menggunakan pandas dan library klien Python BigQuery.

Biaya

BigQuery adalah produk berbayar, sehingga Anda dikenai biaya penggunaan BigQuery saat mengakses BigQuery. Gratis 1 TB data kueri pertama yang diproses setiap bulan. Untuk mengetahui informasi selengkapnya, lihat halaman pricing BigQuery.

Vertex AI Workbench adalah produk berbayar, dan Anda dikenai biaya komputasi, penyimpanan, dan pengelolaan saat menggunakan instance Vertex AI Workbench. Untuk mengetahui informasi selengkapnya, lihat halaman pricing Vertex AI Workbench.

Sebelum memulai

1. Di konsol Google Cloud, pada halaman pemilih project, pilih atau buat project Google Cloud.

   Catatan: Jika tidak berencana untuk menyimpan resource yang Anda buat dalam prosedur ini, buatlah project, bukan memilih project yang ada. Setelah menyelesaikan langkah ini, Anda dapat menghapus project, yang menghapus semua resource yang terkait dengan project ini.

   Buka pemilih project

2. Pastikan penagihan telah diaktifkan untuk project Google Cloud Anda.

3. Aktifkan BigQuery API.

   Mengaktifkan API

   Untuk project baru, BigQuery diaktifkan secara otomatis.

4. Aktifkan Notebooks API.

   Mengaktifkan Notebook API

Ringkasan: Jupyter notebooks

{i>Notebook<i} menyediakan lingkungan untuk menulis dan mengeksekusi kode. Pada dasarnya, notebook adalah artefak sumber, yang disimpan sebagai file IPYNB. Class ini dapat berisi konten teks deskriptif, blok kode yang dapat dieksekusi, dan output yang dirender sebagai HTML interaktif.

Secara struktural, {i>notebook<i} adalah urutan sel. Sel adalah blok teks input yang dievaluasi untuk membuat hasil. Sel dapat memiliki tiga jenis:

• Sel kode berisi kode yang akan dievaluasi. Output atau hasil dari kode yang dijalankan dirender sesuai dengan kode yang dieksekusi.
• Sel markup berisi teks Markdown yang dikonversi ke HTML untuk menghasilkan header, daftar, dan teks berformat.
• Sel mentah dapat digunakan untuk merender format kode yang berbeda ke dalam HTML atau LaTeX.

Gambar berikut menunjukkan sel Markdown yang diikuti dengan sel kode Python, lalu diikuti dengan output-nya:

Setiap notebook yang dibuka dikaitkan dengan sesi yang sedang berjalan (juga dikenal sebagai kernel di Python). Sesi ini mengeksekusi semua kode di notebook dan mengelola statusnya. Status mencakup variabel beserta nilai, fungsi, dan class-nya, serta modul Python yang ada yang Anda muat.

Di Google Cloud, Anda dapat menggunakan lingkungan berbasis notebook Vertex AI Workbench untuk membuat kueri dan menjelajahi data, mengembangkan dan melatih model, serta menjalankan kode sebagai bagian dari pipeline. Dalam tutorial ini, Anda akan membuat instance notebook terkelola di Vertex AI Workbench, lalu menjelajahi data BigQuery dalam antarmuka JupyterLab.

Membuat instance notebook terkelola

Di bagian ini, Anda akan menyiapkan instance JupyterLab di Google Cloud agar Anda dapat membuat notebook terkelola.

1. Di konsol Google Cloud, buka halaman Workbench.

   Buka Workbench

2. Klik  News notebook.

3. Di kolom Notebook name, masukkan nama instance Anda.

4. Dalam daftar Region, pilih region untuk instance Anda.

5. Di bagian Permission, pilih opsi untuk menentukan pengguna mana yang dapat mengakses instance notebook terkelola:

   • Akun layanan: Opsi ini memberikan akses ke semua pengguna yang memiliki akses ke akun layanan Compute Engine yang Anda tautkan ke runtime. Untuk menentukan akun layanan Anda sendiri, hapus centang pada kotak Use Compute Engine default service account, lalu masukkan alamat email akun layanan yang ingin Anda gunakan. Untuk mengetahui informasi selengkapnya tentang akun layanan, lihat Jenis akun layanan.
   • Single user only: Opsi ini memberikan akses hanya kepada pengguna tertentu. Di kolom Email pengguna, masukkan alamat email akun pengguna milik pengguna yang akan menggunakan instance notebook terkelola.

6. Opsional: Untuk mengubah setelan lanjutan instance, klik Setelan lanjutan. Untuk mengetahui informasi selengkapnya, lihat Membuat instance menggunakan setelan lanjutan.

7. Klik Create.

   Tunggu beberapa menit hingga instance selesai dibuat. Vertex AI Workbench akan otomatis memulai instance. Saat instance siap digunakan, Vertex AI Workbench akan mengaktifkan link Open JupyterLab.

Jelajahi resource BigQuery di JupyterLab

Di bagian ini, Anda akan membuka JupyterLab dan mempelajari resource BigQuery yang tersedia di instance notebook terkelola.

1. Di baris untuk instance notebook terkelola yang Anda buat, klik Open JupyterLab.

   Jika diminta, klik Autentikasi jika Anda menyetujui persyaratannya. Instance notebook terkelola Anda membuka JupyterLab di tab browser baru.

2. Di menu navigasi JupyterLab, klik  BigQuery di Notebooks.

   Panel BigQuery mencantumkan project dan set data yang tersedia, tempat Anda dapat melakukan tugas sebagai berikut:

   • Untuk melihat deskripsi set data, klik dua kali pada nama set data.
   • Untuk menampilkan tabel, tampilan, dan model set data, luaskan set data.
   • Untuk membuka deskripsi ringkasan sebagai tab di JupyterLab, klik dua kali pada tabel, tampilan, atau model.

   Catatan: Pada deskripsi ringkasan untuk tabel, klik tab Preview untuk melihat pratinjau data tabel. Gambar berikut menunjukkan pratinjau tabel international_top_terms yang ditemukan dalam set data google_trends di project bigquery-public-data:

   

Buat kueri data notebook menggunakan perintah ajaib %%bigquery

Di bagian ini, Anda akan menulis SQL langsung di sel notebook dan membaca data dari BigQuery ke dalam notebook Python.

Perintah magic yang menggunakan karakter persentase tunggal atau ganda (% atau %%) memungkinkan Anda menggunakan sintaksis minimal untuk berinteraksi dengan BigQuery dalam notebook. Library klien BigQuery untuk Python otomatis diinstal di instance notebook terkelola. Di balik layar, perintah magic %%bigquery menggunakan library klien BigQuery agar Python dapat menjalankan kueri yang diberikan, mengonversi hasilnya menjadi DataFrame pandas, menyimpan hasil ke variabel secara opsional, dan kemudian menampilkan hasil tersebut.

Catatan: Mulai versi 1.26.0 paket Python google-cloud-bigquery, BigQuery Storage API digunakan secara default untuk mendownload hasil dari perintah magic %%bigquery.

1. Untuk membuka file notebook, pilih File > New > Notebook.

2. Dalam dialog Select Kernel, pilih Python (Local), lalu klik Select.

   File IPYNB baru Anda akan terbuka.

3. Untuk mendapatkan jumlah region berdasarkan negara dalam set data international_top_terms, masukkan pernyataan berikut:

   %%bigquery
   SELECT
     country_code,
     country_name,
     COUNT(DISTINCT region_code) AS num_regions
   FROM
     `bigquery-public-data.google_trends.international_top_terms`
   WHERE
     refresh_date = DATE_SUB(CURRENT_DATE, INTERVAL 1 DAY)
   GROUP BY
     country_code,
     country_name
   ORDER BY
     num_regions DESC;

4. Klik  Run cell.

   Outputnya mirip dengan hal berikut ini:

   Query complete after 0.07s: 100%|██████████| 4/4 [00:00<00:00, 1440.60query/s]
   Downloading: 100%|██████████| 41/41 [00:02><00:00, 20.21rows/s]
   ... country_code country_name num_regions 0 TR Turkey 81 1 TH Thailand 77 2 VN Vietnam 63 3 JP Japan 47 4 RO Romania 42 5 NG Nigeria 37 6 IN India 36 7 ID Indonesia 34 8 CO Colombia 33 9 MX Mexico 32 10 BR Brazil 27 11 EG Egypt 27 12 UA Ukraine 27 13 CH Switzerland 26 14 AR Argentina 24 15 FR France 22 16 SE Sweden 21 17 HU Hungary 20 18 IT Italy 20 19 PT Portugal 20 20 NO Norway 19 21 FI Finland 18 22 NZ New Zealand 17 23 PH Philippines 17>

   Catatan: Hasil Anda mungkin berbeda dari yang disebutkan di atas karena set data google_trends yang dikueri akan diperbarui dengan data baru secara berkelanjutan.

5. Pada sel berikutnya (di bawah output dari sel sebelumnya), masukkan perintah berikut untuk menjalankan kueri yang sama, tetapi kali ini simpan hasilnya ke DataFrame pandas baru yang bernama regions_by_country. Anda memberikan nama tersebut menggunakan argumen dengan perintah magic %%bigquery.

   %%bigquery regions_by_country
   SELECT
     country_code,
     country_name,
     COUNT(DISTINCT region_code) AS num_regions
   FROM
     `bigquery-public-data.google_trends.international_top_terms`
   WHERE
     refresh_date = DATE_SUB(CURRENT_DATE, INTERVAL 1 DAY)
   GROUP BY
     country_code, country_name
   ORDER BY
     num_regions DESC;

   Catatan: Untuk informasi selengkapnya tentang argumen yang tersedia untuk perintah %%bigquery, lihat dokumentasi keajaiban library klien.

6. Klik  Run cell.

7. Di sel berikutnya, masukkan perintah berikut untuk melihat beberapa baris pertama hasil kueri yang baru saja Anda baca:

   regions_by_country.head()
   

8. Klik  Run cell.

   DataFrame regions_by_country pandas siap dipetakan.

Membuat kueri data di notebook menggunakan library klien BigQuery secara langsung

Di bagian ini, Anda akan langsung menggunakan library klien BigQuery untuk Python untuk membaca data ke notebook Python.

Library klien memberi Anda kontrol lebih besar atas kueri dan memungkinkan Anda menggunakan konfigurasi yang lebih kompleks untuk kueri dan tugas. Integrasi library dengan pandas memungkinkan Anda menggabungkan kecanggihan SQL deklaratif dengan kode imperatif (Python) untuk membantu Anda menganalisis, memvisualisasikan, dan mengubah data.

Catatan: Anda dapat menggunakan sejumlah library analisis data, data wrangling, dan visualisasi Python, seperti numpy, pandas, matplotlib, dan banyak lagi. Beberapa library ini dibangun di atas objek DataFrame.

1. Di sel berikutnya, masukkan kode Python berikut untuk mengimpor library klien BigQuery untuk Python dan melakukan inisialisasi klien:

   from google.cloud import bigquery
   
   client = bigquery.Client()
   

   Klien BigQuery digunakan untuk mengirim dan menerima pesan dari BigQuery API.

2. Klik  Run cell.

3. Di sel berikutnya, masukkan kode berikut untuk mengambil persentase istilah teratas harian di top_terms AS yang tumpang-tindih dengan istilah teratas dari beberapa hari sebelumnya. Intinya adalah melihat istilah teratas setiap hari dan mencari tahu berapa persen yang tumpang tindih dengan istilah teratas dari hari sebelumnya, 2 hari sebelumnya, 3 hari sebelumnya, dan seterusnya (untuk semua pasangan tanggal selama rentang waktu sekitar satu bulan).

   sql = """
   WITH
     TopTermsByDate AS (
       SELECT DISTINCT refresh_date AS date, term
       FROM `bigquery-public-data.google_trends.top_terms`
     ),
     DistinctDates AS (
       SELECT DISTINCT date
       FROM TopTermsByDate
     )
   SELECT
     DATE_DIFF(Dates2.date, Date1Terms.date, DAY)
       AS days_apart,
     COUNT(DISTINCT (Dates2.date || Date1Terms.date))
       AS num_date_pairs,
     COUNT(Date1Terms.term) AS num_date1_terms,
     SUM(IF(Date2Terms.term IS NOT NULL, 1, 0))
       AS overlap_terms,
     SAFE_DIVIDE(
       SUM(IF(Date2Terms.term IS NOT NULL, 1, 0)),
       COUNT(Date1Terms.term)
       ) AS pct_overlap_terms
   FROM
     TopTermsByDate AS Date1Terms
   CROSS JOIN
     DistinctDates AS Dates2
   LEFT JOIN
     TopTermsByDate AS Date2Terms
     ON
       Dates2.date = Date2Terms.date
       AND Date1Terms.term = Date2Terms.term
   WHERE
     Date1Terms.date <= Dates2.date
   GROUP BY
     days_apart
   
   ORDER BY
     days_apart;
   """
   pct_overlap_terms_by_days_apart = client.query(sql).to_dataframe()
   
   pct_overlap_terms_by_days_apart.head()

   SQL yang digunakan digabungkan dalam string Python, lalu diteruskan ke metode query() untuk menjalankan kueri. Metode to_dataframe menunggu kueri selesai dan mendownload hasilnya ke DataFrame pandas menggunakan BigQuery Storage API.

4. Klik  Run cell.

   Beberapa baris pertama hasil kueri muncul di bawah sel kode.

      days_apart   num_date_pairs  num_date1_terms overlap_terms   pct_overlap_terms
    0          0             32               800            800            1.000000
    1          1             31               775            203            0.261935
    2          2             30               750             73            0.097333
    3          3             29               725             31            0.042759
    4          4             28               700             23            0.032857
   

   Catatan: Hasil Anda mungkin berbeda dari yang disebutkan di atas karena set data google_trends yang dikueri akan diperbarui dengan data baru secara berkelanjutan.

Untuk mengetahui informasi lebih lanjut tentang cara menggunakan library klien BigQuery, lihat panduan memulai Menggunakan library klien.

Memvisualisasikan data BigQuery

Di bagian ini, Anda akan menggunakan kemampuan plot untuk memvisualisasikan hasil dari kueri yang sebelumnya Anda jalankan di notebook Jupyter.

1. Di sel berikutnya, masukkan kode berikut untuk menggunakan metode DataFrame.plot() pandas untuk membuat diagram batang yang memvisualisasikan hasil kueri yang menampilkan jumlah region berdasarkan negara:

   regions_by_country.plot(kind="bar", x="country_name", y="num_regions", figsize=(15, 10))
   

2. Klik  Run cell.

   Outputnya mirip dengan yang berikut ini:

   

3. Di sel berikutnya, masukkan kode berikut untuk menggunakan metode DataFrame.plot() pandas guna membuat diagram sebar yang memvisualisasikan hasil dari kueri untuk persentase tumpang tindih dengan istilah penelusuran teratas dari beberapa hari sebelumnya:

   pct_overlap_terms_by_days_apart.plot(
     kind="scatter",
     x="days_apart",
     y="pct_overlap_terms",
     s=len(pct_overlap_terms_by_days_apart["num_date_pairs"]) * 20,
     figsize=(15, 10)
     )
   

4. Klik  Run cell.

   Outputnya serupa dengan yang berikut ini: Ukuran setiap titik mencerminkan jumlah pasangan tanggal yang berjarak beberapa hari dalam data. Misalnya, ada lebih banyak pasangan yang berjarak 1 hari daripada yang berjarak 30 hari karena istilah penelusuran teratas muncul setiap hari selama sekitar satu bulan.

   

Untuk mengetahui informasi selengkapnya tentang visualisasi data, lihat dokumentasi pandas.

Gunakan keajaiban %bigquery_stats untuk mendapatkan statistik dan visualisasi untuk semua kolom tabel

Di bagian ini, Anda akan menggunakan pintasan notebook guna mendapatkan ringkasan statistik dan visualisasi untuk semua kolom tabel BigQuery.

Library klien BigQuery menyediakan perintah magic, %bigquery_stats, yang dapat Anda panggil dengan nama tabel tertentu untuk memberikan ringkasan tabel dan statistik mendetail dari setiap kolom tabel.

1. Di sel berikutnya, masukkan kode berikut untuk menjalankan analisis tersebut di tabel top_terms AS:

   %bigquery_stats bigquery-public-data.google_trends.top_terms
   

2. Klik  Run cell.

   Setelah berjalan selama beberapa waktu, gambar akan muncul dengan berbagai statistik untuk masing-masing dari 7 variabel dalam tabel top_terms. Gambar berikut menunjukkan bagian dari beberapa contoh output:

   

Catatan: Hasil Anda dapat berbeda dari yang ada di atas karena set data google_trends yang dikueri akan diperbarui dengan data baru secara berkelanjutan.

Melihat histori kueri dan menggunakan kembali kueri

Untuk melihat histori kueri Anda sebagai tab di JupyterLab, lakukan langkah-langkah berikut:

1. Di menu navigasi JupyterLab, klik  BigQuery di Notebooks untuk membuka panel BigQuery.

2. Di panel BigQuery, scroll ke bawah, lalu klik Query history.

   

   Daftar kueri akan terbuka di tab baru, tempat Anda dapat melakukan tugas seperti berikut:

   • Untuk melihat detail kueri seperti ID pekerjaannya, kapan kueri dijalankan, dan berapa lama waktu yang diperlukan, klik kueri tersebut.
   • Untuk merevisi kueri, menjalankannya lagi, atau menyalinnya ke dalam notebook untuk digunakan di lain waktu, klik Open query in editor.

Catatan: Jika Anda menjalankan kueri setelah membuka tab ini, klik  Refresh untuk menampilkan kueri terbaru.

Simpan dan download notebook Anda

Di bagian ini, Anda akan menyimpan notebook dan mendownloadnya jika ingin menggunakannya di masa mendatang setelah membersihkan resource yang digunakan dalam tutorial ini.

1. Pilih File > Save Notebook.
2. Pilih File > Download untuk mendownload salinan lokal notebook Anda sebagai file IPYNB di komputer.

Pembersihan

Cara termudah untuk menghilangkan penagihan adalah dengan menghapus project Google Cloud yang Anda buat untuk tutorial ini.

Perhatian: Menghapus project memiliki efek berikut:

• Semua hal dalam project akan dihapus. Jika menggunakan project yang sudah ada untuk tugas dalam dokumen ini, saat Anda menghapusnya, pekerjaan lain yang telah Anda lakukan dalam project tersebut juga akan terhapus.
• Project ID kustom hilang. Saat membuat project ini, Anda mungkin telah membuat project ID kustom yang ingin digunakan di masa mendatang. Untuk mempertahankan URL yang menggunakan project ID, seperti URL appspot.com, hapus resource yang dipilih di dalam project, bukan menghapus seluruh project.

Jika Anda berencana mempelajari berbagai arsitektur, tutorial, atau panduan memulai, menggunakan kembali project dapat membantu agar Anda tidak melampaui batas kuota project.

1. Di konsol Google Cloud, buka halaman Manage resource.

   Buka Manage resource

2. Pada daftar project, pilih project yang ingin Anda hapus, lalu klik Delete.
3. Pada dialog, ketik project ID, lalu klik Shut down untuk menghapus project.

Langkah selanjutnya

• Guna mempelajari lebih lanjut cara menulis kueri untuk BigQuery, baca Menjalankan tugas kueri batch dan interaktif.
• Untuk mempelajari Vertex AI Workbench lebih lanjut, lihat Vertex AI Workbench.