Mengonfigurasi notifikasi BigQuery

Cloud Build dapat memberi tahu Anda tentang update build dengan mengirim notifikasi ke saluran yang diinginkan, seperti Slack atau server SMTP Anda. Halaman ini menjelaskan cara mengonfigurasi notifikasi menggunakan notifikasi BigQuery.

Notifikasi BigQuery menyediakan fungsi bagi Anda untuk menentukan filter yang akan digunakan untuk menyimpan build di database. Misalnya, Anda dapat mengelompokkan build menurut ID pemicu, tag, atau nilai penggantian. Notifikasi BigQuery juga menulis data ke BigQuery dalam format standar yang menyertakan kolom komputasi yang tidak dapat langsung diakses di objek Build, seperti ukuran gambar atau durasi eksekusi. Jika Anda ingin mempelajari cara mengekspor entri log ke BigQuery atau tujuan lain, lihat Mengekspor log dengan Konsol Google Cloud.

Sebelum memulai

  • Enable the Cloud Build, Cloud Run, Pub/Sub, and BigQuery APIs.

    Enable the APIs

Mengonfigurasi notifikasi BigQuery

Bagian berikut menjelaskan cara mengonfigurasi notifikasi HTTP secara manual menggunakan notifikasi BigQuery. Jika Anda ingin mengotomatiskan konfigurasi, lihat Mengotomatiskan konfigurasi untuk notifikasi.

Untuk mengonfigurasi notifikasi BigQuery:

  1. Berikan izin akun layanan Cloud Run untuk membuat dan menulis tabel BigQuery, izin untuk mengambil data Artifact Registry yang terkait dengan build Anda, serta akses baca dan tulis ke bucket Cloud Storage:

    1. Buka halaman IAM di konsol Google Cloud:

      Buka halaman IAM

    2. Temukan akun layanan default Compute Engine yang terkait dengan project Anda:

      Akun layanan default Compute Engine Anda akan terlihat seperti berikut:

      project-number-compute@developer.gserviceaccount.com
      
    3. Klik ikon pensil di baris yang berisi akun layanan default Compute Engine Anda. Anda akan melihat tab Edit akses.

    4. Klik Add another role.

    5. Tambahkan peran berikut:

      • Pembaca Artifact Registry
      • BigQuery Data Editor
      • Storage Object Viewer

      Peran Artifact Registry Reader memungkinkan Anda mengambil data untuk image. BigQuery Data Editor memberi Anda akses baca dan tulis ke data. Storage Object Viewer memberi Anda akses baca ke objek Cloud Storage.

    6. Klik Simpan.

  2. Tulis file konfigurasi notifikasi untuk mengonfigurasi notifikasi BigQuery dan memfilter peristiwa build:

    Dalam contoh file konfigurasi notifikasi berikut, kolom filter menggunakan Common Expression Language dengan variabel, build, untuk memfilter peristiwa build dengan ID pemicu yang ditentukan:

    apiVersion: cloud-build-notifiers/v1
    kind: BigQueryNotifier
    metadata:
      name: example-bigquery-notifier
    spec:
      notification:
        filter: build.build_trigger_id == "123e4567-e89b-12d3-a456-426614174000"
        params:
          buildStatus: $(build.status)
        delivery:
          table: projects/project-id/datasets/dataset-name/tables/table-name
        template:
          type: golang
          uri: gs://example-gcs-bucket/bq.json
    

    Dengan keterangan:

    • buildStatus adalah parameter yang ditentukan pengguna. Parameter ini menggunakan nilai ${build.status}, status build.
    • project-id adalah ID project Google Cloud Anda.
    • dataset-name adalah nama yang ingin Anda berikan ke set data.
    • table-name adalah nama yang ingin Anda berikan ke tabel.
    • Kolom uri mereferensikan file bq.json. File ini merujuk ke template JSON yang dihosting di Cloud Storage dan mewakili informasi yang akan disisipkan ke dalam tabel bigquery Anda.

    Untuk melihat contoh file template, lihat file bq.json di cloud-build-notifiers-repository.

    table-name dalam file konfigurasi notifikasi Anda dapat mengacu ke:

    • tabel yang tidak ada
    • tabel kosong tanpa skema
    • tabel yang ada dengan skema yang cocok dengan spesifikasi skema di notifikasi BigQuery

    Sebaiknya tentukan ID pemicu build sebagai filter karena menentukan ID pemicu build memungkinkan Anda mengaitkan data build untuk pemicu. Anda juga dapat menentukan beberapa ID pemicu dalam daftar: build.build_trigger_id in ["example-id-123", "example-id-456"].

    Untuk mendapatkan ID pemicu, jalankan perintah berikut, dengan trigger-name adalah nama pemicu Anda:

    gcloud builds triggers describe trigger-name

    Perintah ini akan mencantumkan kolom yang terkait dengan pemicu Anda, termasuk ID pemicu.

    Untuk melihat contohnya, lihat file konfigurasi notifikasi untuk notifikasi BigQuery.

    Untuk kolom tambahan yang dapat Anda gunakan untuk memfilter, lihat resource Build. Untuk contoh pemfilteran tambahan, lihat Menggunakan CEL untuk memfilter peristiwa build.

  3. Upload file konfigurasi notifikasi ke bucket Cloud Storage:

    1. Jika Anda tidak memiliki bucket Cloud Storage, jalankan perintah berikut untuk membuat bucket, dengan bucket-name adalah nama yang ingin Anda berikan untuk bucket, tunduk pada persyaratan penamaan.

      gcloud storage buckets create gs://bucket-name/
      
    2. Upload file konfigurasi notifikasi ke bucket Anda:

      gcloud storage cp config-file-name gs://bucket-name/config-file-name
      

      Dengan keterangan:

      • bucket-name adalah nama bucket Anda.
      • config-file-name adalah nama file konfigurasi notifikasi Anda.
  4. Deploy pemberitahuan ke Cloud Run:

     gcloud run deploy service-name \
       --image=us-east1-docker.pkg.dev/gcb-release/cloud-build-notifiers/bigquery:latest \
       --no-allow-unauthenticated \
       --update-env-vars=CONFIG_PATH=config-path,PROJECT_ID=project-id
    

    Dengan keterangan:

    • service-name adalah nama layanan Cloud Run tempat Anda men-deploy gambar.

    • config-path adalah jalur ke file konfigurasi untuk notifikasi BigQuery, gs://bucket-name/config-file-name.

    • project-id adalah ID project Google Cloud Anda.

    Perintah gcloud run deploy mengambil versi terbaru image build Anda dari Artifact Registry. Cloud Build mendukung gambar notifikasi selama sembilan bulan. Setelah sembilan bulan, Cloud Build akan menghapus versi image. Jika ingin menggunakan versi gambar sebelumnya, Anda harus menentukan versi semantik lengkap tag gambar di atribut image perintah gcloud run deploy. Versi dan tag image sebelumnya dapat ditemukan di Artifact Registry.

  5. Berikan izin Pub/Sub untuk membuat token autentikasi di project Anda:

     gcloud projects add-iam-policy-binding project-id \
       --member=serviceAccount:service-project-number@gcp-sa-pubsub.iam.gserviceaccount.com \
       --role=roles/iam.serviceAccountTokenCreator
    

    Dengan keterangan:

    • project-id adalah ID project Google Cloud Anda.
    • project-number adalah nomor project Google Cloud Anda.
  6. Buat akun layanan untuk merepresentasikan identitas langganan Pub/Sub Anda:

    gcloud iam service-accounts create cloud-run-pubsub-invoker \
      --display-name "Cloud Run Pub/Sub Invoker"
    

    Anda dapat menggunakan cloud-run-pubsub-invoker atau menggunakan nama yang unik dalam project Google Cloud Anda.

  7. Berikan izin Invoker Cloud Run ke akun layanan cloud-run-pubsub-invoker:

    gcloud run services add-iam-policy-binding service-name \
       --member=serviceAccount:cloud-run-pubsub-invoker@project-id.iam.gserviceaccount.com \
       --role=roles/run.invoker
    

    Dengan keterangan:

    • service-name adalah nama layanan Cloud Run tempat Anda men-deploy gambar.
    • project-id adalah ID project Google Cloud Anda.
  8. Buat topik cloud-builds untuk menerima pesan update build untuk notifikasi Anda:

    gcloud pubsub topics create cloud-builds
    
  9. Buat pelanggan push Pub/Sub untuk notifikasi Anda:

     gcloud pubsub subscriptions create subscriber-id \
       --topic=cloud-builds \
       --push-endpoint=service-url \
       --push-auth-service-account=cloud-run-pubsub-invoker@project-id.iam.gserviceaccount.com
    

    Dengan keterangan:

    • subscriber-id adalah nama yang ingin Anda berikan ke langganan.
    • service-url adalah URL yang dibuat Cloud Run untuk layanan baru Anda.
    • project-id adalah ID project Google Cloud Anda.

Notifikasi untuk project Cloud Build Anda kini telah disiapkan.

Saat Anda memanggil build lagi, tabel akan diperbarui dengan data terbaru yang cocok dengan filter yang telah Anda konfigurasikan untuk notifikasi BigQuery.

Melihat data build

Untuk melihat data build di BigQuery:

  1. Buka halaman konsol BigQuery:

    Buka halaman BigQuery

  2. Di bagian Resources, klik ID project yang Anda gunakan untuk mengonfigurasi pemberitahuan BigQuery.

  3. Klik nama set data Anda.

  4. Klik nama tabel Anda.

Sekarang Anda dapat melihat informasi terkait tabel, termasuk skema dan pratinjau data build seperti yang tercantum dalam tabel.

Mengakses data build

Anda dapat membuat kueri data di tabel menggunakan alat command line bq atau konsol BigQuery.

CLI

Untuk membuat kueri data dalam tabel menggunakan alat command line bq, jalankan perintah berikut di terminal, dengan sql-query adalah kueri Anda:

bq query sql-query

Jika Anda berencana menggunakan contoh kueri di halaman ini, pastikan Anda menentukan flag --nouse_legacy_sql dalam perintah Anda. Alat command line bq menggunakan Legacy SQL, sedangkan contoh kueri tidak. Jalankan perintah berikut di terminal untuk membuat kueri data tanpa Legacy SQL:

bq query sql-query --nouse_legacy_sql

Konsol

Untuk membuat kueri data di tabel menggunakan konsol BigQuery:

  1. Buka halaman konsol BigQuery:

    Buka halaman BigQuery

  2. Di bagian Fasilitas, klik nama tabel yang ingin Anda buat kueri.

  3. Tulis kueri SQL Anda di Editor kueri.

Menggunakan kueri untuk mengakses data build

Contoh kueri berikut menunjukkan cara mengakses data build untuk peristiwa build, setelah konfigurasi notifikasi BigQuery:

Histori build secara keseluruhan

SELECT * FROM `projectID.datasetName.tableName`

Jumlah build yang dikelompokkan menurut status

SELECT STATUS, COUNT(*)
FROM `projectID.datasetName.tableName`
GROUP BY STATUS

Frekuensi deployment harian untuk minggu ini

SELECT DAY, COUNT(STATUS) AS Deployments
FROM (SELECT DATETIME_TRUNC(CreateTime, WEEK) AS WEEK,
      DATETIME_TRUNC(CreateTime, DAY) AS DAY,
      STATUS
      FROM `projectID.datasetName.tableName`
      WHERE STATUS="SUCCESS")
WHERE WEEK = DATETIME_TRUNC(CURRENT_DATETIME(), WEEK)
GROUP BY DAY

Untuk melihat contoh kueri lainnya, lihat README Notifier BigQuery Cloud Build di repositori cloud-build-notifiers di GitHub. Untuk mempelajari lebih lanjut cara membuat kueri data menggunakan BigQuery, lihat Membuat kueri dan melihat data.

Menggunakan CEL untuk memfilter peristiwa build

Cloud Build menggunakan CEL dengan variabel, build, pada kolom yang tercantum dalam resource Build untuk mengakses kolom yang terkait dengan peristiwa build Anda seperti ID pemicu, daftar gambar, atau nilai penggantian. Anda dapat menggunakan string filter untuk memfilter peristiwa build dalam file konfigurasi build menggunakan kolom apa pun yang tercantum dalam resource Build. Untuk menemukan sintaksis yang tepat yang terkait dengan kolom Anda, lihat file cloudbuild.proto.

Memfilter menurut ID pemicu

Untuk memfilter menurut ID pemicu, tentukan nilai ID pemicu di kolom filter menggunakan build.build_trigger_id, dengan trigger-id adalah ID pemicu Anda sebagai string:

filter: build.build_trigger_id == trigger-id

Memfilter menurut status

Untuk memfilter menurut status, tentukan status build yang ingin Anda filter di kolom filter menggunakan build.status.

Contoh berikut menunjukkan cara memfilter peristiwa build dengan status SUCCESS menggunakan kolom filter:

filter: build.status == Build.Status.SUCCESS

Anda juga dapat memfilter build dengan status yang bervariasi. Contoh berikut menunjukkan cara memfilter peristiwa build yang memiliki status SUCCESS, FAILURE, atau TIMEOUT menggunakan kolom filter:

filter: build.status in [Build.Status.SUCCESS, Build.Status.FAILURE, Build.Status.TIMEOUT]

Untuk melihat nilai status tambahan yang dapat Anda filter, lihat Status di bagian Referensi resource Build.

Memfilter menurut tag

Untuk memfilter menurut tag, tentukan nilai tag Anda di kolom filter menggunakan build.tags, dengan tag-name adalah nama tag Anda:

filter: tag-name in build.tags

Anda dapat memfilter berdasarkan jumlah tag yang ditentukan dalam peristiwa build menggunakan size. Dalam contoh berikut, filter kolom filter membuat peristiwa yang memiliki tepat dua tag yang ditentukan dengan satu tag yang ditentukan sebagai v1:

filter: size(build.tags) == 2 && "v1" in build.tags

Memfilter berdasarkan gambar

Untuk memfilter menurut image, tentukan nilai image Anda di kolom filter menggunakan build.images, dengan image-name adalah nama lengkap image Anda seperti yang tercantum di Artifact Registry seperti us-east1-docker.pkg.dev/my-project/docker-repo/image-one:

filter: image-name in build.images

Pada contoh berikut, filter filter pada peristiwa build yang memiliki us-east1-docker.pkg.dev/my-project/docker-repo/image-one atau us-east1-docker.pkg.dev/my-project/docker-repo/image-two yang ditentukan sebagai nama gambar:

filter: "us-east1-docker.pkg.dev/my-project/docker-repo/image-one" in build.images || "us-east1-docker.pkg.dev/my-project/docker-repo/image-one" in build.images

Memfilter menurut waktu

Anda dapat memfilter peristiwa build berdasarkan waktu pembuatan, waktu mulai, atau waktu selesai build dengan menentukan salah satu opsi berikut di kolom filter: build.create_time, build.start_time, atau build.finish_time.

Dalam contoh berikut, kolom filter menggunakan timestamp untuk memfilter peristiwa build dengan waktu permintaan untuk membuat build pada 20 Juli 2020 pukul 06.00:

filter: build.create_time == timestamp("2020-07-20:T06:00:00Z")

Anda juga dapat memfilter peristiwa build berdasarkan perbandingan waktu. Dalam contoh berikut, kolom filter menggunakan timestamp untuk memfilter peristiwa build dengan waktu mulai antara 20 Juli 2020 pukul 06.00 dan 30 Juli 2020 pukul 06.00.

filter: timestamp("2020-07-20:T06:00:00Z") >= build.start_time && build.start_time <= timestamp("2020-07-30:T06:00:00Z")

Untuk mempelajari lebih lanjut cara zona waktu dinyatakan dalam CEL, lihat definisi bahasa untuk zona waktu.

Untuk memfilter berdasarkan durasi build, Anda dapat menggunakan duration untuk membandingkan stempel waktu. Dalam contoh berikut, kolom filter menggunakan duration untuk memfilter peristiwa build dengan build yang berjalan setidaknya selama lima menit:

filter: build.finish_time - build.start_time >= duration("5m")

Memfilter berdasarkan penggantian

Anda dapat memfilter menurut penggantian dengan menentukan variabel penggantian di kolom filter menggunakan build.substitutions. Dalam contoh berikut, kolom filter mencantumkan build yang berisi variabel penggantian substitution-variable dan memeriksa apakah substitution-variable cocok dengan substitution-value yang ditentukan:

filter: build.substitutions[substitution-variable] == substitution-value

Dengan keterangan:

  • substitution-variable adalah nama variabel penggantian Anda.
  • substitution-value adalah nama nilai penggantian Anda.

Anda juga dapat memfilter berdasarkan nilai variabel penggantian default. Dalam contoh berikut, kolom filter mencantumkan build yang memiliki nama cabang master dan build yang memiliki nama repositori github.com/user/my-example-repo. Variabel penggantian default BRANCH_NAME dan REPO_NAME diteruskan sebagai kunci ke build.substitutions:

filter: build.substitutions["BRANCH_NAME"] == "master" && build.substitutions["REPO_NAME"] == "github.com/user/my-example-repo"

Jika ingin memfilter string menggunakan ekspresi reguler, Anda dapat menggunakan fungsi matches bawaan. Pada contoh di bawah, kolom filter memfilter build dengan status FAILURE atau TIMEOUT dan juga memiliki variabel penggantian build TAG_NAME dengan nilai yang cocok dengan ekspresi reguler v{DIGIT}.{DIGIT}.{3 DIGITS}).

filter: build.status in [Build.Status.FAILURE, Build.Status.TIMEOUT] && build.substitutions["TAG_NAME"].matches("^v\\d{1}\\.\\d{1}\\.\\d{3}$")

Untuk melihat daftar nilai penggantian default, lihat Menggunakan penggantian default.

Langkah selanjutnya