Melihat dasbor pemantauan

Model Armor menyaring perintah dan respons untuk aplikasi LLM Anda. Dasbor pemantauan memberi Anda data, metrik, dan visualisasi yang dihasilkan dari proses penapisan ini. Gunakan insight ini untuk memahami cara Model Armor melindungi aplikasi AI Anda, mengidentifikasi upaya injeksi perintah dan aktivitas berbahaya lainnya.

Sebelum memulai

Aktifkan Model Armor.

Izin yang diperlukan

Untuk mendapatkan izin yang diperlukan untuk mengakses dasbor pemantauan, minta administrator untuk memberi Anda peran IAM di project. Untuk mengetahui informasi selengkapnya tentang pemberian peran, lihat Mengelola akses ke project, folder, dan organisasi.

Peran bawaan ini berisi izin yang diperlukan untuk mengakses dasbor pemantauan. Untuk melihat izin yang benar-benar diperlukan, luaskan bagian Izin yang diperlukan:

Izin yang diperlukan

Izin berikut diperlukan untuk mengakses dasbor pemantauan:

  • monitoring.monitoredResourceDescriptors.list
  • monitoring.metricDescriptors.list

Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.

Mengakses dasbor pemantauan

  1. Di konsol Google Cloud , buka halaman Model Armor.

    Buka Model Armor

  2. Pastikan Anda melihat project tempat Anda mengaktifkan Model Armor.

  3. Buka tab Monitoring.

Dari halaman ini, Anda dapat melakukan hal berikut:

  • Melihat interaksi selama tanggal dan waktu yang dipilih.
  • Memfilter interaksi berdasarkan template atau setelan lantai, lokasi, titik integrasi, dan jenis input yang terkait.
  • Mendownload data ke file PNG atau CSV.
  • Lacak pelanggaran dari waktu ke waktu dengan diagram tren.
  • Melihat template yang digunakan di seluruh project.

  • Periksa log terkait untuk melihat log selama tanggal dan waktu yang dipilih. Untuk melakukannya, klik Opsi diagram lainnya > Periksa log terkait.

    Untuk memeriksa log terkait, Anda harus mengaktifkan logging di template dan setelan lantai, serta Anda harus memiliki izin IAM untuk melihat log.

Metrik utama

Metrik utama di dasbor pemantauan mencakup hal berikut:

  • Total interaksi yang dipindai: Total volume perintah dan respons yang dianalisis oleh Model Armor.
  • Interaksi yang ditandai: Jumlah interaksi yang melanggar setidaknya satu kebijakan yang dikonfigurasi dalam template Model Armor atau setelan minimum Anda.
  • Interaksi yang diblokir: Jumlah interaksi yang diblokir (jika Anda telah mengonfigurasi Model Armor dalam mode inspeksi dan pemblokiran).
  • Pelanggaran menurut kategori:
    • Semua pendeteksi: Konten yang dilanggar oleh semua pendeteksi.
    • Pelanggaran data sensitif: Keberadaan informasi identitas pribadi (PII), data keuangan, atau jenis data kustom yang telah Anda tentukan.
    • AI yang Bertanggung Jawab: Konten yang melanggar filter keamanan seperti ujaran kebencian, konten berbahaya, pelecehan, atau konten seksual vulgar.

Langkah berikutnya