Membuat dan mengelola template Model Armor

Halaman ini menjelaskan cara membuat, melihat, memperbarui, dan menghapus template Model Armor.

Membuat template Model Armor

Konsol

  1. Di konsol Google Cloud, buka halaman Model Armor.

    Buka Model Armor

  2. Pastikan Anda melihat project tempat Anda mengaktifkan Model Armor.

  3. Di halaman Model Armor, klik Create Template. Halaman Create Template akan ditampilkan.

  4. Tentukan Template ID. ID template dapat berisi huruf, angka, atau tanda hubung. Nama tidak boleh melebihi 63 karakter dan tidak boleh memiliki spasi atau diawali dengan tanda hubung.

  5. Pilih Region untuk menjalankan template Model Armor Anda. Anda tidak dapat mengubah wilayah nanti.

  6. Opsional: Tambahkan Label. Label adalah pasangan nilai kunci yang dapat Anda gunakan untuk mengelompokkan template terkait.

  7. Di bagian Detections, konfigurasikan setelan deteksi berikut:

    • Deteksi URL berbahaya: Mengidentifikasi alamat web (URL) yang dirancang untuk membahayakan pengguna atau sistem. URL ini dapat mengarah ke situs phishing, download malware, atau serangan cyber lainnya. Untuk mengetahui informasi selengkapnya, lihat Deteksi URL berbahaya.

    • Injeksi prompt dan deteksi jailbreak: Mendeteksi konten berbahaya dan upaya jailbreak dalam prompt. Untuk penegakan yang lebih ketat, tetapkan tingkat keyakinan ke Rendah dan di atas** untuk mendeteksi sebagian besar konten yang kemungkinan merupakan upaya jailbreak dan injeksi perintah. Untuk informasi selengkapnya, lihat Injeksi perintah dan deteksi jailbreak.

    • Perlindungan Data Sensitif: Mendeteksi data sensitif dan membantu mencegah eksposur yang tidak disengaja dari serangan seperti injeksi perintah. Untuk mengetahui informasi selengkapnya, lihat Perlindungan Data Sensitif.

      Anda dapat menetapkan Perlindungan Data Sensitif dasar atau lanjutan.

      • Dasar - Gunakan infoType yang telah ditentukan sebelumnya untuk mendeteksi jenis data sensitif. Untuk informasi selengkapnya tentang infoType yang telah ditetapkan, lihat Konfigurasi Dasar Perlindungan Data Sensitif.

      • Lanjutan - Gunakan template pemeriksaan yang ditentukan di layanan Perlindungan Data Sensitif sebagai satu sumber untuk infoType data sensitif.

        Jika memilih Perlindungan Data Sensitif Lanjutan, Anda harus menentukan parameter berikut:

        • Template inspeksi: Template untuk menyimpan informasi konfigurasi untuk tugas pemindaian inspeksi, termasuk detektor bawaan atau kustom yang akan digunakan. Masukkan nama template dalam format berikut: projects/projectName/locations/locationID/inspectTemplates/templateName

        • Opsional: De-identify template: Template untuk menyimpan informasi konfigurasi untuk tugas de-identifikasi, termasuk infoType dan transformasi set data terstruktur. Masukkan ID untuk template anonim/beridentitas lain dalam format berikut: projects/projectName/locations/locationID/deidentifyTemplates/templateName

  8. Di bagian Responsible AI, Anda dapat menetapkan tingkat keyakinan untuk setiap filter konten. Tingkat keyakinan menunjukkan seberapa besar kemungkinan temuan cocok dengan jenis filter konten. Nilainya dapat berupa:

    • Tidak ada: Jangan mendeteksi jenis konten apa pun.
    • Rendah dan di atas: Mendeteksi konten dengan tingkat keyakinan rendah, sedang, atau tinggi.
    • Sedang dan di atas: Mendeteksi konten dengan tingkat keyakinan sedang atau tinggi.
    • Tinggi: Mendeteksi konten dengan tingkat keyakinan tinggi.

    Untuk penerapan yang lebih ketat, tetapkan tingkat keyakinan ke Rendah dan di atas untuk mendeteksi sebagian besar konten yang termasuk dalam jenis filter konten. Anda juga dapat memilih tingkat keyakinan untuk semua jenis konten sekaligus.

  9. Klik Buat.

gcloud

Jalankan perintah berikut:

gcloud model-armor templates create TEMPLATE_ID --location LOCATION

Ganti kode berikut:

  • LOCATION adalah lokasi template.
  • TEMPLATE_ID adalah ID template.

Berikut adalah contoh dengan semua filter.

 gcloud model-armor templates create --location LOCATION TEMPLATE_ID 

  --rai-settings-filters='[{ "filterType": "HATE_SPEECH", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "HARASSMENT", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "SEXUALLY_EXPLICIT", "confidenceLevel": "MEDIUM_AND_ABOVE" }]' 

  --basic-config-filter-enforcement=enabled  

  --pi-and-jailbreak-filter-settings-enforcement=enabled 

  --pi-and-jailbreak-filter-settings-confidence-level=LOW_AND_ABOVE 

  --malicious-uri-filter-settings-enforcement=enabled 

  --template-metadata-custom-llm-response-safety-error-code=798 

  --template-metadata-custom-llm-response-safety-error-message="test template llm response evaluation failed" 

  --template-metadata-custom-prompt-safety-error-code=799 

  --template-metadata-custom-prompt-safety-error-message="test template prompt evaluation failed" 

  --template-metadata-ignore-partial-invocation-failures 

  --template-metadata-log-operations 

  --template-metadata-log-sanitize-operations

REST

Gunakan perintah ini untuk membuat template Model Armor baru.

  curl -X POST \
    -d "{'FILTER_CONFIG': {} }" \
    -H "Content-Type: application/json" \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
        "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"

Ganti kode berikut:

  • FILTER_CONFIG adalah konfigurasi filter untuk template.
  • PROJECT_ID adalah ID project tempat template berada.
  • TEMPLATE_ID adalah ID template yang akan dibuat.
  • LOCATION adalah lokasi template.

Ikuti langkah-langkah ini untuk mendapatkan token ini.

Contoh berikut menjelaskan konfigurasi template Model Armor.

  1. Buat konfigurasi (dalam hal ini, FILTER_CONFIG) filter yang ingin Anda periksa dengan template Model Armor, dan pada tingkat keyakinan apa jika berlaku.
  2. Buat template Model Armor (dalam hal ini, ma-template-id-1234) menggunakan konfigurasi yang Anda buat.

Perhatikan bahwa LOW_AND_ABOVE berarti konten apa pun dengan kemungkinan RENDAH, SEDANG, atau TINGGI akan ditandai.

  export FILTER_CONFIG='{
   "filterConfig": {
    "raiSettings": {
     "raiFilters": [{
       "filterType": "HATE_SPEECH",
       "confidenceLevel": "MEDIUM_AND_ABOVE"
      }, {
      "filterType": "HARASSMENT",
      "confidenceLevel": "HIGH"
    }, {
      "filterType": "DANGEROUS",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    },{
      "filterType": "SEXUALLY_EXPLICIT",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    }]
  },

  "piAndJailbreakFilterSettings": {
    "filterEnforcement": "ENABLED",
    "confidenceLevel": "LOW_AND_ABOVE"
  },
  "maliciousUriFilterSettings": {
    "filterEnforcement": "ENABLED"
  }
 }
}'

curl -X POST \
 -d  $FILTER_CONFIG \
 -H "Content-Type: application/json" \
 -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION_ID/ templates?template_id=TEMPLATE_ID"

Python

Untuk menjalankan perintah ini, inisialisasi klien Model Armor di Python terlebih dahulu.

  request = modelarmor_v1.CreateTemplateRequest(
    parent="projects/PROJECT_ID/locations/LOCATION",
    template_id="TEMPLATE_ID",
    {
      "name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
      "filter_config": FILTER_CONFIG
    }
  )
  response = client.create_template(request=request)

Ganti kode berikut:

  • FILTER_CONFIG adalah konfigurasi filter untuk template.
  • PROJECT_ID adalah ID project tempat template berada.
  • TEMPLATE_ID adalah ID template yang akan dibuat.
  • LOCATION adalah lokasi template.

Melihat template Model Armor

Konsol

  1. Di konsol Google Cloud, buka halaman Model Armor.

    Buka Model Armor

  2. Pastikan Anda melihat project tempat Anda mengaktifkan Model Armor. Halaman Model Armor ditampilkan yang mencantumkan template yang dibuat untuk project Anda.

  3. Klik template mana pun dari daftar untuk melihat detailnya.

gcloud

Jalankan perintah berikut:

gcloud model-armor templates describe TEMPLATE_ID --location LOCATION

Ganti kode berikut:

  • LOCATION adalah lokasi template.
  • TEMPLATE_ID adalah ID template.

REST

Jalankan perintah berikut:

curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
  "https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID"

Ganti kode berikut:

  • PROJECT_ID adalah ID project tempat template berada.
  • TEMPLATE_ID adalah ID template yang akan dilihat.
  • LOCATION adalah lokasi template.

Python

Untuk menjalankan perintah ini, inisialisasi klien Model Armor di Python terlebih dahulu.

  request = modelarmor_v1.GetTemplateRequest(
    name="projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
    )
  response = client.get_template(request=request)

Ganti kode berikut:

  • PROJECT_ID adalah ID project tempat template berada.
  • TEMPLATE_ID adalah ID template yang akan dilihat.
  • LOCATION adalah lokasi template.

Memperbarui template Model Armor

Konsol

  1. Di konsol Google Cloud, buka halaman Model Armor.

    Buka Model Armor

  2. Pastikan Anda melihat project tempat Anda mengaktifkan Model Armor. Halaman Model Armor ditampilkan yang mencantumkan template yang dibuat untuk organisasi Anda.

  3. Klik template yang ingin Anda perbarui dari daftar. Halaman Template details akan ditampilkan.

  4. Klik Edit.

  5. Perbarui parameter yang diperlukan, lalu klik Save.

gcloud

Jalankan perintah berikut:

gcloud model-armor templates update TEMPLATE_ID --location LOCATION

Ganti kode berikut:

  • LOCATION adalah lokasi template.
  • TEMPLATE_ID adalah ID template.

REST

Jalankan perintah berikut:

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d $FILTER_CONFIG \
  "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID?update_mask=FILTER_CONFIG"

Ganti kode berikut:

  • PROJECT_ID adalah ID project tempat template berada.
  • LOCATION adalah lokasi template.
  • TEMPLATE_ID adalah ID template.
  • FILTER_CONFIG adalah representasi JSON dari konfigurasi filter.

Semua kolom lainnya tidak dapat diubah. Upaya yang dilakukan untuk memperbarui kolom lain (misalnya, upaya untuk memperbarui nama template) akan menghasilkan error.

Python

Untuk menjalankan perintah ini, inisialisasi klien Model Armor di Python terlebih dahulu.

  request = modelarmor_v1.UpdateTemplateRequest(
    template={
      "name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
      "filter_config": FILTER_CONFIG
    }
  )
  response = client.update_template(request=request)

Ganti kode berikut:

  • FILTER_CONFIG adalah konfigurasi filter untuk template.
  • PROJECT_ID adalah ID project tempat template berada.
  • TEMPLATE_ID adalah ID template yang akan diperbarui.
  • LOCATION adalah lokasi template.

Menghapus template Model Armor

Konsol

  1. Di konsol Google Cloud, buka halaman Model Armor.

    Buka Model Armor

  2. Pastikan Anda melihat project tempat Anda mengaktifkan Model Armor. Halaman Model Armor ditampilkan yang mencantumkan template yang dibuat untuk organisasi Anda.

  3. Klik template yang ingin Anda hapus dari daftar. Halaman Template details akan ditampilkan.

  4. Klik Hapus. Dialog konfirmasi akan ditampilkan.

  5. Masukkan nama template untuk mengonfirmasi penghapusan, lalu klik Hapus.

gcloud

Jalankan perintah berikut:

gcloud model-armor templates delete TEMPLATE_ID --location LOCATION

Ganti kode berikut:

  • LOCATION adalah lokasi template.
  • TEMPLATE_ID adalah ID template.

REST

Jalankan perintah berikut:

curl -X DELETE \
-H "Authorization: Bearer $(gcloud auth print-access-token)"  \
  "https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID"

Ganti kode berikut:

  • PROJECT_ID adalah ID project tempat template berada.
  • LOCATION adalah lokasi template.
  • TEMPLATE_ID adalah ID template.

Python

Untuk menjalankan perintah ini, inisialisasi klien Model Armor di Python terlebih dahulu.

  request = modelarmor_v1.DeleteTemplateRequest(
    name="projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
  )
  response = client.delete_template(request=request)

Ganti kode berikut:

  • PROJECT_ID adalah ID project tempat template berada.
  • TEMPLATE_ID adalah ID template yang akan dihapus.
  • LOCATION adalah lokasi template.

Langkah berikutnya