Membuat template Model Armor
Konsol
Di konsol Google Cloud, buka halaman Model Armor.
Pastikan Anda melihat project tempat Anda mengaktifkan Model Armor.
Di halaman Model Armor, klik Create Template. Halaman Create Template akan ditampilkan.
Tentukan Template ID. ID template dapat berisi huruf, angka, atau tanda hubung. Nama tidak boleh melebihi 63 karakter dan tidak boleh memiliki spasi atau diawali dengan tanda hubung.
Pilih Region untuk menjalankan template Model Armor Anda. Anda tidak dapat mengubah wilayah nanti.
Opsional: Tambahkan Label. Label adalah pasangan nilai kunci yang dapat Anda gunakan untuk mengelompokkan template terkait.
Di bagian Detections, konfigurasikan setelan deteksi berikut:
Deteksi URL berbahaya: Mengidentifikasi alamat web (URL) yang dirancang untuk membahayakan pengguna atau sistem. URL ini dapat mengarah ke situs phishing, download malware, atau serangan cyber lainnya. Untuk mengetahui informasi selengkapnya, lihat Deteksi URL berbahaya.
Injeksi perintah dan deteksi jailbreak: Mendeteksi konten berbahaya dan upaya jailbreak dalam perintah. Untuk penegakan yang lebih ketat, tetapkan tingkat keyakinan ke Rendah dan di atas** untuk mendeteksi sebagian besar konten yang kemungkinan merupakan upaya jailbreak dan injeksi perintah. Untuk informasi selengkapnya, lihat Injeksi perintah dan deteksi jailbreak.
Sensitive Data Protection: Mendeteksi data sensitif, mencegah eksposur yang tidak disengaja, dan memblokir upaya untuk mengekstrak data dari model AI melalui serangan seperti injeksi perintah. Untuk mengetahui informasi selengkapnya, lihat Perlindungan Data Sensitif.
Anda dapat menetapkan Perlindungan Data Sensitif dasar atau lanjutan.
Dasar - Gunakan infoType standar untuk mendeteksi jenis data sensitif. Untuk informasi selengkapnya tentang infoType yang telah ditetapkan, lihat Konfigurasi Dasar Perlindungan Data Sensitif.
Lanjutan - Gunakan template pemeriksaan yang ditentukan di layanan Perlindungan Data Sensitif sebagai satu sumber untuk infoType data sensitif.
Jika memilih Perlindungan Data Sensitif Lanjutan, Anda harus menentukan parameter berikut:
Template inspeksi: Template untuk menyimpan informasi konfigurasi untuk tugas pemindaian inspeksi, termasuk detektor bawaan atau kustom yang akan digunakan. Masukkan nama template dalam format berikut:
projects/projectName/locations/locationID/inspectTemplates/templateNameOpsional: Template de-identifikasi: Template untuk menyimpan informasi konfigurasi untuk tugas de-identifikasi, termasuk infoType dan transformasi set data terstruktur. Masukkan ID untuk template anonim/beridentitas lain dalam format berikut:
projects/projectName/locations/locationID/deidentifyTemplates/templateName
Di bagian Responsible AI, Anda dapat menetapkan tingkat keyakinan untuk setiap filter konten. Tingkat keyakinan menunjukkan seberapa besar kemungkinan temuan cocok dengan jenis filter konten. Nilainya dapat berupa:
- Tidak ada: Jangan mendeteksi jenis konten apa pun.
- Rendah dan di atas: Mendeteksi konten dengan tingkat keyakinan rendah, sedang, atau tinggi.
- Sedang dan di atas: Mendeteksi konten dengan tingkat keyakinan sedang atau tinggi.
- Tinggi: Mendeteksi konten dengan tingkat keyakinan tinggi.
Untuk penerapan yang lebih ketat, tetapkan tingkat keyakinan ke Rendah dan di atas untuk mendeteksi sebagian besar konten yang termasuk dalam jenis filter konten. Anda juga dapat memilih tingkat keyakinan untuk semua jenis konten sekaligus.
Klik Create.
gcloud
Jalankan perintah berikut:
gcloud alpha model-armor templates create template_id --location location [filters]
Ganti kode berikut:
LOCATION- lokasi template.TEMPLATE_ID- ID template.
Berikut adalah contoh dengan semua filter.
gcloud alpha model-armor templates create --location location "template_id"
--rai-settings-filters='[{ "filterType": "HATE_SPEECH", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "HARASSMENT", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "SEXUALLY_EXPLICIT", "confidenceLevel": "MEDIUM_AND_ABOVE" }]'
--basic-config-filter-enforcement=enabled
--pi-and-jailbreak-filter-settings-enforcement=enabled
--pi-and-jailbreak-filter-settings-confidence-level=LOW_AND_ABOVE
--malicious-uri-filter-settings-enforcement=enabled
--template-metadata-custom-llm-response-safety-error-code=798
--template-metadata-custom-llm-response-safety-error-message="test template llm response evaluation failed"
--template-metadata-custom-prompt-safety-error-code=799
--template-metadata-custom-prompt-safety-error-message="test template prompt evaluation failed"
--template-metadata-ignore-partial-invocation-failures
--template-metadata-log-operations
--template-metadata-log-sanitize-operations
REST API
Gunakan perintah ini untuk membuat template Model Armor baru.
curl -X POST \
-d "{'filter_config': {} }" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates?template_id=$TEMPLATE_ID"
Ganti kode berikut:
Filter_configadalah konfigurasi filter untuk template.PROJECT_IDadalah ID project tempat template berada.TEMPLATE_IDadalah ID template yang akan dibuat.LOCATIONadalah lokasi template.gcloud auth print-access-tokenadalah token akses untuk akun yang ditentukan. Ikuti langkah-langkah ini untuk mendapatkan token ini.
Contoh berikut menjelaskan konfigurasi template Model Armor.
- Buat konfigurasi (dalam hal ini,
FILTER_CONFIG) filter yang ingin Anda periksa dengan template Model Armor, dan pada tingkat keyakinan apa jika berlaku. - Buat template Model Armor (dalam hal ini,
ma-template-id-1234) menggunakan konfigurasi yang Anda buat.
Perhatikan bahwa LOW_AND_ABOVE berarti konten apa pun dengan kemungkinan RENDAH, SEDANG,
atau TINGGI akan ditandai.
export FILTER_CONFIG='{
"filterConfig": {
"raiSettings": {
"raiFilters": [{
"filterType": "HATE_SPEECH",
"confidenceLevel": "MEDIUM_AND_ABOVE"
}, {
"filterType": "HARASSMENT",
"confidenceLevel": "HIGH"
}, {
"filterType": "DANGEROUS",
"confidenceLevel": "MEDIUM_AND_ABOVE"
},{
"filterType": "SEXUALLY_EXPLICIT",
"confidenceLevel": "MEDIUM_AND_ABOVE"
}]
},
"piAndJailbreakFilterSettings": {
"filterEnforcement": "ENABLED",
"confidenceLevel": "LOW_AND_ABOVE"
},
"maliciousUriFilterSettings": {
"filterEnforcement": "ENABLED"
}
}
}'
curl -X POST \
-d $FILTER_CONFIG \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/LOCATION_ID/ templates?template_id=TEMPLATE_ID"
Melihat template Model Armor
Konsol
Di konsol Google Cloud, buka halaman Model Armor.
Pastikan Anda melihat project tempat Anda mengaktifkan Model Armor. Halaman Model Armor ditampilkan yang mencantumkan template yang dibuat untuk project Anda.
Klik template mana pun dari daftar untuk melihat detailnya.
gcloud
Jalankan perintah berikut:
gcloud alpha model-armor templates describe template_id --location location
Ganti kode berikut:
LOCATION- lokasi template.TEMPLATE_ID- ID template.
REST API
Jalankan perintah berikut:
curl -X GET \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ "https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates/$TEMPLATE_ID"
Ganti kode berikut:
gcloud auth print-access-tokenadalah token akses untuk akun yang ditentukan.PROJECT_ID- ID project tempat template berada.LOCATION- lokasi template.TEMPLATE_ID- ID template.
Memperbarui template Model Armor
Konsol
Di konsol Google Cloud, buka halaman Model Armor.
Pastikan Anda melihat project tempat Anda mengaktifkan Model Armor. Halaman Model Armor ditampilkan yang mencantumkan template yang dibuat untuk organisasi Anda.
Klik template yang ingin Anda perbarui dari daftar. Halaman Template details akan ditampilkan.
Klik Edit.
Perbarui parameter yang diperlukan, lalu klik Save.
gcloud
Jalankan perintah berikut:
gcloud alpha model-armor templates update template_id --location location [filters]
Ganti kode berikut:
LOCATION- lokasi template.TEMPLATE_ID- ID template.
REST API
Jalankan perintah berikut:
curl -X PATCH \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -d $FILTER_CONFIG \ "https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates/$TEMPLATE_ID?update_mask=filter_config"
Ganti kode berikut:
gcloud auth print-access-tokenadalah token akses untuk akun yang ditentukan.PROJECT_ID- ID project tempat template berada.LOCATION- lokasi template.TEMPLATE_ID- ID template.FILTER_CONFIG- representasi JSON dari konfigurasi filter.
Semua kolom lainnya tidak dapat diubah. Upaya yang dilakukan untuk memperbarui kolom lain (misalnya, upaya untuk memperbarui nama template) akan menghasilkan error.
Menghapus template Model Armor
Konsol
Di konsol Google Cloud, buka halaman Model Armor.
Pastikan Anda melihat project tempat Anda mengaktifkan Model Armor. Halaman Model Armor ditampilkan yang mencantumkan template yang dibuat untuk organisasi Anda.
Klik template yang ingin Anda hapus dari daftar. Halaman Template details akan ditampilkan.
Klik Delete. Dialog konfirmasi akan ditampilkan.
Masukkan nama template untuk mengonfirmasi penghapusan, lalu klik Hapus.
gcloud
Jalankan perintah berikut:
gcloud alpha model-armor templates delete template_id --location location
Ganti kode berikut:
LOCATION- lokasi template.TEMPLATE_ID- ID template.
REST API
Jalankan perintah berikut:
curl -X DELETE \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ "https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates/$TEMPLATE_ID"
Ganti kode berikut:
gcloud auth print-access-tokenadalah token akses untuk akun yang ditentukan.PROJECT_ID- ID project tempat template berada.LOCATION- lokasi template.TEMPLATE_ID- ID template.
Langkah selanjutnya
- Pelajari ringkasan Model Armor.
- Pelajari Setelan lantai Model Armor.
- Membersihkan perintah dan respons.
- Memecahkan masalah Model Armor.