Setelan lantai Model Armor

Setelan lantai Model Armor menentukan aturan yang menentukan persyaratan minimum untuk semua template Model Armor yang dibuat pada titik tertentu dalam hierarki resource Google Cloud(yaitu, di tingkat organisasi, folder, atau project). Jika ada beberapa setelan lantai yang saling bertentangan, setelan yang lebih rendah dalam hierarki resource akan lebih diutamakan. Misalnya, jika kebijakan setelan lantai dibuat di level folder dan project, kebijakan tingkat project akan diterapkan.

Berikut adalah contoh untuk menunjukkan cara kerja kebijakan setelan lantai Model Armor. Kebijakan lantai X ditetapkan di folder dengan filter URL berbahaya diaktifkan. Kebijakan lantai Y ditetapkan pada project dalam folder tersebut untuk filter deteksi injeksi perintah dan jailbreak dengan nilai minimum keyakinan sedang. Hasil akhir adalah setiap template Model Armor yang dibuat dalam project harus memiliki setidaknya filter deteksi jailbreak dan injeksi perintah yang ditetapkan dengan nilai minimum keyakinan sedang, tetapi filter URL berbahaya tidak diperlukan.

Setelan lantai membantu CISO dan arsitek keamanan menerapkan postur keamanan minimum di semua template Model Armor dalam organisasi mereka, sehingga mencegah setiap developer secara tidak sengaja atau sengaja menurunkan standar keamanan di bawah tingkat yang dapat diterima. Untuk pelanggan dengan paket Premium atau Enterprise Security Command Center, pelanggaran setelan lantai akan memicu temuan. Artinya, jika template dibuat sebelum setelan minimum, dan template memiliki setelan yang kurang ketat, temuan akan muncul di Security Command Center untuk membantu Anda mengidentifikasi dan memperbaiki template Model Armor yang kurang aman.

Mengaktifkan dan menonaktifkan setelan lantai Model Armor

Untuk mengaktifkan setelan lantai Model Armor, tetapkan tanda enable_floor_setting_enforcement ke true. Contoh berikut menunjukkan cara melakukannya.

gcloud

• Mengaktifkan setelan lantai Model Armor untuk project tertentu.

   gcloud model-armor floorsettings describe 
  
    --full-uri='projects/PROJECT_ID/locations/global/floorSetting'
    Flags
    --full-uri = name of the floor setting resource
  

• Mengaktifkan setelan lantai Model Armor untuk organisasi tertentu.

    gcloud model-armor floorsettings describe 
  
    --full-uri='organizations/ORGANIZATION_ID/locations/global/floorSetting'
    Flags
     --full-uri = name of the floor setting resource
  

• Mengaktifkan setelan lantai Model Armor untuk folder tertentu.

    gcloud model-armor floorsettings describe 
  
    --full-uri='folders/FOLDER_ID/locations/global/floorSetting'
    Flags
    --full-uri = name of the floor setting resource
   

  Ganti kode berikut:

• PROJECT_ID: ID project untuk template.

• FOLDER_ID: ID folder untuk template.

• ORGANIZATION_ID: ID organisasi untuk template.

REST API

    curl -X PATCH
    -d '{"enable_floor_setting_enforcement" : "true"}'
    -H "Content-Type: application/json"
    -H "Authorization: Bearer $(gcloud auth print-access-token)" "https://modelarmor.googleapis.com/v1/projects/$PROJECT_ID/locations/global/floorSetting?update_mask=enable_floor_setting_enforcement"
   

Ganti kode berikut:

• gcloud auth print-access-token: Token akses untuk akun yang ditentukan.
• PROJECT_ID: ID project untuk template.

Jika Anda tidak ingin menggunakan setelan lantai Model Armor, tetapkan flag filter_config ke empty atau tetapkan flag enable_floor_setting_enforcement ke false. Contoh berikut menunjukkan cara melakukannya.

gcloud

    gcloud alpha model-armor floorsettings get 

    --full-uri='projects/$PROJECT_ID/locations/global/floorSetting'
    Flags
    --full-uri = name of the floor setting resource
    --enable-floor-setting-enforcement=false
    --filterConfig = {}
   

Ganti kode berikut:

• PROJECT_ID: ID project untuk template.

REST API

     curl -X PATCH 

     -H "Content-Type: application/json" 

     -H "Authorization: Bearer $(gcloud auth print-access-token)" 

     -d '{"filterConfig" :{},"enable_floor_setting_enforcement":"false"}' 

     "https://modelarmor.googleapis.com/v1/projects/{PROJECT_ID}/locations/global/floorSetting"
   

Ganti kode berikut:

• gcloud auth print-access-token: Token akses untuk akun yang ditentukan.
• PROJECT_ID: ID project untuk template.

Melihat setelan lantai Model Armor

Jalankan perintah berikut untuk melihat setelan lantai Model Armor.

gcloud

• Melihat setelan lantai Model Armor untuk project tertentu.

    gcloud model-armor floorsettings describe
    --full-uri='projects/PROJECT_ID/locations/global/floorSetting'
  
    Flags --full-uri = name of the floor setting resource
  

• Melihat setelan lantai Model Armor untuk organisasi tertentu.

    gcloud model-armor floorsettings describe
    --full-uri='organizations/Organization/locations/global/floorSetting'
  
    Flags --full-uri = name of the floor setting resource
  

• Melihat setelan lantai Model Armor untuk folder tertentu.

     gcloud model-armor floorsettings describe
     --full-uri='folders/Folder/locations/global/floorSetting'
  
     Flags --full-uri = name of the floor setting resource
  

  Ganti kode berikut:

  • PROJECT_ID: ID project untuk template.
  • Folder: ID folder untuk template.
  • Organization: ID organisasi untuk template.

REST API

• Melihat setelan lantai Model Armor untuk project tertentu.

   curl -X GET 
  
   -H "Authorization: Bearer $(gcloud auth print-access-token)" 
  
   -H "Content-Type: application/json" 
  
   "https://modelarmor.googleapis.com/v1/projects/{project_id}/locations/global/floorSetting"
   

• Melihat setelan lantai Model Armor untuk folder tertentu.

   curl -X GET 
  
   -H "Authorization: Bearer $(gcloud auth print-access-token)" 
  
   -H "Content-Type: application/json" 
  
   "https://modelarmor.googleapis.com/v1/folders/{folder}/locations/global/floorSetting"
   

• Melihat setelan lantai Model Armor untuk organisasi tertentu.

   curl -X GET 
  
   -H "Authorization: Bearer $(gcloud auth print-access-token)" 
  
   -H "Content-Type: application/json" 
  
   "https://modelarmor.googleapis.com/v1/organizations/{organization}/locations/global/floorSetting"
   

  Ganti kode berikut:

• gcloud auth print-access-token: Token akses untuk akun yang ditentukan.

• PROJECT_ID: ID project untuk template.

• Folder: ID folder untuk template.

• Organization: ID organisasi untuk template.

Memperbarui setelan lantai Model Armor

Jalankan perintah berikut untuk memperbarui setelan lantai Model Armor.

gcloud

   gcloud model-armor floorsettings update --full-uri=<full-uri-of-the-floorsetting> [filters]

Contoh perintah:

       gcloud model-armor floorsettings update
       --malicious-uri-filter-settings-enforcement=ENABLED
       --pi-and-jailbreak-filter-settings-enforcement=DISABLED
       --pi-and-jailbreak-filter-settings-confidence-level=LOW_AND_ABOVE
       --basic-config-filter-enforcement=ENABLED
       --add-rai-settings-filters='[{"confidenceLevel": "low_and_above", "filterType": "HARASSMENT"}, {"confidenceLevel": "high", "filterType": "SEXUALLY_EXPLICIT"}]'
       --full-uri='folders/308621292149/locations/global/floorSetting'
       --enable-floor-setting-enforcement=true

REST API

• Memperbarui setelan lantai Model Armor untuk project tertentu.

   curl -X PATCH -d '{"filterConfig" :{"piAndJailbreakFilterSettings": { "filterEnforcement": "ENABLED"}, "maliciousUriFilterSettings": { "filterEnforcement": "ENABLED" }, "rai_settings":{"rai_filters":{"filter_type":"DANGEROUS", "confidence_level":"LOW_AND_ABOVE" },
    "rai_filters":{"filter_type":"HATE_SPEECH", "confidence_level":"LOW_AND_ABOVE" }, "rai_filters":{"filter_type":"HARASSMENT", "confidence_level":"LOW_ANDABOVE" }, "rai
    filters":{"filter_type":"SEXUALLY_EXPLICIT", "confidence_level":"LOW_AND_ABOVE" }}},"enable_floor_setting_enforcement":"true"}' -H "Content-Type: application/json" -H "Authorization: Bearer $(gcloud auth print-access-token)" "https://modelarmor.googleapis.com/v1/projects/{project_id}/locations/global/floorSetting"
   

• Memperbarui setelan lantai Model Armor untuk folder tertentu.

    curl -X PATCH 
  
   -d '{"filterConfig" :{"piAndJailbreakFilterSettings": { "filterEnforcement": "ENABLED"}, "maliciousUriFilterSettings": { "filterEnforcement": "ENABLED" }},"enable_floor_setting_enforcement":"true"}' 
  
   -H "Content-Type: application/json" 
  
   -H "Authorization: Bearer $(gcloud auth print-access-token)" 
  
   "https://modelarmor.googleapis.com/v1/folders/{folder}/locations/global/floorSetting"
   

• Memperbarui setelan lantai Model Armor untuk organisasi tertentu.

   curl -X PATCH 
  
   -d '{"filterConfig" :{"piAndJailbreakFilterSettings": { "filterEnforcement": "ENABLED"}, "maliciousUriFilterSettings": { "filterEnforcement": "ENABLED" }},"enable_floor_setting_enforcement":"true"}' 
  
   -H "Content-Type: application/json" 
  
   -H "Authorization: Bearer $(gcloud auth print-access-token)" 
  
    "https://modelarmor.googleapis.com/v1/organizations/{organization}/locations/global/floorSetting"
   

  Ganti kode berikut:

  • gcloud auth print-access-token: Token akses untuk akun yang ditentukan.
  • PROJECT_ID: ID project tempat template berada.
  • Folder: ID folder untuk template.

  • Organization: ID organisasi untuk template.

    Catatan: Jika Anda tidak menentukan tingkat keyakinan deteksi jailbreak dan injeksi prompt, tingkat keyakinan tersebut akan disetel ke LOW_AND_ABOVE secara default. Nilai default berlaku untuk semua tingkat, yaitu project, organisasi, atau folder.

    Perintah update menampilkan respons berikut:

    {
    "name": "projects/$PROJECT_ID/locations/global/floorSetting",
    "updateTime": "2024-12-19T15:36:21.318191Z",
    "filterConfig": {
     "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED"
    },
    "maliciousUriFilterSettings": {
     "filterEnforcement": "ENABLED"
      }
      }
    }
    

Pelanggaran setelan lantai

Setiap temuan layanan Model Armor mengidentifikasi pelanggaran setelan minimum yang terjadi saat template Model Armor gagal memenuhi standar keamanan minimum yang ditentukan oleh setelan minimum hierarki resource. Setelan minimum menentukan tingkat yang paling longgar yang diizinkan untuk setiap filter dalam template. Pelanggaran setelan lantai mungkin melibatkan template yang tidak menyertakan filter yang diperlukan atau tidak memenuhi tingkat keyakinan minimum untuk filter tersebut. Saat pelanggaran terdeteksi, temuan dengan tingkat keparahan tinggi akan dipublikasikan di Security Command Center. Temuan ini menentukan setelan lantai yang dilanggar, template yang tidak mematuhi kebijakan, dan detail tentang pelanggaran. Untuk mengetahui informasi selengkapnya, lihat Temuan layanan Model Armor.

Ini adalah contoh kolom source_properties dari temuan dalam pelanggaran setelan lantai.

{
  "filterConfig": {
    "raiSettings": {
      "raiFilters": [
        {
          "filterType": "HATE_SPEECH",
          "confidenceLevel": {
            "floorSettings": "LOW_AND_ABOVE",
            "template": "MEDIUM_AND_ABOVE"
          }
        },
        {
          "filterType": "HARASSMENT",
          "confidenceLevel": {
            "floorSettings": "MEDIUM_AND_ABOVE",
            "template": "HIGH"
          }
        }
      ]
    },
    "piAndJailbreakFilterSettings": {
      "confidenceLevel": {
        "floorSettings": "LOW_AND_ABOVE",
        "template": "HIGH"
      }
    },
    "maliciousUriFilterSettings": {
      "floorSettings": "ENABLED",
      "template": "DISABLED"
    }
  }
}

Langkah selanjutnya

• Pelajari ringkasan Model Armor.
• Pelajari template Model Armor.
• Membersihkan perintah dan respons.
• Memecahkan masalah Model Armor.