Paramètres de plancher Model Armor

Les paramètres de plancher Model Armor définissent des règles qui dictent les exigences minimales pour tous les modèles Model Armor créés à un point spécifique de la hiérarchie des ressources Google Cloud(c'est-à-dire au niveau d'une organisation, d'un dossier ou d'un projet). Si plusieurs paramètres de sol sont en conflit, les paramètres situés plus bas dans la hiérarchie des ressources prévalent. Par exemple, si une stratégie de paramètre de plancher est créée au niveau d'un dossier et d'un projet, la stratégie au niveau du projet est appliquée.

Voici un exemple illustrant le fonctionnement d'une règle de paramètre de sol Model Armor. La règle de plancher X est définie sur un dossier pour lequel le filtre d'URL malveillantes est activé. La stratégie de plancher Y est définie sur un projet de ce dossier pour le filtre d'injection d'invite et de détection de jailbreak avec un seuil de confiance moyen. En conséquence, chaque modèle Armor créé dans le projet doit avoir au moins le filtre d'injection de requête et de détection de jailbreak défini avec un seuil de confiance moyen, mais le filtre d'URL malveillante n'est pas obligatoire.

Les paramètres de plancher aident les responsables de la sécurité des systèmes d'information et les architectes de la sécurité à appliquer une posture de sécurité minimale à tous les modèles Model Armor de leur organisation, ce qui empêche les développeurs individuels de baisser accidentellement ou intentionnellement les normes de sécurité en dessous des niveaux acceptables. Pour les clients disposant d'un niveau Premium ou Enterprise de Security Command Center, les cas de non-respect des paramètres de plancher déclenchent des résultats. Cela signifie que si un modèle est créé avant un paramètre de plancher et qu'il comporte des paramètres moins restrictifs, un résultat s'affichera dans Security Command Center pour vous aider à identifier et à corriger les modèles Model Armor moins sécurisés.

Activer et désactiver les paramètres de plancher Model Armor

Pour activer les paramètres de sol Model Armor, définissez l'indicateur enable_floor_setting_enforcement sur true. Les exemples suivants montrent comment procéder.

gcloud

  • Activez les paramètres de sol Model Armor pour un projet donné. 

     gcloud model-armor floorsettings describe 
    
  --full-uri='projects/PROJECT_ID/locations/global/floorSetting'
  Flags
  --full-uri = name of the floor setting resource

  • Activez les paramètres de plancher Model Armor pour une organisation donnée. 

      gcloud model-armor floorsettings describe 
    
  --full-uri='organizations/ORGANIZATION_ID/locations/global/floorSetting'
  Flags
   --full-uri = name of the floor setting resource

  • Activez les paramètres de sol Model Armor pour un dossier donné. 

      gcloud model-armor floorsettings describe 
    
  --full-uri='folders/FOLDER_ID/locations/global/floorSetting'
  Flags
  --full-uri = name of the floor setting resource

    Remplacez les éléments suivants :

  • PROJECT_ID: ID du projet du modèle.

  • FOLDER_ID: ID du dossier du modèle.

  • ORGANIZATION_ID: ID de l'organisation du modèle.

API REST

    curl -X PATCH
    -d '{"enable_floor_setting_enforcement" : "true"}'
    -H "Content-Type: application/json"
    -H "Authorization: Bearer $(gcloud auth print-access-token)" "https://modelarmor.googleapis.com/v1/projects/$PROJECT_ID/locations/global/floorSetting?update_mask=enable_floor_setting_enforcement"

Remplacez les éléments suivants :

  • gcloud auth print-access-token: jeton d'accès du compte spécifié.
  • PROJECT_ID: ID du projet du modèle.

Si vous ne souhaitez pas utiliser les paramètres de plancher de Model Armor, définissez l'option filter_config sur empty ou l'option enable_floor_setting_enforcement sur false. L'exemple suivant montre comment procéder.

gcloud

    gcloud alpha model-armor floorsettings get 

    --full-uri='projects/$PROJECT_ID/locations/global/floorSetting'
    Flags
    --full-uri = name of the floor setting resource
    --enable-floor-setting-enforcement=false
    --filterConfig = {}

Remplacez les éléments suivants :

  • PROJECT_ID: ID du projet du modèle.

API REST

     curl -X PATCH 

     -H "Content-Type: application/json" 

     -H "Authorization: Bearer $(gcloud auth print-access-token)" 

     -d '{"filterConfig" :{},"enable_floor_setting_enforcement":"false"}' 

     "https://modelarmor.googleapis.com/v1/projects/{PROJECT_ID}/locations/global/floorSetting"

Remplacez les éléments suivants :

  • gcloud auth print-access-token: jeton d'accès du compte spécifié.
  • PROJECT_ID: ID du projet du modèle.

Afficher les paramètres de Model Armor Floor

Exécutez la commande suivante pour afficher les paramètres de sol de Model Armor.

gcloud

  • Afficher le paramètre de plancher Model Armor pour un projet donné.

      gcloud model-armor floorsettings describe
  --full-uri='projects/PROJECT_ID/locations/global/floorSetting'

  Flags --full-uri = name of the floor setting resource

  • Afficher le paramètre de niveau de protection de modèle pour une organisation donnée.

      gcloud model-armor floorsettings describe
  --full-uri='organizations/Organization/locations/global/floorSetting'

  Flags --full-uri = name of the floor setting resource

  • Afficher le paramètre de plancher Model Armor pour un dossier donné.

       gcloud model-armor floorsettings describe
   --full-uri='folders/Folder/locations/global/floorSetting'

   Flags --full-uri = name of the floor setting resource

    Remplacez les éléments suivants :

    • PROJECT_ID: ID du projet du modèle.
    • Folder: ID du dossier du modèle.
    • Organization: ID de l'organisation du modèle.

API REST

  • Afficher le paramètre de plancher Model Armor pour un projet donné.

     curl -X GET 
    
 -H "Authorization: Bearer $(gcloud auth print-access-token)" 
    
 -H "Content-Type: application/json" 
    
 "https://modelarmor.googleapis.com/v1/projects/{project_id}/locations/global/floorSetting"

  • Afficher le paramètre de plancher Model Armor pour un dossier donné.

     curl -X GET 
    
 -H "Authorization: Bearer $(gcloud auth print-access-token)" 
    
 -H "Content-Type: application/json" 
    
 "https://modelarmor.googleapis.com/v1/folders/{folder}/locations/global/floorSetting"

  • Afficher le paramètre de niveau de protection de modèle pour une organisation donnée.

     curl -X GET 
    
 -H "Authorization: Bearer $(gcloud auth print-access-token)" 
    
 -H "Content-Type: application/json" 
    
 "https://modelarmor.googleapis.com/v1/organizations/{organization}/locations/global/floorSetting"

    Remplacez les éléments suivants :

  • gcloud auth print-access-token: jeton d'accès du compte spécifié.

  • PROJECT_ID: ID du projet du modèle.

  • Folder: ID du dossier du modèle.

  • Organization: ID de l'organisation du modèle.

Mettre à jour les paramètres de Model Armor Floor

Exécutez la commande suivante pour mettre à jour les paramètres de sol de Model Armor.

gcloud

   gcloud model-armor floorsettings update --full-uri=<full-uri-of-the-floorsetting> [filters]

Exemple de commande :

       gcloud model-armor floorsettings update
       --malicious-uri-filter-settings-enforcement=ENABLED
       --pi-and-jailbreak-filter-settings-enforcement=DISABLED
       --pi-and-jailbreak-filter-settings-confidence-level=LOW_AND_ABOVE
       --basic-config-filter-enforcement=ENABLED
       --add-rai-settings-filters='[{"confidenceLevel": "low_and_above", "filterType": "HARASSMENT"}, {"confidenceLevel": "high", "filterType": "SEXUALLY_EXPLICIT"}]'
       --full-uri='folders/308621292149/locations/global/floorSetting'
       --enable-floor-setting-enforcement=true

API REST

  • Mettre à jour le paramètre de sol de Model Armor pour un projet donné.

     curl -X PATCH -d '{"filterConfig" :{"piAndJailbreakFilterSettings": { "filterEnforcement": "ENABLED"}, "maliciousUriFilterSettings": { "filterEnforcement": "ENABLED" }, "rai_settings":{"rai_filters":{"filter_type":"DANGEROUS", "confidence_level":"LOW_AND_ABOVE" },
  "rai_filters":{"filter_type":"HATE_SPEECH", "confidence_level":"LOW_AND_ABOVE" }, "rai_filters":{"filter_type":"HARASSMENT", "confidence_level":"LOW_ANDABOVE" }, "rai
  filters":{"filter_type":"SEXUALLY_EXPLICIT", "confidence_level":"LOW_AND_ABOVE" }}},"enable_floor_setting_enforcement":"true"}' -H "Content-Type: application/json" -H "Authorization: Bearer $(gcloud auth print-access-token)" "https://modelarmor.googleapis.com/v1/projects/{project_id}/locations/global/floorSetting"

  • Mettre à jour le paramètre de plancher de Model Armor pour un dossier donné.

      curl -X PATCH 
    
 -d '{"filterConfig" :{"piAndJailbreakFilterSettings": { "filterEnforcement": "ENABLED"}, "maliciousUriFilterSettings": { "filterEnforcement": "ENABLED" }},"enable_floor_setting_enforcement":"true"}' 
    
 -H "Content-Type: application/json" 
    
 -H "Authorization: Bearer $(gcloud auth print-access-token)" 
    
 "https://modelarmor.googleapis.com/v1/folders/{folder}/locations/global/floorSetting"

  • Mettre à jour le paramètre de plancher de Model Armor pour une organisation donnée.

     curl -X PATCH 
    
 -d '{"filterConfig" :{"piAndJailbreakFilterSettings": { "filterEnforcement": "ENABLED"}, "maliciousUriFilterSettings": { "filterEnforcement": "ENABLED" }},"enable_floor_setting_enforcement":"true"}' 
    
 -H "Content-Type: application/json" 
    
 -H "Authorization: Bearer $(gcloud auth print-access-token)" 
    
  "https://modelarmor.googleapis.com/v1/organizations/{organization}/locations/global/floorSetting"

    Remplacez les éléments suivants :

    • gcloud auth print-access-token: jeton d'accès du compte spécifié.
    • PROJECT_ID: ID du projet auquel appartient le modèle.
    • Folder: ID du dossier du modèle.

    • Organization: ID de l'organisation du modèle.

      La commande update renvoie la réponse suivante:

      {
"name": "projects/$PROJECT_ID/locations/global/floorSetting",
"updateTime": "2024-12-19T15:36:21.318191Z",
"filterConfig": {
 "piAndJailbreakFilterSettings": {
  "filterEnforcement": "ENABLED"
},
"maliciousUriFilterSettings": {
 "filterEnforcement": "ENABLED"
  }
  }
}

Non-respect des paramètres de sol

Chaque résultat du service Model Armor identifie une violation de niveau de base qui se produit lorsqu'un modèle Model Armor ne répond pas aux normes de sécurité minimales définies par les paramètres de niveau de base de la hiérarchie des ressources. Les paramètres de plancher déterminent le niveau le moins strict autorisé pour chaque filtre d'un modèle. Un cas de non-respect du paramètre de plancher peut impliquer un modèle qui n'inclut pas les filtres requis ou qui ne répond pas au niveau de confiance minimal pour ces filtres. Lorsqu'une violation est détectée, un résultat de gravité élevée est publié dans Security Command Center. Le résultat indique le paramètre de plancher non respecté, le modèle non conforme et des informations sur le non-respect. Pour en savoir plus, consultez Résultats du service Model Armor.

Il s'agit d'un exemple du champ "source_properties" du résultat en cas de non-respect des paramètres de plancher.

{
  "filterConfig": {
    "raiSettings": {
      "raiFilters": [
        {
          "filterType": "HATE_SPEECH",
          "confidenceLevel": {
            "floorSettings": "LOW_AND_ABOVE",
            "template": "MEDIUM_AND_ABOVE"
          }
        },
        {
          "filterType": "HARASSMENT",
          "confidenceLevel": {
            "floorSettings": "MEDIUM_AND_ABOVE",
            "template": "HIGH"
          }
        }
      ]
    },
    "piAndJailbreakFilterSettings": {
      "confidenceLevel": {
        "floorSettings": "LOW_AND_ABOVE",
        "template": "HIGH"
      }
    },
    "maliciousUriFilterSettings": {
      "floorSettings": "ENABLED",
      "template": "DISABLED"
    }
  }
}

Étape suivante