Cette page a été traduite par l'API Cloud Translation.

Créer et gérer des modèles Model Armor

Cette page explique comment créer, afficher, mettre à jour et supprimer des modèles Model Armor.

Créer un modèle d'armure de modèle

Console

Dans la console Google Cloud, accédez à la page Model Armor.

Accéder à Model Armor
Vérifiez que vous consultez le projet pour lequel vous avez activé Model Armor.
Sur la page Modèle d'armure, cliquez sur Créer un modèle. La page Créer un modèle s'affiche.
Spécifiez l'ID du modèle. L'ID de modèle peut contenir des lettres, des chiffres ou des traits d'union. Il ne doit pas comporter plus de 63 caractères, ne doit pas contenir d'espaces et ne doit pas commencer par un trait d'union.
Sélectionnez une région pour exécuter vos modèles Model Armor. Vous ne pourrez plus modifier la région par la suite.
(Facultatif) Ajoutez des libellés. Les libellés sont des paires clé-valeur que vous pouvez utiliser pour regrouper des modèles associés.
Dans la section Détections, configurez les paramètres de détection suivants:
- Détection des URL malveillantes: identifie les adresses Web (URL) conçues pour nuire aux utilisateurs ou aux systèmes. Ces URL peuvent mener à des sites d'hameçonnage, des téléchargements de logiciels malveillants ou d'autres cyberattaques. Pour en savoir plus, consultez la section Détection des URL malveillantes.
- Détection de l'injection de requêtes et du jailbreak: détecte le contenu malveillant et les tentatives de jailbreak dans une requête. Pour une application plus stricte, définissez le niveau de confiance sur Faible et plus** afin de détecter la plupart des contenus susceptibles de relever de l'injection de requête et de tentative de jailbreaking. Pour en savoir plus, consultez la section Détection de l'injection de requêtes et du jailbreak.
- Protection des données sensibles: détecte les données sensibles, empêche leur exposition accidentelle et bloque les tentatives d'extraction de données à partir de modèles d'IA effectuées via des attaques telles que l'injection de requêtes. Pour en savoir plus, consultez la section Protection des données sensibles.
  
  Vous pouvez définir la protection des données sensibles de base ou avancée.
  - Standard : utilisez des infoTypes prédéfinis pour détecter les types de données sensibles. Pour en savoir plus sur l'infoType prédéfini, consultez la section Configuration de base de la protection des données sensibles.
  - Avancé : utilisez un modèle d'inspection défini dans le service Sensitive Data Protection comme source unique pour les infoTypes correspondant à des données sensibles.
    
    Si vous sélectionnez la protection avancée des données sensibles, vous devez spécifier les paramètres suivants:
    - Modèle d'inspection : modèles permettant d'enregistrer les informations de configuration associées aux tâches d'analyse d'inspection, y compris les détecteurs prédéfinis ou personnalisés qui doivent être utilisés. Saisissez le nom du modèle au format suivant : projects/projectName/locations/locationID/inspectTemplates/templateName
    - Facultatif: Modèle de suppression de l'identification : modèles permettant d'enregistrer les informations de configuration associées aux tâches d'anonymisation, y compris les transformations d'ensembles de données structurés et d'infoTypes. Saisissez un identifiant pour le modèle d'anonymisation au format suivant : projects/projectName/locations/locationID/deidentifyTemplates/templateName.
      
      Remarque :Si vous ne spécifiez que Inspect template (Inspecter le modèle), Model Armor signale les correspondances du filtre si des données sensibles sont détectées. Si vous spécifiez Modèle d'inspection et Modèle d'anonymisation, Model Armor renvoie les données sensibles anonymisées et la version nettoyée des invites ou des réponses dans le champ deidentifyResult.data.text de la découverte.
Dans la section IA responsable, vous pouvez définir le niveau de confiance pour chaque filtre de contenu. Le niveau de confiance indique la probabilité que les résultats correspondent à un type de filtre de contenu. Les valeurs possibles sont les suivantes :
- Aucun: aucun type de contenu n'est détecté.
- Faible et supérieur: détecte les contenus avec un niveau de confiance faible, moyen ou élevé.
- Moyenne et supérieure: détecte les contenus avec un niveau de confiance moyen ou élevé.
- Élevé: détecte les contenus avec un niveau de confiance élevé.
Pour une application plus stricte, définissez le niveau de confiance sur Faible et plus afin de détecter la plupart des contenus qui correspondent à un type de filtre de contenu. Vous pouvez également sélectionner le niveau de confiance pour tous les types de contenu en même temps.

Remarque :Si vous ne spécifiez pas de niveau de confiance, il est défini sur MOYENNE_ET_SUPÉRIEUR par défaut.
Cliquez sur Créer.

gcloud

Exécutez la commande ci-dessous.

gcloud alpha model-armor templates create template_id --location location [filters]

Remplacez les éléments suivants :

LOCATION : emplacement du modèle.
TEMPLATE_ID : ID du modèle.

Voici un exemple avec tous les filtres.

 gcloud alpha model-armor templates create --location location "template_id" 

  --rai-settings-filters='[{ "filterType": "HATE_SPEECH", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "HARASSMENT", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "SEXUALLY_EXPLICIT", "confidenceLevel": "MEDIUM_AND_ABOVE" }]' 

  --basic-config-filter-enforcement=enabled  

  --pi-and-jailbreak-filter-settings-enforcement=enabled 

  --pi-and-jailbreak-filter-settings-confidence-level=LOW_AND_ABOVE 

  --malicious-uri-filter-settings-enforcement=enabled 

  --template-metadata-custom-llm-response-safety-error-code=798 

  --template-metadata-custom-llm-response-safety-error-message="test template llm response evaluation failed" 

  --template-metadata-custom-prompt-safety-error-code=799 

  --template-metadata-custom-prompt-safety-error-message="test template prompt evaluation failed" 

  --template-metadata-ignore-partial-invocation-failures 

  --template-metadata-log-operations 

  --template-metadata-log-sanitize-operations

API REST

Utilisez cette commande pour créer un modèle Model Armor.

curl -X POST \
-d "{'filter_config': {} }" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
  "https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates?template_id=$TEMPLATE_ID"

Remplacez les éléments suivants :

Filter_config est la configuration du filtre pour le modèle.
PROJECT_ID correspond à l'ID du projet auquel appartient le modèle.
TEMPLATE_ID correspond à l'ID du modèle à créer.
LOCATION correspond à l'emplacement du modèle.
gcloud auth print-access-token est le jeton d'accès du compte spécifié. Suivez cette procédure pour obtenir ce jeton.

L'exemple suivant explique la configuration du modèle Model Armor.

Créez une configuration (dans ce cas, FILTER_CONFIG) des filtres que vous souhaitez que le modèle Armor examine et à quel niveau de confiance, le cas échéant.
Créez un modèle Model Armor (dans ce cas, ma-template-id-1234) à l'aide de la configuration que vous avez créée.

Notez que LOW_AND_ABOVE signifie que tout contenu avec une probabilité de faible, moyenne ou élevée sera signalé.

  export FILTER_CONFIG='{
 "filterConfig": {
  "raiSettings": {
    "raiFilters": [{
      "filterType": "HATE_SPEECH",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    }, {
      "filterType": "HARASSMENT",
      "confidenceLevel": "HIGH"
    }, {
      "filterType": "DANGEROUS",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    },{
      "filterType": "SEXUALLY_EXPLICIT",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    }]
  },

  "piAndJailbreakFilterSettings": {
    "filterEnforcement": "ENABLED",
    "confidenceLevel": "LOW_AND_ABOVE"
  },
  "maliciousUriFilterSettings": {
    "filterEnforcement": "ENABLED"
  }
 }
}'

curl -X POST \
 -d  $FILTER_CONFIG \
 -H "Content-Type: application/json" \
 -H "Authorization: Bearer $(gcloud auth print-access-token)" \
 "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/LOCATION_ID/ templates?template_id=TEMPLATE_ID"

Afficher un modèle Model Armor

Console

Dans la console Google Cloud, accédez à la page Model Armor.

Accéder à Model Armor
Vérifiez que vous consultez le projet pour lequel vous avez activé Model Armor. La page Modèle d'armure s'affiche et liste les modèles créés pour votre projet.
Cliquez sur un modèle de la liste pour en afficher les détails.

gcloud

Exécutez la commande ci-dessous.

gcloud alpha model-armor templates describe template_id --location location

Remplacez les éléments suivants :

LOCATION : emplacement du modèle.
TEMPLATE_ID : ID du modèle.

API REST

Exécutez la commande suivante :

curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates/$TEMPLATE_ID"

Remplacez les éléments suivants :

gcloud auth print-access-token est le jeton d'accès du compte spécifié.
PROJECT_ID : ID du projet auquel appartient le modèle.
LOCATION : emplacement du modèle.
TEMPLATE_ID : ID du modèle.

Mettre à jour un modèle Model Armor

Console

Dans la console Google Cloud, accédez à la page Model Armor.

Accéder à Model Armor
Vérifiez que vous consultez le projet pour lequel vous avez activé Model Armor. La page Modèle Armor s'affiche et liste les modèles créés pour votre organisation.
Dans la liste, cliquez sur le modèle que vous souhaitez mettre à jour. La page Détails du modèle s'affiche.
Cliquez sur Modifier.
Modifiez les paramètres requis, puis cliquez sur Enregistrer.

gcloud

Exécutez la commande ci-dessous.

gcloud alpha model-armor templates update template_id --location location [filters]

Remplacez les éléments suivants :

LOCATION : emplacement du modèle.
TEMPLATE_ID : ID du modèle.

API REST

Exécutez la commande suivante :

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d $FILTER_CONFIG \
"https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates/$TEMPLATE_ID?update_mask=filter_config"

Remplacez les éléments suivants :

gcloud auth print-access-token est le jeton d'accès du compte spécifié.
PROJECT_ID : ID du projet auquel appartient le modèle.
LOCATION : emplacement du modèle.
TEMPLATE_ID : ID du modèle.
FILTER_CONFIG : représentation JSON de la configuration du filtre.

Tous les autres champs sont immuables. Toute tentative de mise à jour d'autres champs (par exemple, de modifier le nom du modèle) entraîne une erreur.

Supprimer un modèle Model Armor

Console

Dans la console Google Cloud, accédez à la page Model Armor.

Accéder à Model Armor
Vérifiez que vous consultez le projet pour lequel vous avez activé Model Armor. La page Modèle Armor s'affiche et liste les modèles créés pour votre organisation.
Cliquez sur le modèle que vous souhaitez supprimer de la liste. La page Détails du modèle s'affiche.
Cliquez sur Supprimer. Une boîte de dialogue de confirmation s'affiche.
Saisissez le nom du modèle pour confirmer la suppression, puis cliquez sur Supprimer.

gcloud

Exécutez la commande ci-dessous.

gcloud alpha model-armor templates delete template_id --location location

Remplacez les éléments suivants :

LOCATION : emplacement du modèle.
TEMPLATE_ID : ID du modèle.

API REST

Exécutez la commande suivante :

curl -X DELETE \
-H "Authorization: Bearer $(gcloud auth print-access-token)"  \
"https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates/$TEMPLATE_ID"

Remplacez les éléments suivants :

gcloud auth print-access-token est le jeton d'accès du compte spécifié.
PROJECT_ID : ID du projet auquel appartient le modèle.
LOCATION : emplacement du modèle.
TEMPLATE_ID : ID du modèle.

Étape suivante

Découvrez la présentation de Model Armor.
Découvrez les paramètres de sol du modèle Armor.
Nettoyez les requêtes et les réponses.
Résoudre les problèmes liés à Model Armor