Configurer les paramètres de sécurité de l'IA responsable

Essayer la génération d'images (Vertex AI Studio)

Essayer Imagen dans Colab

Cette page explique comment définir des filtres d'IA responsable dans Imagen sur Vertex AI.

Vous pouvez utiliser plusieurs paramètres de filtrage par IA responsable avec les modèles Imagen sur Vertex AI. Par exemple, vous pouvez autoriser le modèle à signaler des codes de filtre RAI pour du contenu bloqué, à désactiver la génération de personnes ou de visages à l'aide de filtres RAI, à définir le niveau de filtrage du contenu ou à renvoyer des scores RAI arrondis de liste d'attributs de sécurité pour l'entrée et la sortie.

Les paramètres disponibles dépendent de la version du modèle Imagen que vous utilisez. Pour en savoir plus, consultez Modèles Imagen et la documentation de référence de l'API.

Pour en savoir plus sur l'IA responsable, consultez IA responsable et consignes d'utilisation d'Imagen.

Définir les paramètres d'IA responsable

Procédez comme suit :

Console

  1. Dans la console Google Cloud , accédez à la page Vertex AI>Media Studio.

    Accéder à Media Studio

  2. Cliquez sur Imagen. La page de génération d'images d'Imagen Media Studio s'affiche.

  3. Dans le panneau Paramètres, ajustez les options suivantes :

    • Modèle : sélectionnez un modèle parmi les options disponibles.

      Pour en savoir plus sur les modèles disponibles, consultez Modèles Imagen.

    • Nombre de résultats : ajustez le curseur ou saisissez une valeur comprise entre 1 et 4.

  4. Dans la section Sécurité, configurez les paramètres suivants :

    • Sélectionnez l'un des paramètres de génération de personnes suivants :

      • Autoriser (adultes uniquement) : permet de générer uniquement des personnes ou des visages adultes. Ne permet pas de générer des visages ni des personnes représentant des enfants ou des adolescents.
      • Autoriser (tous les âges) : permet de générer des personnes ou des visages de tous âges.
      • Ne pas autoriser : ne permet pas de générer des personnes ni des visages.

    • Sélectionnez l'un des paramètres de seuil du filtre de sécurité suivants :

      • Bloquer la plupart des éléments : bloque la plupart des contenus dangereux.
      • Bloquer certaines : bloque certaines requêtes et réponses problématiques.
      • Bloquer peu : bloque très peu de requêtes et de réponses problématiques.

  5. Dans la zone Écrivez votre requête, saisissez votre requête textuelle décrivant les images à générer. Par exemple, illustration en aquarelle d'un petit bateau sur l'eau le matin.

  6. Cliquez sur Générer.

REST

Avant d'utiliser les données de requête, effectuez les remplacements suivants :

  • PROJECT_ID : ID de votre projet Google Cloud .
  • LOCATION : région de votre projet (us-central1, europe-west2 ou asia-northeast3, par exemple). Pour obtenir la liste des régions disponibles, consultez IA générative sur les emplacements Vertex AI.
  • TEXT_PROMPT : prompt textuel qui guide le modèle pour la génération d'images. Ce champ est obligatoire pour la génération et la modification.
  • IMAGE_COUNT : nombre d'images générées. Valeurs entières acceptées : de 1 à 8 (imagegeneration@002), de 1 à 4 (toutes les autres versions de modèle). Valeur par défaut : 4.
  • SAFETY_SETTING : chaîne. Facultatif. Paramètre qui contrôle les seuils de filtre de sécurité pour les images générées. Valeurs disponibles :
    • block_low_and_above : seuil de sécurité le plus élevé qui entraîne le filtrage de la plus grande quantité d'images générées. Valeur précédente : block_most.
    • block_medium_and_above (par défaut) : seuil de sécurité moyen qui équilibre le filtrage des contenus potentiellement dangereux et sécurisés. Valeur précédente : block_some.
    • block_only_high : seuil de sécurité qui réduit le nombre de requêtes bloquées en raison de filtres de sécurité. Ce paramètre peut augmenter le volume de contenus répréhensibles générés par Imagen. Valeur précédente : block_few.
  • PERSON_SETTING : chaîne. Facultatif. Paramètre de sécurité qui contrôle le type de génération de personnes ou de visages autorisé par le modèle. Valeurs disponibles :
    • allow_adult (par défaut) : autorise uniquement la génération d'adultes, à l'exception de la génération de célébrités. La génération de célébrités n'est autorisée pour aucun paramètre.
    • dont_allow : désactive l'inclusion de personnes ou de visages dans les images générées.
  • INCLUDE_RAI_REASON : valeur booléenne. Facultatif. Indique si le code de motif de filtrage par IA responsable doit être activé dans les réponses comportant une entrée ou une sortie bloquée. Valeur par défaut : true.
  • INCLUDE_SAFETY_ATTRIBUTES : valeur booléenne. Facultatif. Indique si les scores d'IA responsable doivent être arrondis pour une liste d'attributs de sécurité dans les réponses d'entrée et de sortie non filtrées. Catégories d'attributs de sécurité : "Death, Harm & Tragedy", "Firearms & Weapons", "Hate", "Health", "Illicit Drugs", "Politics", "Porn", "Religion & Belief", "Toxic", "Violence", "Vulgarity" et "War & Conflict". Valeur par défaut : false.

Méthode HTTP et URL : 

POST https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/imagegeneration@006:predict

Corps JSON de la requête : 

{
  "instances": [
    {
      "prompt": "TEXT_PROMPT"
    }
  ],
  "parameters": {
    "sampleCount": IMAGE_COUNT,
    "safetySetting": "SAFETY_SETTING",
    "personGeneration": "PERSON_SETTING",
    "includeRaiReason": INCLUDE_RAI_REASON,
    "includeSafetyAttributes": INCLUDE_SAFETY_ATTRIBUTES
  }
}

Pour envoyer votre requête, choisissez l'une des options suivantes :

curl

Enregistrez le corps de la requête dans un fichier nommé request.json, puis exécutez la commande suivante :

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/imagegeneration@006:predict"

PowerShell

Enregistrez le corps de la requête dans un fichier nommé request.json, puis exécutez la commande suivante :

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/imagegeneration@006:predict" | Select-Object -Expand Content
La réponse que vous recevez dépend des paramètres de sécurité que vous avez définis. Pour en savoir plus, consultez Comprendre et configurer l'IA responsable pour Imagen.

Étapes suivantes