Comparer les requêtes

La fonctionnalité Comparer vous permet de voir comment la sortie du modèle change si vous utilisez d'autres requêtes, modèles ou paramètres. Vous pouvez afficher chaque requête et sa réponse côte à côte pour les comparer et les analyser de différentes manières :

  • Avec une nouvelle requête.
  • Avec une autre requête enregistrée.
  • Avec une vérité terrain.

Avant de commencer

Pour accéder à la fonctionnalité de comparaison, procédez comme suit :

  1. Dans la console Google Cloud , accédez à la page Créer un prompt.

    Accéder à la page Créer une requête

  2. Sélectionnez Comparer. La page Comparer s'affiche.

Créer une requête dans la fonctionnalité Comparer

Sur la page Comparer, vous pouvez créer une requête avant de sélectionner une autre requête pour comparer les résultats.

Pour créer une requête, procédez comme suit :

  1. Dans le champ Nouvelle requête, saisissez votre requête.

  2. Cliquez sur Envoyer des prompts. La réponse du modèle s'affiche sous le texte de la requête que vous avez saisie.

  3. Cliquez sur Enregistrer en tant que nouveau. Une boîte de dialogue Enregistrer l'invite s'affiche.

  4. Saisissez le nom de votre nouvelle requête dans le champ Nom de la requête.

  5. Sélectionnez votre région dans le champ Région ou conservez la région par défaut.

  6. Si une clé de chiffrement gérée par le client (CMEK) s'applique, procédez comme suit :

    1. Cochez la case Clé de chiffrement gérée par le client (CMEK).
    2. Sélectionnez une clé dans le champ Sélectionner une clé Cloud KMS.

  7. Cliquez sur Enregistrer pour enregistrer votre requête dans la liste des requêtes à utiliser sur la page Comparer une requête enregistrée.

  8. Cliquez sur Envoyer les requêtes pour comparer les requêtes et leurs réponses.

Vous pouvez modifier vos requêtes et enregistrer les versions modifiées en tant que nouvelles requêtes.

Comparer avec une nouvelle requête

Pour comparer votre requête enregistrée avec une nouvelle requête, procédez comme suit :

  1. Cliquez sur Comparer une nouvelle requête. Un volet Comparer s'affiche.
  2. Facultatif : Cliquez sur Changer de modèle pour utiliser un autre modèle que celui par défaut.
  3. Facultatif : Développez Sorties.
    4. Outputs:
    1. Facultatif : Si vous souhaitez que le modèle génère les résultats dans un format spécifique, tel que JSON, cliquez sur le bouton bascule Sortie structurée. Après avoir sélectionné Sortie structurée, les options d'ancrage sont désactivées, car l'ancrage n'est pas compatible avec la sortie structurée.
    2. Facultatif : Modifiez le budget de réflexion en sélectionnant l'une des options suivantes :
      • Automatique : le modèle ne réfléchit que lorsqu'il en a besoin. Le modèle ajuste la réflexion et l'analyse d'une situation en fonction de ce qui est nécessaire à un moment donné.
      • Manuel : vous pouvez ajuster les jetons du budget de réflexion.
      • Désactivé : aucune réflexion ni aucun budget ne sont utilisés.
  1. Facultatif : Développez Outils.
    2. Outils :
    1. Sélectionnez l'une des options suivantes :
      • Ancrage : Google : ancrage avec la recherche Google ou Google Maps.
      • Ancrage : vos données : ancrage avec le moteur RAG Vertex AI, Vertex AI Search ou Elasticsearch.
        1. Si vous sélectionnez Ancrage : vos données, sélectionnez la source de données que vous souhaitez utiliser.
  1. Facultatif : Développez Avancé :
    2. Avancé :
    1. Sélectionnez Région.
    2. Sélectionnez Paramètres du filtre de sécurité. Une boîte de dialogue s'affiche. Conservez la valeur par défaut Désactivé, ou spécifiez Bloquer quelques éléments, Bloquer certains éléments ou Bloquer la plupart des éléments pour chacune des options suivantes :
      • Incitation à la haine : commentaires négatifs ou offensants ciblant une identité ou des attributs protégés.
      • Contenu dangereux : contenu qui encourage ou facilite l'accès à des activités, des produits et des services dangereux.
      • Contenu à caractère sexuel explicite : contient des références à des actes sexuels ou à d'autres contenus obscènes.
      • Contenus de harcèlement : commentaires malveillants, intimidants, abusifs ou visant à persécuter une autre personne.
    3. Cliquez sur Enregistrer pour enregistrer les paramètres et fermer la boîte de dialogue.
    4. Sélectionnez la température dans le champ Température. La température contrôle le caractère aléatoire de la sélection des jetons. Une température basse est idéale si vous attendez une réponse vraie ou correcte. Une température plus élevée peut entraîner des résultats plus diversifiés ou inattendus.
    5. Sélectionnez la limite de jetons de sortie dans le champ Limite de jetons de sortie. La limite de jetons de sortie détermine la quantité maximale de texte pouvant être générée à partir d'une requête. Un jeton correspond environ à quatre caractères.
    6. Sélectionnez le nombre maximal de réponses dans le champ Nombre maximal de réponses. Si le nombre maximal de réponses du modèle générées par requête. Les réponses peuvent toujours être bloquées en raison des filtres de sécurité ou d'autres règles.
    7. Sélectionnez une valeur dans le champ Top-P. Top-P modifie la façon dont le modèle sélectionne les jetons pour la sortie.
    8. Cliquez sur le bouton d'activation dans le champ Diffuser les réponses du modèle. Si cette option est sélectionnée, les réponses sont imprimées à mesure qu'elles sont générées.
    9. Saisissez une séquence d'arrêt dans le champ Ajouter une séquence d'arrêt. Appuyez sur Entrée après chaque séquence.
  1. Cliquez sur Enregistrer pour enregistrer les modifications apportées à vos paramètres.
  2. Cliquez sur Appliquer.
  3. Cliquez sur Envoyer les requêtes pour comparer les requêtes et leurs réponses.

Pour en savoir plus sur les limites de jetons pour chaque modèle, consultez Contrôler le budget de réflexion.

Comparer avec une autre requête enregistrée

Pour comparer votre requête enregistrée à une autre requête enregistrée, procédez comme suit :

  1. Cliquez sur Comparer une requête enregistrée. Le volet Invite existante s'affiche.

  2. Sélectionnez jusqu'à deux requêtes existantes à comparer.

    1. Sélectionnez un nom de requête. Si votre liste contient de nombreuses requêtes, cliquez dans le champ Filtrer, puis sélectionnez la propriété selon laquelle vous souhaitez filtrer les résultats. Saisissez une valeur, puis appuyez sur Entrée.
    2. Cliquez sur Appliquer. La page Comparer affiche la requête que vous avez sélectionnée à côté d'autres requêtes que vous avez créées ou sélectionnées pour la comparaison.

  3. Cliquez sur Envoyer les requêtes pour comparer les requêtes et leurs réponses.

Comparer avec une vérité terrain

La vérité terrain est la réponse privilégiée pour la requête. C'est en fonction d'elle que sont évaluées toutes les autres réponses du modèle.

Pour comparer votre requête enregistrée à une vérité terrain, procédez comme suit :

  1. Cliquez sur Vérité terrain. Le volet Vérité terrain s'affiche.
  2. Saisissez votre vérité terrain pour générer d'autres métriques d'évaluation.
  3. Cliquez sur Enregistrer pour enregistrer la vérité terrain.
  4. Cliquez sur Envoyer les requêtes pour comparer les requêtes et leurs réponses.

Les métriques d'évaluation générées lorsque vous comparez une invite à une vérité terrain ne sont pas affectées par la région que vous sélectionnez.

Étapes suivantes