Afficher le tableau de bord de surveillance

Model Armor analyse les requêtes et les réponses de vos applications LLM. Le tableau de bord de surveillance vous fournit les données, les métriques et les visualisations générées à partir de ce processus de sélection. Utilisez ces insights pour comprendre comment Model Armor protège vos applications d'IA, identifie les tentatives d'injection de requêtes et d'autres activités malveillantes.

Avant de commencer

Activez Model Armor.

Autorisations requises

Pour obtenir les autorisations nécessaires pour accéder au tableau de bord de surveillance, demandez à votre administrateur de vous accorder le rôle IAM sur le projet. Pour en savoir plus sur l'attribution de rôles, consultez Gérer l'accès aux projets, aux dossiers et aux organisations.

Ce rôle prédéfini contient les autorisations requises pour accéder au tableau de bord de surveillance. Pour connaître les autorisations exactes requises, développez la section Autorisations requises :

Autorisations requises

Les autorisations suivantes sont requises pour accéder au tableau de bord de surveillance :

  • monitoring.monitoredResourceDescriptors.list
  • monitoring.metricDescriptors.list

Vous pouvez également obtenir ces autorisations avec des rôles personnalisés ou d'autres rôles prédéfinis.

Accéder au tableau de bord de surveillance

  1. Dans la console Google Cloud , accédez à la page Model Armor.

    Accéder à Model Armor

  2. Vérifiez que vous consultez le projet sur lequel vous avez activé Model Armor.

  3. Accédez à l'onglet Surveillance.

Sur cette page, vous pouvez effectuer les actions suivantes :

  • Affichez les interactions pendant la date et l'heure sélectionnées.
  • Filtrez les interactions en fonction des modèles ou des paramètres de salle associés, des lieux, des points d'intégration et des types d'entrée.
  • Téléchargez les données dans un fichier PNG ou CSV.
  • Suivez les cas de non-respect au fil du temps à l'aide d'un graphique de tendances.
  • Affichez les modèles utilisés dans le projet.

  • Inspectez les journaux associés pour afficher les journaux à la date et à l'heure sélectionnées. Pour ce faire, cliquez sur Plus d'options de graphique > Inspecter les journaux associés.

    Pour inspecter les journaux associés, vous devez activer la journalisation dans les modèles et les paramètres de plancher, et vous devez disposer des autorisations IAM pour afficher les journaux.

Métriques clés

Voici les principales métriques du tableau de bord de surveillance :

  • Nombre total d'interactions analysées : volume total de requêtes et de réponses analysées par Model Armor.
  • Interactions signalées : nombre d'interactions qui ont enfreint au moins une règle configurée dans votre modèle Model Armor ou vos paramètres de plancher.
  • Interactions bloquées : nombre d'interactions bloquées (si vous avez configuré Model Armor en mode Inspecter et bloquer).
  • Cas de non-respect par catégorie :
    • Tous les détecteurs : contenu ne respectant pas les règles selon tous les détecteurs.
    • Non-respect des règles concernant les données sensibles : présence d'informations permettant d'identifier personnellement l'utilisateur, de données financières ou de types de données personnalisés que vous avez définis.
    • IA responsable : contenu enfreignant les filtres de sécurité (par exemple, contenu incitant à la haine, dangereux, relevant du harcèlement ou à caractère sexuel explicite).

Étapes suivantes