Monitoring-Dashboard aufrufen

Model Armor prüft die Prompts und Antworten für Ihre LLM-Anwendungen. Das Monitoring-Dashboard enthält die Daten, Messwerte und Visualisierungen, die aus diesem Screening-Prozess generiert werden. Mithilfe dieser Statistiken können Sie nachvollziehen, wie Model Armor Ihre KI-Anwendungen schützt und versuchte Prompt Injections und andere schädliche Aktivitäten erkennt.

Hinweise

Model Armor aktivieren

Erforderliche Berechtigungen

Bitten Sie Ihren Administrator, Ihnen die IAM-Rolle für das Projekt zuzuweisen, um die Berechtigungen zu erhalten, die Sie für den Zugriff auf das Monitoring-Dashboard benötigen. Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.

Diese vordefinierte Rolle enthält die Berechtigungen, die für den Zugriff auf das Monitoring-Dashboard erforderlich sind. Erweitern Sie den Abschnitt Erforderliche Berechtigungen, um die erforderlichen Berechtigungen anzuzeigen:

Erforderliche Berechtigungen

Die folgenden Berechtigungen sind für den Zugriff auf das Monitoring-Dashboard erforderlich:

  • monitoring.monitoredResourceDescriptors.list
  • monitoring.metricDescriptors.list

Sie können diese Berechtigungen auch mit benutzerdefinierten Rollen oder anderen vordefinierten Rollen erhalten.

Auf das Monitoring-Dashboard zugreifen

  1. Rufen Sie in der Google Cloud Console die Seite Model Armor auf.

    Zu Model Armor

  2. Prüfen Sie, ob Sie das Projekt aufrufen, für das Sie Model Armor aktiviert haben.

  3. Rufen Sie den Tab Monitoring auf.

Auf dieser Seite haben Sie folgende Möglichkeiten:

  • Interaktionen während des ausgewählten Datums und der ausgewählten Uhrzeit ansehen
  • Interaktionen nach zugehörigen Vorlagen oder Etagenkonfigurationen, Standorten, Integrationspunkten und Eingabetypen filtern.
  • Daten als PNG- oder CSV-Datei herunterladen
  • Verstöße im Zeitverlauf mit einem Trenddiagramm nachvollziehen
  • Hier sehen Sie die im Projekt verwendeten Vorlagen.

  • Sehen Sie sich die zugehörigen Logs an, um die Logs für das ausgewählte Datum und die ausgewählte Uhrzeit aufzurufen. Klicken Sie dazu auf  Weitere Diagrammoptionen > Zugehörige Logs ansehen.

    Wenn Sie zugehörige Logs ansehen möchten, müssen Sie die Protokollierung in Vorlagen und Etagenkonfigurationen aktivieren. Außerdem benötigen Sie IAM-Berechtigungen zum Aufrufen von Logs.

Wichtige Messwerte

Zu den wichtigsten Messwerten im Monitoring-Dashboard gehören:

  • Gescannte Interaktionen insgesamt: Das Gesamtvolumen der Prompts und Antworten, die von Model Armor analysiert wurden.
  • Gekennzeichnete Interaktionen: Die Anzahl der Interaktionen, die gegen mindestens eine konfigurierte Richtlinie in Ihrer Model Armor-Vorlage oder in den Mindesteinstellungen verstoßen haben.
  • Blockierte Interaktionen: Die Anzahl der blockierten Interaktionen, wenn Sie Model Armor im Prüf- und Blockiermodus konfiguriert haben.
  • Verstöße nach Kategorie:
    • Alle Detektoren: Inhalte, die gegen alle Detektoren verstoßen.
    • Verstoß in Bezug auf vertrauliche Daten: Vorhandensein von personenidentifizierbaren Informationen (PII), Finanzdaten oder benutzerdefinierten Datentypen, die Sie definiert haben.
    • Verantwortungsbewusste KI: Inhalte, die gegen Sicherheitsfilter verstoßen, z. B. Hassreden, gefährliche Inhalte, Belästigungen oder sexuell explizite Inhalte.

Nächste Schritte