Consultar el panel de control de monitorización

Model Armor analiza las peticiones y las respuestas de tus aplicaciones de LLM. El panel de control de monitorización le proporciona los datos, las métricas y las visualizaciones generados a partir de este proceso de detección. Usa estas estadísticas para saber cómo protege Model Armor tus aplicaciones de IA e identifica los intentos de inyección de peticiones y otras actividades maliciosas.

Antes de empezar

Habilita Model Armor.

Permisos obligatorios

Para obtener los permisos que necesitas para acceder al panel de control de monitorización, pide a tu administrador que te conceda el rol de gestión de identidades y accesos en el proyecto. Para obtener más información sobre cómo conceder roles, consulta el artículo Gestionar el acceso a proyectos, carpetas y organizaciones.

Este rol predefinido contiene los permisos necesarios para acceder al panel de control de monitorización. Para ver los permisos exactos que se necesitan, despliega la sección Permisos necesarios:

Permisos obligatorios

Para acceder al panel de control de monitorización, se necesitan los siguientes permisos:

  • monitoring.monitoredResourceDescriptors.list
  • monitoring.metricDescriptors.list

También puedes obtener estos permisos con roles personalizados u otros roles predefinidos.

Acceder al panel de control de monitorización

  1. En la Google Cloud consola, ve a la página Model Armor.

    Ir a Model Armor

  2. Comprueba que estás viendo el proyecto en el que has activado Model Armor.

  3. Vaya a la pestaña Monitorización.

En esta página, puedes hacer lo siguiente:

  • Consulta las interacciones durante la fecha y la hora seleccionadas.
  • Filtra las interacciones en función de las plantillas o los ajustes de planta asociados, las ubicaciones, los puntos de integración y los tipos de entrada.
  • Descargar datos en un archivo PNG o CSV.
  • Monitoriza las infracciones a lo largo del tiempo con un gráfico de tendencias.
  • Ver las plantillas que se usan en el proyecto.

  • Consulta los registros relacionados para ver los registros durante la fecha y la hora seleccionadas. Para ello, haz clic en Más opciones del gráfico > Inspeccionar registros relacionados.

    Para inspeccionar los registros relacionados, debes habilitar el registro en las plantillas y en los ajustes de planta, y debes tener permisos de gestión de identidades y accesos para ver los registros.

Métricas clave

Las métricas clave del panel de monitorización son las siguientes:

  • Total de interacciones analizadas: el volumen total de peticiones y respuestas analizadas por Model Armor.
  • Interacciones denunciadas: número de interacciones que han infringido al menos una de las políticas configuradas en tu plantilla de Model Armor o en los ajustes de la moderación.
  • Interacciones bloqueadas: número de interacciones bloqueadas (si has configurado Model Armor en el modo de inspección y bloqueo).
  • Infracciones por categoría:
    • Todos los detectores: contenido que infringe las políticas según todos los detectores.
    • Infracción de datos sensibles: presencia de información personal identificable (IPI), datos financieros o tipos de datos personalizados que hayas definido.
    • IA responsable: contenido que infringe los filtros de seguridad, como la incitación al odio, el contenido peligroso, el acoso o el contenido sexual explícito.

Siguientes pasos