Model Armor examina las instrucciones y las respuestas de tus aplicaciones de LLM. El panel de supervisión te proporciona los datos, las métricas y las visualizaciones generados a partir de este proceso de detección. Usa estas estadísticas para comprender cómo Model Armor protege tus aplicaciones de IA, identifica los intentos de inyección de instrucciones y otras actividades maliciosas.
Antes de comenzar
Permisos necesarios
Para obtener los permisos que necesitas para acceder al panel de Monitoring, pídele a tu administrador que te otorgue el rol de IAM en el proyecto. Para obtener más información sobre cómo otorgar roles, consulta Administra el acceso a proyectos, carpetas y organizaciones.
Este rol predefinido contiene los permisos necesarios para acceder al panel de supervisión. Para ver los permisos exactos que son necesarios, expande la sección Permisos requeridos:
Permisos necesarios
Se requieren los siguientes permisos para acceder al panel de supervisión:
-
monitoring.monitoredResourceDescriptors.list -
monitoring.metricDescriptors.list
También puedes obtener estos permisos con roles personalizados o con otros roles predefinidos.
Accede al panel de supervisión
En la consola de Google Cloud , ve a la página Model Armor.
Verifica que estés viendo el proyecto en el que activaste Model Armor.
Ve a la pestaña Monitoring.
En esta página, puedes hacer lo siguiente:
- Visualiza las interacciones durante la fecha y hora seleccionadas.
- Filtra las interacciones según las plantillas o la configuración de la planta asociadas, las ubicaciones, los puntos de integración y los tipos de entrada.
- Descarga los datos en un archivo PNG o CSV.
- Realiza un seguimiento de los incumplimientos a lo largo del tiempo con un gráfico de tendencias.
- Consulta las plantillas que se usan en todo el proyecto.
Inspecciona los registros relacionados para ver los registros durante la fecha y hora seleccionadas. Para ello, haz clic en Más opciones de gráficos > Inspeccionar registros relacionados.
Para inspeccionar los registros relacionados, debes habilitar el registro en plantillas y configuración de la planta, y debes tener permisos de IAM para ver los registros.
Métricas clave
Las métricas clave del panel de supervisión incluyen las siguientes:
- Interacciones totales analizadas: Es el volumen total de instrucciones y respuestas analizadas por Model Armor.
- Interacciones marcadas: Es la cantidad de interacciones que incumplieron al menos una política configurada en la plantilla de Model Armor o en la configuración de límites.
- Interacciones bloqueadas: Es la cantidad de interacciones bloqueadas (si configuraste Model Armor en el modo de inspección y bloqueo).
- Incumplimientos por categoría:
- Todos los detectores: Contenido que incumplió todos los detectores.
- Incumplimiento de datos sensibles: Presencia de información de identificación personal (PII), datos financieros o tipos de datos personalizados que definiste
- IA responsable: Contenido que incumple los filtros de seguridad, como incitación al odio o a la violencia, contenido peligroso, hostigamiento o contenido sexual explícito
¿Qué sigue?
- Obtén información sobre Model Armor.
- Obtén información sobre las plantillas de Model Armor.
- Obtén más información sobre la configuración de Model Armor Floor.
- Obtén más información sobre los extremos de Model Armor.
- Sanitiza las instrucciones y las respuestas.
- Obtén más información sobre el registro de auditoría de Model Armor.
- Configura el registro para Model Armor
- Soluciona problemas de Model Armor.