En este documento se explica cómo ver y actualizar los ajustes mínimos de Model Armor, y se proporciona un ejemplo de infracción de un ajuste mínimo.
Los ajustes mínimos de Model Armor definen reglas que especifican los requisitos mínimos de todas las plantillas de Model Armor creadas en un punto concreto de la jerarquía de recursos de Google Cloud (es decir, a nivel de organización, carpeta o proyecto). Si hay varios ajustes de planta en conflicto, tienen prioridad los que se encuentran en la parte inferior de la jerarquía de recursos. Por ejemplo, si se crea una política de ajuste mínimo a nivel de carpeta y de proyecto, se aplicará la política a nivel de proyecto. Este comportamiento solo se aplica a los proyectos que se encuentran en esa carpeta específica.
Por ejemplo, supongamos que has definido una política a nivel de carpeta en una carpeta específica, habilitando un filtro de URIs maliciosas para todo el contenido que contenga. Después, en esa misma carpeta, tienes un proyecto concreto. En este proyecto, has configurado una política a nivel de proyecto más específica. Esta política a nivel de proyecto requiere la detección de inyecciones de prompt y de jailbreak con un umbral de confianza medio.
El resultado es el siguiente:
Cualquier plantilla de Model Armor creada en este proyecto específico debe incluir el filtro de detección de inyección de peticiones y jailbreaking, con un umbral de confianza de al menos nivel medio. Esto se debe a que la política a nivel de proyecto establece un requisito mínimo para todas las plantillas de ese proyecto.
Las plantillas creadas fuera de la carpeta superior de este proyecto no se ven afectadas por las políticas de esa carpeta específica. Por lo tanto, si crea una plantilla en otra carpeta o en el nivel raíz, no se requerirá automáticamente el filtro de URI malicioso que se haya definido para esa carpeta en concreto. Esto destaca que estas políticas se limitan a su nivel jerárquico específico y no se aplican de forma global a menos que se definan en un nivel organizativo superior y más amplio.
Los ajustes de nivel ayudan a los directores de seguridad de la información y a los arquitectos de seguridad a aplicar una postura de seguridad mínima en todas las plantillas de Model Armor de su organización. Estos ajustes ayudan a evitar que los desarrolladores pongan en riesgo los estándares de seguridad. Si usas el nivel de servicio Premium o Enterprise de Security Command Center, las infracciones de la configuración de la planta activan resultados. Si se crea una plantilla con ajustes menos restrictivos antes de un ajuste mínimo, Security Command Center muestra un resultado. Estos ajustes te ayudan a identificar y corregir plantillas de Model Armor menos seguras. La configuración de la planta no puede aplicar la protección de datos sensibles.
Antes de empezar
Antes de empezar, completa las siguientes tareas.
Obtener los permisos necesarios
Para obtener los permisos que necesitas para gestionar los ajustes de planta, pide a tu administrador que te conceda el rol de gestión de identidades y accesos Administrador de ajustes de planta de Model Armor (roles/modelarmor.floorSettingsAdmin
) en los ajustes de planta de Model Armor.
Para obtener más información sobre cómo conceder roles, consulta el artículo Gestionar el acceso a proyectos, carpetas y organizaciones.
También puedes conseguir los permisos necesarios a través de roles personalizados u otros roles predefinidos.
Habilitar APIs
Para usar Model Armor, primero debes habilitar sus APIs.
Consola
Enable the Model Armor API.
Roles required to enable APIs
To enable APIs, you need the Service Usage Admin IAM role (
roles/serviceusage.serviceUsageAdmin
), which contains theserviceusage.services.enable
permission. Learn how to grant roles.Selecciona el proyecto en el que quieras activar Model Armor.
gcloud
Antes de empezar, sigue estos pasos con la CLI de Google Cloud y la API Model Armor:
In the Google Cloud console, activate Cloud Shell.
At the bottom of the Google Cloud console, a Cloud Shell session starts and displays a command-line prompt. Cloud Shell is a shell environment with the Google Cloud CLI already installed and with values already set for your current project. It can take a few seconds for the session to initialize.
Ejecuta el siguiente comando para definir el endpoint de la API del servicio Model Armor.
gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.LOCATION.rep.googleapis.com/"
Sustituye
LOCATION
por la región en la que quieras usar Model Armor.- En la Google Cloud consola, ve a la página Model Armor.
- Selecciona un proyecto.
- En la página Model Armor (Protección de modelos), ve a la pestaña Floor settings (Ajustes de suelo) y haz clic en Configure floor settings (Configurar ajustes de suelo).
- En la página Configurar ajustes de planta, selecciona la opción de configuración.
- En la sección Detecciones, configura los ajustes de detección.
- Opcional: Si selecciona Detección de protección de datos sensibles, debe configurar los ajustes de protección de datos sensibles.
En la sección IA responsable, define el nivel de confianza de cada filtro de contenido.
En la sección Servicios, elige los servicios en los que se aplicarán estos ajustes de planta.
En la sección Registros, selecciona Habilitar Cloud Logging para registrar todas las peticiones de los usuarios, las respuestas del modelo y los resultados del detector de ajustes de planta.
Selecciona Habilitar compatibilidad con varios idiomas para usar los ajustes de detección de varios idiomas.
Haz clic en Guardar configuración de planta.
Heredar los ajustes de precio mínimo de la unidad superior: hereda los ajustes de precio mínimo definidos en un nivel superior de la jerarquía de recursos. Haz clic en Guardar configuración de planta y omite los pasos siguientes. Para ver los ajustes heredados, vaya a la pestaña Ajustes de planta.
Personalizado: define los ajustes de precios mínimos de este proyecto. Los ajustes personalizados que definas para un proyecto anularán cualquier ajuste de planta heredado.
Inhabilitar: inhabilita cualquier ajuste de suelo heredado, lo que significa que no se aplican reglas de detección a las plantillas de Model Armor ni a Vertex AI para tus cargas de trabajo de Gemini. Haz clic en Guardar configuración de planta y salta los pasos siguientes. Consulta el estado inhabilitado en la pestaña Configuración de planta.
- Model Armor: creación y actualización de plantillas: se comprueba cada plantilla de Model Armor nueva y modificada de un proyecto para asegurarse de que se han especificado los ajustes mínimos según los ajustes de la planta.
Vertex AI: filtra las solicitudes enviadas a los modelos de Gemini y registra o bloquea las que cumplan los umbrales de los ajustes mínimos.
Si seleccionas Vertex AI, se mostrará la sección Vertex AI, donde podrás elegir cómo se aplican los ajustes de planta.
- Solo inspeccionar: detecta las solicitudes que no cumplen los ajustes de eCPM mínimo, pero no las bloquea.
- Inspeccionar y bloquear infracciones: detecta y bloquea las solicitudes que no cumplen los ajustes mínimos.
En la Google Cloud consola, ve a la página Model Armor.
Comprueba que estás viendo el proyecto en el que has activado Model Armor.
En la página Model Armor (Modelo Armor), vaya a la pestaña Floor settings (Ajustes de suelo). Si los ajustes de planta se han configurado a nivel de organización, puedes verlos aquí. Si no se ha definido ningún ajuste de planta, debes configurarlos. Para obtener más información, consulta Configurar los ajustes de la planta.
Consulta el ajuste mínimo de Model Armor de un proyecto concreto.
gcloud model-armor floorsettings describe \ --full-uri='projects/PROJECT_ID/locations/global/floorSetting'
Consulta el ajuste mínimo de Model Armor de una organización concreta.
gcloud model-armor floorsettings describe \ --full-uri='organizations/ORGANIZATION_ID/locations/global/floorSetting'
Consulta el ajuste mínimo de Model Armor de una carpeta concreta.
gcloud model-armor floorsettings describe \ --full-uri='folders/FOLDER_ID/locations/global/floorSetting'
Haz los cambios siguientes:
PROJECT_ID
: el ID del proyecto de los ajustes de planta.FOLDER_ID
: el ID de la carpeta de los ajustes del suelo.ORGANIZATION_ID
: el ID de la organización de los ajustes de la planta.
Consulta el ajuste mínimo de Model Armor de un proyecto concreto.
curl -X GET \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://modelarmor.googleapis.com/v1/projects/PROJECT_ID/locations/global/floorSetting"
Consulta el ajuste mínimo de Model Armor de una carpeta concreta.
curl -X GET \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://modelarmor.googleapis.com/v1/folders/FOLDER_ID/locations/global/floorSetting"
Consulta el ajuste mínimo de Model Armor de una organización concreta.
curl -X GET \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://modelarmor.googleapis.com/v1/organizations/ORGANIZATION_ID/locations/global/floorSetting"
PROJECT_ID
: el ID del proyecto de los ajustes de planta.FOLDER_ID
: el ID de la carpeta de los ajustes del suelo.ORGANIZATION_ID
: el ID de la organización de los ajustes de la planta.Consulta el ajuste mínimo de Model Armor de un proyecto concreto.
Consulta el ajuste mínimo de Model Armor de una carpeta concreta.
Consulta el ajuste mínimo de Model Armor de una organización concreta.
Consulta el ajuste mínimo de Model Armor de un proyecto concreto.
Consulta el ajuste mínimo de Model Armor de una carpeta concreta.
Consulta el ajuste mínimo de Model Armor de una organización concreta.
Consulta el ajuste mínimo de Model Armor de un proyecto concreto.
Consulta el ajuste mínimo de Model Armor de una carpeta concreta.
Consulta el ajuste mínimo de Model Armor de una organización concreta.
Consulta el ajuste mínimo de Model Armor de un proyecto concreto.
Consulta el ajuste mínimo de Model Armor de una carpeta concreta.
Consulta el ajuste mínimo de Model Armor de una organización concreta.
Consulta el ajuste mínimo de Model Armor de un proyecto concreto.
Consulta el ajuste mínimo de Model Armor de una carpeta concreta.
Consulta el ajuste mínimo de Model Armor de una organización concreta.
En la Google Cloud consola, ve a la página Model Armor.
Comprueba que estás viendo el proyecto en el que has activado Model Armor.
En la página Model Armor (Protección de modelos), ve a la pestaña Floor settings (Ajustes de suelo) y haz clic en Configure floor settings (Configurar ajustes de suelo).
Actualice los campos obligatorios y haga clic en Guardar ajustes de planta.
Actualiza el ajuste de suelo de Model Armor de un proyecto concreto.
curl -X PATCH -d '{"filterConfig" :{"piAndJailbreakFilterSettings": { "filterEnforcement": "ENABLED"}, "maliciousUriFilterSettings": { "filterEnforcement": "ENABLED" }, "rai_settings":{"rai_filters":{"filter_type":"DANGEROUS", "confidence_level":"LOW_AND_ABOVE" }, \ "rai_filters":{"filter_type":"HATE_SPEECH", "confidence_level":"LOW_AND_ABOVE" }, "rai_filters":{"filter_type":"HARASSMENT", "confidence_level":"LOW_AND_ABOVE" }, "rai_filters":{"filter_type":"SEXUALLY_EXPLICIT", "confidence_level":"LOW_AND_ABOVE" }}},"enableFloorSettingEnforcement":"true"}' \ -H "Content-Type: application/json" \ -H "Authorization: Bearer $(gcloud auth print-access-token) \ "https://modelarmor.googleapis.com/v1/projects/PROJECT_ID/locations/global/floorSetting"
Actualiza el ajuste de suelo de Model Armor de una carpeta determinada.
curl -X PATCH \ -d '{"filterConfig" :{"piAndJailbreakFilterSettings": { "filterEnforcement": "ENABLED"}, "maliciousUriFilterSettings": {"filterEnforcement": "ENABLED" }},"enableFloorSettingEnforcement":"true"}' \ -H "Content-Type: application/json" \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ "https://modelarmor.googleapis.com/v1/folders/FOLDER_ID/locations/global/floorSetting"
Actualiza el ajuste de suelo de Model Armor de una organización determinada.
curl -X PATCH \ -d '{"filterConfig" :{"piAndJailbreakFilterSettings": { "filterEnforcement": "ENABLED"}, "maliciousUriFilterSettings": { "filterEnforcement": "ENABLED" }},"enableFloorSettingEnforcement":"true"}' \ -H "Content-Type: application/json" \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ "https://modelarmor.googleapis.com/v1/organizations/ORGANIZATION_ID/locations/global/floorSetting"
Haz los cambios siguientes:
PROJECT_ID
: el ID del proyecto de los ajustes de planta.FOLDER_ID
: el ID de la carpeta de los ajustes del suelo.ORGANIZATION_ID
: el ID de la organización de los ajustes de la planta.
El comando update devuelve la siguiente respuesta:
{ "name": "projects/PROJECT_ID/locations/global/floorSetting", "updateTime": "2024-12-19T15:36:21.318191Z", "filterConfig": { "piAndJailbreakFilterSettings": { "filterEnforcement": "ENABLED" }, "maliciousUriFilterSettings": { "filterEnforcement": "ENABLED" } } }
Actualiza el ajuste de suelo de Model Armor de un proyecto concreto.
Actualiza el ajuste de suelo de Model Armor de una carpeta determinada.
Actualiza el ajuste de suelo de Model Armor de una organización determinada.
Actualiza el ajuste de suelo de Model Armor de un proyecto concreto.
Actualiza el ajuste de suelo de Model Armor de una carpeta determinada.
Actualiza el ajuste de suelo de Model Armor de una organización determinada.
Actualiza el ajuste de suelo de Model Armor de un proyecto concreto.
Actualiza el ajuste de suelo de Model Armor de una carpeta determinada.
Actualiza el ajuste de suelo de Model Armor de una organización determinada.
Actualiza el ajuste de suelo de Model Armor de un proyecto concreto.
Actualiza el ajuste de suelo de Model Armor de una carpeta determinada.
Actualiza el ajuste de suelo de Model Armor de una organización determinada.
Actualiza el ajuste de suelo de Model Armor de un proyecto concreto.
Actualiza el ajuste de suelo de Model Armor de una carpeta determinada.
Actualiza el ajuste de suelo de Model Armor de una organización determinada.
- Más información sobre Model Armor
- Consulta información sobre las plantillas de Model Armor.
- Desinfecta las peticiones y las respuestas.
- Solucionar problemas de Model Armor
Ejecuta el siguiente comando para habilitar Model Armor.
gcloud services enable modelarmor.googleapis.com --project=PROJECT_ID
Sustituye PROJECT_ID
con el ID del proyecto.
Integración con Vertex AI
Model Armor se integra con Vertex AI para cribar las solicitudes y respuestas del modelo Gemini en función de los ajustes mínimos que hayas definido. Para ver las peticiones y las respuestas, debe habilitar Cloud Logging. Para obtener más información, consulta el artículo Integración de Model Armor con Vertex AI.
Configurar los ajustes de la planta
Los ajustes de precio mínimo se usan para configurar los umbrales de detección mínimos de las plantillas de Model Armor. Estos ajustes verifican que todas las plantillas nuevas y modificadas cumplan determinados requisitos. Para configurar los ajustes de la planta, haz lo siguiente:
Definir cómo se hereda la configuración del precio mínimo
Cuando configures los ajustes de la planta, selecciona la opción de configuración.
Definir dónde se aplican los ajustes de eCPM mínimo
Selecciona uno de los siguientes servicios en los que se apliquen los ajustes de planta configurados.
Ver la configuración de planta de Model Armor
Consulta los ajustes de la planta de Model Armor para verificar los ajustes actuales, identificar los requisitos mínimos de tus aplicaciones de IA o solucionar problemas cuando una plantilla no funciona como se espera.
Ejecuta el siguiente comando para ver los ajustes mínimos de Model Armor.
Consola
gcloud
REST
Haz los cambios siguientes:
Go
Para ejecutar este código, primero debes configurar un entorno de desarrollo de Go e instalar el SDK de Model Armor para Go.
Java
Para ejecutar este código, primero debes configurar un entorno de desarrollo de Java e instalar el SDK de Java de Model Armor.
Node.js
Para ejecutar este código, primero debes configurar un entorno de desarrollo de Node.js e instalar el SDK de Node.js de Model Armor.
PHP
Para ejecutar este código, primero debes configurar un entorno de desarrollo de PHP e instalar el SDK de PHP de Model Armor.
Python
Para ejecutar este código, primero debes configurar un entorno de desarrollo de Python e instalar el SDK de Python de Model Armor.
Actualizar los ajustes de suelo de Model Armor
Actualiza los ajustes de Model Armor para cambiar los requisitos mínimos de las plantillas y reflejar los cambios en las políticas de seguridad, corregir errores de configuración o resolver conflictos entre los ajustes de Model Armor.
Ejecuta el siguiente comando para actualizar los ajustes mínimos de Model Armor.
Consola
gcloud
gcloud model-armor floorsettings update --full-uri=<full-uri-of-the-floorsetting>
Comando de ejemplo:
gcloud model-armor floorsettings update \
--malicious-uri-filter-settings-enforcement=ENABLED \
--pi-and-jailbreak-filter-settings-enforcement=DISABLED \
--pi-and-jailbreak-filter-settings-confidence-level=LOW_AND_ABOVE \
--basic-config-filter-enforcement=ENABLED \
--add-rai-settings-filters='[{"confidenceLevel": "low_and_above", "filterType": "HARASSMENT"}, {"confidenceLevel": "high", "filterType": "SEXUALLY_EXPLICIT"}]'
--full-uri='folders/FOLDER_ID/locations/global/floorSetting' \
--enable-floor-setting-enforcement=true
Sustituye FOLDER_ID
por el ID de la carpeta de los ajustes de la planta.
REST
Go
Para ejecutar este código, primero debes configurar un entorno de desarrollo de Go e instalar el SDK de Model Armor para Go.
Java
Para ejecutar este código, primero debes configurar un entorno de desarrollo de Java e instalar el SDK de Java de Model Armor.
Node.js
Para ejecutar este código, primero debes configurar un entorno de desarrollo de Node.js e instalar el SDK de Node.js de Model Armor.
PHP
Para ejecutar este código, primero debes configurar un entorno de desarrollo de PHP e instalar el SDK de PHP de Model Armor.
Python
Para ejecutar este código, primero debes configurar un entorno de desarrollo de Python e instalar el SDK de Python de Model Armor.
Revisar las conclusiones sobre la infracción de la configuración del eCPM mínimo
Cada detección de Model Armor identifica una infracción de la configuración de suelo. Se produce una infracción cuando una plantilla de Model Armor no cumple los estándares de seguridad mínimos definidos por los ajustes de nivel de la jerarquía de recursos. Los ajustes mínimos definen los requisitos mínimos de las plantillas. Una infracción de la configuración mínima puede deberse a que a una plantilla le faltan filtros obligatorios o a que no cumple el nivel de confianza mínimo de esos filtros. Cuando se detecta una infracción, se genera un hallazgo de gravedad alta en Security Command Center. El resultado especifica el ajuste mínimo infringido, la plantilla no conforme y los detalles de la infracción.
En el siguiente ejemplo se muestra el campo sourceProperties
del hallazgo. Esta infracción, relacionada con el filtro de URIs maliciosos, se ha producido porque el ajuste de la plantilla de maliciousUriFilterSettings
es DISABLED
, pero los ajustes mínimos requieren que sea ENABLED
.
{ "filterConfig": { "raiSettings": { "raiFilters": [ { "filterType": "HATE_SPEECH", "confidenceLevel": { "floorSettings": "LOW_AND_ABOVE", "template": "MEDIUM_AND_ABOVE" } }, { "filterType": "HARASSMENT", "confidenceLevel": { "floorSettings": "MEDIUM_AND_ABOVE", "template": "HIGH" } } ] }, "piAndJailbreakFilterSettings": { "confidenceLevel": { "floorSettings": "LOW_AND_ABOVE", "template": "HIGH" } }, "maliciousUriFilterSettings": { "floorSettings": "ENABLED", "template": "DISABLED" } } }
Siguientes pasos
A menos que se indique lo contrario, el contenido de esta página está sujeto a la licencia Reconocimiento 4.0 de Creative Commons y las muestras de código están sujetas a la licencia Apache 2.0. Para obtener más información, consulta las políticas del sitio web de Google Developers. Java es una marca registrada de Oracle o sus afiliados.
Última actualización: 2025-09-10 (UTC).