Integración de Model Armor con los servicios de Google Cloud

Model Armor se integra con varios Google Cloud servicios:

  • Google Kubernetes Engine (GKE) y extensiones de servicio
  • Vertex AI

GKE y Service Extensions

Model Armor se puede integrar con GKE a través de extensiones de servicio. Las extensiones de servicio te permiten integrar servicios internos (Google Cloud ) o externos (gestionados por el usuario) para procesar el tráfico. Puedes configurar una extensión de servicio en balanceadores de carga de aplicaciones, incluidas las pasarelas de inferencia de GKE, para examinar el tráfico hacia y desde un clúster de GKE. De esta forma, se verifica que todas las interacciones con los modelos de IA estén protegidas por Model Armor. Para obtener más información, consulta Integración con GKE.

Vertex AI

Model Armor se puede integrar directamente en Vertex AI mediante ajustes de suelo o plantillas. Esta integración analiza las solicitudes y respuestas del modelo de Gemini, y bloquea las que infringen los ajustes mínimos. Esta integración proporciona protección de peticiones y respuestas en la API de Gemini en Vertex AI para el método generateContent. Debes habilitar Cloud Logging para ver los resultados de la anonimización de las peticiones y las respuestas. Para obtener más información, consulta Integración con Vertex AI.

Antes de empezar

Habilitar APIs

Para usar Model Armor, primero debes habilitar sus APIs.

Consola

  1. Enable the Model Armor API.

    Roles required to enable APIs

    To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

    Enable the API

  2. Selecciona el proyecto en el que quieras activar Model Armor.

gcloud

Antes de empezar, sigue estos pasos con la CLI de Google Cloud y la API Model Armor:

  1. In the Google Cloud console, activate Cloud Shell.

    Activate Cloud Shell

    At the bottom of the Google Cloud console, a Cloud Shell session starts and displays a command-line prompt. Cloud Shell is a shell environment with the Google Cloud CLI already installed and with values already set for your current project. It can take a few seconds for the session to initialize.

  2. Ejecuta el siguiente comando para definir el endpoint de la API del servicio Model Armor.

    gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.LOCATION.rep.googleapis.com/"

    Sustituye LOCATION por la región en la que quieras usar Model Armor.

  3. Ejecuta el siguiente comando para habilitar Model Armor.

      gcloud services enable modelarmor.googleapis.com --project=PROJECT_ID
       

    Sustituye PROJECT_ID con el ID del proyecto.

    Opciones al integrar Model Armor

    Model Armor ofrece las siguientes opciones de integración. Cada opción ofrece diferentes funciones y capacidades.

    Opción de integración Implementador o detector de políticas Configurar detecciones Solo inspeccionar Inspeccionar y bloquear Cobertura de modelos y nubes
    API REST Detector Usando solo plantillas Todos los modelos y todas las nubes
    Vertex AI (vista previa) Aplicación obligatoria insertada Usar configuraciones de planta o plantillas Gemini (sin streaming) en Google Cloud
    Google Kubernetes Engine (vista previa) Aplicación obligatoria insertada Usando solo plantillas Modelos con formato de Open AI en Google Cloud

    En el caso de la opción de integración de la API REST, Model Armor funciona como detector solo con plantillas. Esto significa que identifica y comunica principalmente posibles infracciones de las políticas basándose en plantillas predefinidas, en lugar de prevenirlas de forma activa.

    Con la opción de integración de Vertex AI, Model Armor ofrece la aplicación en línea mediante ajustes o plantillas de límite inferior. Esto significa que Model Armor aplica las políticas de forma activa interviniendo directamente en el proceso sin necesidad de modificar el código de tu aplicación.

    Al igual que Vertex AI, la opción de integración de GKE también ofrece solo la aplicación insertada mediante plantillas. Esto indica que Model Armor puede aplicar políticas directamente en la pasarela de inferencia sin necesidad de modificar el código de tu aplicación.