Integración con Google Kubernetes Engine

Model Armor se puede integrar con Google Kubernetes Engine (GKE) mediante extensiones de servicio. Las extensiones de servicio te permiten añadir lógica personalizada a las rutas de procesamiento del tráfico de red. Las extensiones de tráfico son un tipo específico de extensiones de servicio que te permiten integrar servicios externos para procesar el tráfico. Estas extensiones se pueden adjuntar a varios servicios, como los balanceadores de carga. Google Cloud Puedes configurar una extensión de servicio en balanceadores de carga de aplicaciones, incluidas las inferencias de GKE, para filtrar el tráfico hacia y desde un clúster de GKE. De esta forma, todas las interacciones con los modelos de IA están protegidas por Model Armor. Para obtener más información, consulta Configurar una extensión de tráfico para llamar a un servicio de Model Armor.

Cómo funciona

Integración con Google Kubernetes Engine

  1. Configuras una extensión de servicio en un balanceador de carga que dirige el tráfico a un LLM alojado en tu clúster de GKE. Esta configuración especifica que se debe usar Model Armor para analizar las peticiones y las respuestas.
  2. Cuando las peticiones y las respuestas llegan al balanceador de carga, la extensión de servicio llama al servicio Model Armor.
  3. A continuación, Model Armor aplica políticas de seguridad a las peticiones y las respuestas, identificando y bloqueando cualquier contenido malicioso o dañino.
  4. Solo se permiten las peticiones y respuestas que superen las comprobaciones de Model Armor para acceder al clúster de GKE o para volver a ti.