Model Armor

Ofrece un control preciso del contenido dañino, poco ético o no deseado, como la incitación al odio, el acoso, el material sexualmente explícito y los temas peligrosos. Usa umbrales de confianza ajustables para que las organizaciones puedan ajustar la aplicación de las políticas con precisión en función del contexto específico de la aplicación, la base de usuarios y la tolerancia al riesgo.

Se integra con el servicio Protección de Datos Sensibles de Google Cloud y se adapta específicamente a la imprevisibilidad del texto generado por IA. Model Armor ayuda a evitar la filtración de información personal identificable (IPI), información financiera, credenciales y tipos de datos sensibles definidos por el usuario tanto en las peticiones como en las respuestas del modelo.

Detecta archivos maliciosos, malware y URLs no seguras en las peticiones y respuestas de la IA. Detén las amenazas integradas, como la inyección indirecta de peticiones, en la que las peticiones seguras y legítimas pueden contaminarse con archivos y URLs maliciosos.

Model Armor protege todos los LLMs (incluidos Gemini, OpenAI, Anthropic, Llama y más) mediante una API REST que permite a los desarrolladores usarlo con cualquier nube o infraestructura. También ofrece protección en línea sin código integrada con implementaciones de modelos escalables de Vertex AI o extensiones de servicios de red y pasarelas de API de Apigee para actuar como un firewall de IA.