Secure AI Framework (SAIF) y Google Cloud
Secure AI Framework (SAIF) y Google Cloud
Secure AI Framework (SAIF) y Google Cloud
Secure AI Framework (SAIF) ofrece orientación a las organizaciones que buscan proteger los sistemas de IA.
Google creó SAIF.google, que incluye una autoevaluación de riesgos de SAIF, para respaldar la implementación de SAIF en las organizaciones y ayudarlas a crear e implementar sistemas de IA de forma segura.
A continuación, analizamos la cartera de Google Cloud Security a través del SAIF y mostramos cómo podemos ayudar a tu organización a mitigar los riesgos potenciales de la IA con varias soluciones y controles de la nube.
El SAIF está diseñado para abordar cuestiones fundamentales para los profesionales de la seguridad, como la administración de riesgos de modelos de IA/AA, la seguridad y la privacidad, lo que ayuda a garantizar que, al momento de implementar modelos de IA, se encuentren protegidos de forma predeterminada.
Envenenamiento de datos
Como parte del compromiso de Google Cloud con la seguridad, nuestros modelos de base tienen controles de acceso extensos para evitar la copia o lectura no autorizada, así como capacidades de detección de vanguardia para supervisar acciones no autorizadas.
Google Cloud también proporciona controles que nuestros clientes pueden configurar en nuestra plataforma para proteger su uso de nuestros modelos o de sus propios servicios de terceros. Las políticas organizativas y los controles del servicio de VPC evitan el robo de datos, además de los controles detallados de administración de identidades y accesos (IAM) que impiden el acceso no autorizado.
Obtén más información sobre las formas en que Google Cloud ayuda a los clientes a proteger sus datos:
- Controles del servicio de VPC: Crea perímetros de aislamiento alrededor de tus recursos en la nube, datos sensibles y redes para evitar el robo de datos, incluidas políticas específicas de Agent Platform.
- Proporciona guías de seguridad para especificar qué configuraciones de recursos se permiten o deniegan con el Servicio de políticas de la organización.
- Organiza, rastrea y administra el ciclo de vida de los modelos de AA con Model Registry en Agent Platform de Gemini Enterprise.
- Administración de la postura de seguridad de los datos: Administra los modelos, los conjuntos de datos y los artefactos de AA relacionados para la seguridad, la privacidad y el cumplimiento a través de políticas de control de acceso y control de flujo.
- La IA confidencial potenciada por Confidential Computing extiende la protección de datos y modelos basada en hardware con confidencialidad, integridad y aislamiento desde la CPU hasta las GPUs, lo que permite acelerar las cargas de trabajo fundamentales para la IA y el aprendizaje automático. Hace poco anunciamos dos nuevas ofertas de Confidential Computing diseñadas específicamente para proteger la privacidad y la confidencialidad de las cargas de trabajo de IA/AA: Confidential VMs con la tecnología de GPUs NVIDIA H100 Tensor Core y Confidential VMs con compatibilidad con Advanced Matrix Extensions (Intel AMX) de Intel. Obtén más información.
- Privileged Access Manager de Google: Asegure la confianza en sus datos y el acceso a la clave de encriptación con la Aprobación de acceso, la Transparencia de acceso y las Key Access Justifications. Google comparte las solicitudes de acceso a los datos de clientes de los empleados de Google y les brinda la capacidad de exigir controles explícitos (aprobación de acceso para el cliente como aprobador de varias partes) o basados en justificaciones y aplicados de forma criptográfica (Key Access Justifications) sobre el acceso a los datos del proveedor de servicios en la nube, incluidas las cargas de trabajo de IA. La verificación criptográfica y los registros detallados garantizan una transparencia y un control totales, lo que genera confianza en el manejo de tus datos sensibles por parte de Google, incluidos los datos relacionados con la IA.
¿Necesitas asistencia adicional para abordar los riesgos de la IA, como la filtración de modelos, la manipulación de la fuente de modelos y el envenenamiento de datos?
Los servicios de Google Cloud Consulting te ayudan a lograr una postura de seguridad de IA sólida para los controles de acceso a modelos y datos.
- Bases seguras en la nube: Establece bases de infraestructura sólidas y seguras con las protecciones necesarias para ejecutar cargas de trabajo de IA.
- Acelerador de seguridad de la IA generativa: Aprende de los especialistas en seguridad de la IA de Google cómo implementar el Secure AI Framework de Google para proteger tus cargas de trabajo de la IA generativa contra riesgos específicos de la IA.
- Refuerzo de la seguridad: Diseño seguro e implementación de extremo a extremo de servicios de IA con infraestructura como código (IaC).
- Simulaciones avanzadas de amenazas: Simula amenazas de IA del mundo real en un entorno aislado de Google Cloud para capacitar a los equipos de seguridad y evaluar su preparación para responder a incidentes de seguridad.
Comunícate con los servicios de Google Cloud Consulting
Trabaja con expertos de Mandiant para ayudarte a aprovechar la IA de forma segura.
- Equipo rojo para la IA: Valida tus defensas que protegen los sistemas de IA y evalúa tu capacidad para detectar y responder a un ataque activo que involucre sistemas de IA.
- Protege el uso de la IA: Evalúa la arquitectura, las defensas de datos y las aplicaciones creadas con modelos de IA, y desarrolla modelos de amenazas con frameworks de seguridad.
Contacta a expertos en seguridad de Mandiant
¿Quieres saber a qué preguntas de la autoevaluación de riesgos de SAIF se relaciona esta categoría de riesgo?
- ¿Puedes detectar, quitar y corregir cambios maliciosos o accidentales en tus datos de entrenamiento, ajuste o evaluación?
- ¿Tienes un inventario completo de todos los modelos, conjuntos de datos (para entrenamiento, ajuste o evaluación) y artefactos de AA relacionados (como código)?
- ¿Tienes controles de acceso sólidos en todos los modelos, conjuntos de datos y artefactos de AA relacionados para minimizar, detectar y evitar la lectura o copia no autorizada?
- ¿Puedes garantizar que todos los datos, modelos y códigos que se usan para entrenar, ajustar o evaluar modelos no se puedan manipular sin que se detecte durante el desarrollo y la implementación del modelo?
- ¿Se analizan los frameworks, las bibliotecas, los sistemas de software y los componentes de hardware que se usan en el desarrollo y la implementación de tus modelos para detectar vulnerabilidades de seguridad y protegerlos contra ellas?
Instructivos
Como parte del compromiso de Google Cloud con la seguridad, nuestros modelos de base tienen controles de acceso extensos para evitar la copia o lectura no autorizada, así como capacidades de detección de vanguardia para supervisar acciones no autorizadas.
Google Cloud también proporciona controles que nuestros clientes pueden configurar en nuestra plataforma para proteger su uso de nuestros modelos o de sus propios servicios de terceros. Las políticas organizativas y los controles del servicio de VPC evitan el robo de datos, además de los controles detallados de administración de identidades y accesos (IAM) que impiden el acceso no autorizado.
Obtén más información sobre las formas en que Google Cloud ayuda a los clientes a proteger sus datos:
- Controles del servicio de VPC: Crea perímetros de aislamiento alrededor de tus recursos en la nube, datos sensibles y redes para evitar el robo de datos, incluidas políticas específicas de Agent Platform.
- Proporciona guías de seguridad para especificar qué configuraciones de recursos se permiten o deniegan con el Servicio de políticas de la organización.
- Organiza, rastrea y administra el ciclo de vida de los modelos de AA con Model Registry en Agent Platform de Gemini Enterprise.
- Administración de la postura de seguridad de los datos: Administra los modelos, los conjuntos de datos y los artefactos de AA relacionados para la seguridad, la privacidad y el cumplimiento a través de políticas de control de acceso y control de flujo.
- La IA confidencial potenciada por Confidential Computing extiende la protección de datos y modelos basada en hardware con confidencialidad, integridad y aislamiento desde la CPU hasta las GPUs, lo que permite acelerar las cargas de trabajo fundamentales para la IA y el aprendizaje automático. Hace poco anunciamos dos nuevas ofertas de Confidential Computing diseñadas específicamente para proteger la privacidad y la confidencialidad de las cargas de trabajo de IA/AA: Confidential VMs con la tecnología de GPUs NVIDIA H100 Tensor Core y Confidential VMs con compatibilidad con Advanced Matrix Extensions (Intel AMX) de Intel. Obtén más información.
- Privileged Access Manager de Google: Asegure la confianza en sus datos y el acceso a la clave de encriptación con la Aprobación de acceso, la Transparencia de acceso y las Key Access Justifications. Google comparte las solicitudes de acceso a los datos de clientes de los empleados de Google y les brinda la capacidad de exigir controles explícitos (aprobación de acceso para el cliente como aprobador de varias partes) o basados en justificaciones y aplicados de forma criptográfica (Key Access Justifications) sobre el acceso a los datos del proveedor de servicios en la nube, incluidas las cargas de trabajo de IA. La verificación criptográfica y los registros detallados garantizan una transparencia y un control totales, lo que genera confianza en el manejo de tus datos sensibles por parte de Google, incluidos los datos relacionados con la IA.
Recursos adicionales
¿Necesitas asistencia adicional para abordar los riesgos de la IA, como la filtración de modelos, la manipulación de la fuente de modelos y el envenenamiento de datos?
Los servicios de Google Cloud Consulting te ayudan a lograr una postura de seguridad de IA sólida para los controles de acceso a modelos y datos.
- Bases seguras en la nube: Establece bases de infraestructura sólidas y seguras con las protecciones necesarias para ejecutar cargas de trabajo de IA.
- Acelerador de seguridad de la IA generativa: Aprende de los especialistas en seguridad de la IA de Google cómo implementar el Secure AI Framework de Google para proteger tus cargas de trabajo de la IA generativa contra riesgos específicos de la IA.
- Refuerzo de la seguridad: Diseño seguro e implementación de extremo a extremo de servicios de IA con infraestructura como código (IaC).
- Simulaciones avanzadas de amenazas: Simula amenazas de IA del mundo real en un entorno aislado de Google Cloud para capacitar a los equipos de seguridad y evaluar su preparación para responder a incidentes de seguridad.
Comunícate con los servicios de Google Cloud Consulting
Trabaja con expertos de Mandiant para ayudarte a aprovechar la IA de forma segura.
- Equipo rojo para la IA: Valida tus defensas que protegen los sistemas de IA y evalúa tu capacidad para detectar y responder a un ataque activo que involucre sistemas de IA.
- Protege el uso de la IA: Evalúa la arquitectura, las defensas de datos y las aplicaciones creadas con modelos de IA, y desarrolla modelos de amenazas con frameworks de seguridad.
Contacta a expertos en seguridad de Mandiant
Ejemplos de clientes
¿Quieres saber a qué preguntas de la autoevaluación de riesgos de SAIF se relaciona esta categoría de riesgo?
- ¿Puedes detectar, quitar y corregir cambios maliciosos o accidentales en tus datos de entrenamiento, ajuste o evaluación?
- ¿Tienes un inventario completo de todos los modelos, conjuntos de datos (para entrenamiento, ajuste o evaluación) y artefactos de AA relacionados (como código)?
- ¿Tienes controles de acceso sólidos en todos los modelos, conjuntos de datos y artefactos de AA relacionados para minimizar, detectar y evitar la lectura o copia no autorizada?
- ¿Puedes garantizar que todos los datos, modelos y códigos que se usan para entrenar, ajustar o evaluar modelos no se puedan manipular sin que se detecte durante el desarrollo y la implementación del modelo?
- ¿Se analizan los frameworks, las bibliotecas, los sistemas de software y los componentes de hardware que se usan en el desarrollo y la implementación de tus modelos para detectar vulnerabilidades de seguridad y protegerlos contra ellas?
Denegación del servicio de AA
La seguridad es un principio clave de Google Cloud y adoptamos un enfoque de defensa en profundidad. Como parte de nuestras medidas sólidas, tenemos capacidades sólidas para proteger contra interrupciones del servicio, como denegación de servicio distribuido (DDoS). También proporcionamos controles adicionales que los clientes pueden utilizar para protegerse contra este tipo de ataques de DDoS y de capa de aplicación a través de Cloud Armor.
Nuestra solución integrada de seguridad y administración de riesgos, Security Command Center, protege las aplicaciones de Agent Platform de Gemini Enterprise con controles preventivos y de detección. Esto incluye responder a eventos de seguridad de Agent Platform y simulación de ruta de ataque para imitar cómo un atacante del mundo real podría acceder a las cargas de trabajo de Agent Platform y vulnerarlas.
Para las aplicaciones de IA, los clientes también pueden utilizar Model Armor para inspeccionar, enrutar y proteger las instrucciones y respuestas de los modelos de base. Puede ayudar a los clientes a mitigar riesgos como la inyección de instrucciones, el jailbreaking, el contenido tóxico y la filtración de datos sensibles. Model Armor se integrará en productos de Google Cloud, incluido Agent Platform. Si quieres obtener más información sobre el acceso anticipado a Model Armor, puedes registrarte aquí o mirar nuestro video on demand.
¿Necesitas ayuda adicional para abordar los riesgos de la IA, como la denegación del servicio de AA y la ingeniería inversa de modelos?
Trabaja con expertos de Mandiant para aprovechar la IA de forma segura.
- Equipo rojo para la IA: Valida tus defensas que protegen los sistemas de IA y evalúa tu capacidad para detectar y responder a un ataque activo que involucre sistemas de IA.
- Protege el uso de la IA: Evalúa la arquitectura, las defensas de datos y las aplicaciones creadas con modelos de IA, y desarrolla modelos de amenazas con frameworks de seguridad.
Contacta a expertos en seguridad de Mandiant
Instructivos
La seguridad es un principio clave de Google Cloud y adoptamos un enfoque de defensa en profundidad. Como parte de nuestras medidas sólidas, tenemos capacidades sólidas para proteger contra interrupciones del servicio, como denegación de servicio distribuido (DDoS). También proporcionamos controles adicionales que los clientes pueden utilizar para protegerse contra este tipo de ataques de DDoS y de capa de aplicación a través de Cloud Armor.
Nuestra solución integrada de seguridad y administración de riesgos, Security Command Center, protege las aplicaciones de Agent Platform de Gemini Enterprise con controles preventivos y de detección. Esto incluye responder a eventos de seguridad de Agent Platform y simulación de ruta de ataque para imitar cómo un atacante del mundo real podría acceder a las cargas de trabajo de Agent Platform y vulnerarlas.
Para las aplicaciones de IA, los clientes también pueden utilizar Model Armor para inspeccionar, enrutar y proteger las instrucciones y respuestas de los modelos de base. Puede ayudar a los clientes a mitigar riesgos como la inyección de instrucciones, el jailbreaking, el contenido tóxico y la filtración de datos sensibles. Model Armor se integrará en productos de Google Cloud, incluido Agent Platform. Si quieres obtener más información sobre el acceso anticipado a Model Armor, puedes registrarte aquí o mirar nuestro video on demand.
Recursos adicionales
¿Necesitas ayuda adicional para abordar los riesgos de la IA, como la denegación del servicio de AA y la ingeniería inversa de modelos?
Trabaja con expertos de Mandiant para aprovechar la IA de forma segura.
- Equipo rojo para la IA: Valida tus defensas que protegen los sistemas de IA y evalúa tu capacidad para detectar y responder a un ataque activo que involucre sistemas de IA.
- Protege el uso de la IA: Evalúa la arquitectura, las defensas de datos y las aplicaciones creadas con modelos de IA, y desarrolla modelos de amenazas con frameworks de seguridad.
Contacta a expertos en seguridad de Mandiant
