Este principio del pilar de seguridad del framework de arquitectura proporciona recomendaciones para usar la IA y ayudarte a mejorar la seguridad de tus cargas de trabajo en la nube.Google Cloud
Debido a la creciente cantidad y sofisticación de los ciberataques, es importante aprovechar el potencial de la IA para mejorar la seguridad. La IA puede ayudar a reducir la cantidad de amenazas, disminuir el esfuerzo manual que requieren los profesionales de seguridad y compensar la escasez de expertos en el dominio de la seguridad cibernética.
Descripción general de los principios
Usa las capacidades de la IA para mejorar tus sistemas y procesos de seguridad existentes. Puedes usar Gemini en Seguridad así como las capacidades intrínsecas de IA integradas en los Google Cloud servicios.
Estas capacidades de IA pueden transformar la seguridad, ya que proporcionan asistencia en todas las etapas del ciclo de vida de la seguridad. Por ejemplo, puedes usar la IA para lo siguiente:
- Analiza y explica el código potencialmente malicioso sin ingeniería inversa.
- Reducir el trabajo repetitivo para los profesionales de la seguridad cibernética
- Usa lenguaje natural para generar consultas y también interactuar con datos de eventos de seguridad.
- Muestra información contextual.
- Ofrece recomendaciones para respuestas rápidas.
- Ayudar en la solución de eventos
- Resume las alertas de alta prioridad de parámetros de configuración incorrectos y vulnerabilidades, destaca los posibles impactos y recomienda mitigaciones.
Niveles de autonomía de seguridad
La IA y la automatización pueden ayudarte a lograr mejores resultados de seguridad cuando te enfrentes a amenazas de ciberseguridad en constante evolución. Cuando usas la IA para la seguridad, puedes lograr mayores niveles de autonomía para detectar y evitar amenazas, y mejorar tu postura de seguridad general. Google define cuatro niveles de autonomía cuando usas la IA para la seguridad y describe el papel cada vez más importante de la IA en la asistencia y, en última instancia, en la dirección de las tareas de seguridad:
- Manual: Las personas ejecutan todas las tareas de seguridad (prevenir, detectar, priorizar y responder) durante todo el ciclo de vida de la seguridad.
- Asistida: Las herramientas de IA, como Gemini, aumentan la productividad humana a través de la generación de estadísticas, la recopilación de información y la formulación de recomendaciones.
- Semiautónomo: La IA asume la responsabilidad principal de muchas tareas de seguridad y delega a las personas solo cuando es necesario.
- Autonómico: La IA actúa como un asistente de confianza que impulsa el ciclo de vida de la seguridad según los objetivos y las preferencias de tu organización, con una intervención humana mínima.
Recomendaciones
En las siguientes secciones, se describen las recomendaciones para usar la IA en la seguridad. En las secciones, también se indica cómo las recomendaciones se alinean con los elementos principales del Secure AI Framework (SAIF) de Google y su relevancia para los niveles de autonomía de seguridad.
- Mejora la detección y la respuesta de amenazas con la IA
- Simplifica la seguridad tanto para expertos como para otros
- Automatiza las tareas de seguridad que consumen tiempo con la IA
- Incorpora la IA en los procesos de administración y gobernanza de riesgos
- Implementa prácticas de desarrollo seguras para los sistemas de IA
Mejora la detección y respuesta de amenazas con IA
Esta recomendación es relevante para las siguientes áreas de enfoque:
- Operaciones de seguridad (SecOps)
- Registro, auditoría y supervisión
La IA puede analizar grandes volúmenes de datos de seguridad, ofrecer estadísticas sobre el comportamiento de los agentes de amenazas y automatizar el análisis de código potencialmente malicioso. Esta recomendación está alineada con los siguientes elementos de la SAIF:
- Amplifica la detección y la respuesta para incorporar la IA al universo de las amenazas de tu organización.
- Automatiza las defensas para seguir el ritmo de las amenazas existentes y nuevas.
Según tu implementación, esta recomendación puede ser relevante para los siguientes niveles de autonomía:
- Asistida: La IA ayuda con el análisis y la detección de amenazas.
- Semiautónoma: La IA asume más responsabilidad en la tarea de seguridad.
Google Threat Intelligence, que usa IA para analizar el comportamiento de los agentes de amenazas y el código malicioso, puede ayudarte a implementar esta recomendación.
Simplificar la seguridad tanto para expertos como para otros
Esta recomendación es relevante para las siguientes áreas de enfoque:
- Operaciones de seguridad (SecOps)
- Administración, riesgo y cumplimiento de la nube
Las herramientas potenciadas por IA pueden resumir alertas y recomendar mitigaciones, y estas capacidades pueden hacer que la seguridad sea más accesible para un rango más amplio de personal. Esta recomendación está alineada con los siguientes elementos de la SAIF:
- Automatiza las defensas para seguir el ritmo de las amenazas existentes y nuevas.
- Estandariza los controles del nivel de la plataforma para garantizar una seguridad coherente en toda la organización.
Según tu implementación, esta recomendación puede ser relevante para los siguientes niveles de autonomía:
- Asistida: La IA te ayuda a mejorar la accesibilidad de la información de seguridad.
- Semiautónoma: La IA ayuda a que las prácticas de seguridad sean más eficaces para todos los usuarios.
Gemini en Security Command Center puede proporcionar resúmenes de alertas de parámetros de configuración incorrectos y vulnerabilidades.
Automatiza las tareas de seguridad que consumen tiempo con la IA
Esta recomendación es relevante para las siguientes áreas de enfoque:
- Seguridad de la infraestructura
- Operaciones de seguridad (SecOps)
- Seguridad para aplicaciones
La IA puede automatizar tareas como analizar software malicioso, generar reglas de seguridad y identificar parámetros de configuración incorrectos. Estas capacidades pueden ayudar a reducir la carga de trabajo de los equipos de seguridad y acelerar los tiempos de respuesta. Esta recomendación está alineada con el elemento de SAIF sobre la automatización de las defensas para seguir el ritmo de las amenazas existentes y nuevas.
Según tu implementación, esta recomendación puede ser relevante para los siguientes niveles de autonomía:
- Asistida: La IA te ayuda a automatizar tareas.
- Semiautónomo: La IA asume la responsabilidad principal de las tareas de seguridad y solo solicita asistencia humana cuando es necesario.
Gemini en Google SecOps puede ayudar a automatizar tareas de alta demanda, ya que asiste a los analistas, recupera el contexto relevante y hace recomendaciones para los próximos pasos.
Incorporar la IA en los procesos de administración y gobernanza de riesgos
Esta recomendación es relevante para el siguiente área de enfoque: Administración, riesgo y cumplimiento en la nube.
Puedes usar la IA para crear un inventario de modelos y perfiles de riesgo. También puedes usar la IA para implementar políticas de privacidad de los datos, riesgos cibernéticos y riesgos de terceros. Esta recomendación está alineada con el elemento del SAIF sobre la contextualización de los riesgos del sistema de IA en los procesos comerciales circundantes.
Según tu implementación, esta recomendación puede ser relevante para el nivel de autonomía semiautónoma. En este nivel, la IA puede organizar agentes de seguridad que ejecutan procesos para lograr tus objetivos de seguridad personalizados.
Implementa prácticas de desarrollo seguras para los sistemas de IA
Esta recomendación es relevante para las siguientes áreas de enfoque:
- Seguridad para aplicaciones
- Seguridad de la IA y el AA
Puedes usar la IA para codificar de forma segura, limpiar datos de entrenamiento y validar herramientas y artefactos. Esta recomendación está alineada con el elemento del SAIF sobre la expansión de bases de seguridad sólidas en el ecosistema de IA.
Esta recomendación puede ser relevante para todos los niveles de autonomía de seguridad, ya que se debe tener un sistema de IA seguro para que se pueda usar de manera eficaz para la seguridad. La recomendación es más relevante para el nivel asistido, en el que la IA mejora las prácticas de seguridad.
Para implementar esta recomendación, sigue los lineamientos de Niveles de cadena de suministro para artefactos de software (SLSA) para artefactos de IA y usa imágenes de contenedor validadas.