El auge de la IA generativa (es decir, la inteligencia artificial) durante el último año también ha puesto en el punto de mira a los modelos de lenguaje extensos (LLMs) polivalentes. Las empresas se lanzan ahora a la carrera para aprovechar el potencial de los LLM e impulsar su servicio de atención al cliente, la optimización de tareas, la creación de contenido y la productividad general.

Con el rápido crecimiento de las aplicaciones basadas en IA, como los LLMs, aumenta el riesgo de que surjan vulnerabilidades asociadas. Las empresas buscan ser las primeras en llegar al mercado, pero, por desgracia, esto suele conllevar que la seguridad pase a un segundo plano.

Sin embargo, como ocurre con todas las aplicaciones nuevas, las prácticas recomendadas exigen que se evalúen las medidas de seguridad correspondientes. Aunque hay similitudes con los enfoques tradicionales de evaluación de aplicaciones, también hay diferencias sutiles que deben tenerse en cuenta al diseñar, crear y evaluar aplicaciones basadas en IA en todos los ámbitos.

^{Los LLMs son grandes redes neuronales que se entrenan con conjuntos de datos extensos. En función del tipo de conjunto de datos con el que se entrene, un LLM se puede personalizar para que realice una gran variedad de tareas, como generar, traducir y resumir textos, y hacer y responder preguntas generales.}

^{La mayoría de las empresas despliegan los LLMs como una web, lo que permite a los clientes y los usuarios interactuar con ellos en un formato familiar (a través de una aplicación web). Además, esto ofrece a los desarrolladores la capacidad de aprovechar los LLMs de una manera bien definida mediante el uso de interfaces de programación de aplicaciones web expuestas (APIs).} 

^{Los LLMs suelen generar lenguaje de uso general y simulan la capacidad de "entender" a los usuarios y sus consultas personalizadas. Esto hace que los LLMs basados en la Web sean especialmente adecuados para mejorar la experiencia de usuario en relación con los bots de chat, los buscadores y los asistentes virtuales, entre otros elementos.}

Todos los LLMs de uso general basados en la Web tienen cuatro características que los hacen atractivos.

La petición: se trata de una consulta que introduce el usuario final a través del frontend de la aplicación y que ayuda a definir el contexto de la interacción del LLM con el usuario y la naturaleza de la conversación. Cuanto más específica sea la petición, más capacidad tendrá el LLM para aprovechar su conjunto de datos a la hora de responder a la pregunta del usuario.

Las APIs expuestas: los LLMs exponen una interfaz de API deliberadamente para que la aplicación final la consuma. Estas APIs permiten que las aplicaciones web tradicionales aprovechen las funciones del LLM.

Los datos: los datos proporcionan al modelo la información que necesita para responder a la petición del usuario. La calidad es importante, ya que la cantidad y la especificidad permiten al LLM procesar mejor la consulta del usuario y desarrollar una respuesta que sea útil y precisa para él.

El conjunto de datos de entrenamiento: se trata de los datos con los que se ha entrenado inicialmente el modelo, de forma que fuera adecuado para su propósito final. Una vez más, la calidad es importante.

A medida que las aplicaciones web siguen evolucionando y se vuelven más omnipresentes, también lo hacen, por desgracia, el número y los tipos de vulnerabilidades asociadas a ellas. El Open Web Application Security Project (OWASP) mantiene un registro del número y el tipo de vulnerabilidades de aplicaciones web que se han denunciado públicamente y, cada pocos años, publica una lista de las 10 vulnerabilidades más comunes. 

De forma similar, se ha elaborado una nueva lista de OWASP sobre los 10 principales riesgos para aplicaciones específicas de LLMs:

Los LLMs basados en la Web han revolucionado la forma en que los usuarios interactúan con los sistemas tradicionales, ya que no es necesario que las consultas estén bien definidas y estructuradas. En cambio, los usuarios pueden interactuar con las aplicaciones y los sistemas de una forma más natural y conversacional. Por su parte, las aplicaciones de esta tecnología siguen evolucionando a la par que la curiosidad y la inventiva humanas.

Las aplicaciones de LLMs basadas en la Web se pueden evaluar de forma muy similar a las aplicaciones web tradicionales. Tras muchos años de pruebas de seguridad de aplicaciones y de buscar exploits, los controles como la codificación, la autenticación y la autorización de salida, la protección de datos y la seguridad de las APIs están bien definidos.

En el futuro, los profesionales de la seguridad deberán desarrollar su metodología de evaluación de la seguridad de las aplicaciones de forma que incluya estrategias de pruebas probabilísticas. De esa forma, podrán ayudar a evaluar y proteger mejor las aplicaciones de LLMs basadas en la Web frente a la inyección de peticiones y autonomía y dependencia excesivas, así como mantener una estrategia de seguridad actualizada y resiliente.

En el 2024, los sistemas de gestión de información y eventos de seguridad (SIEM) siguieron siendo la columna vertebral de la mayoría de los centros de operaciones de seguridad (SOCs). Las soluciones de SIEM siempre se han usado para recoger y analizar datos de seguridad de todas las empresas con el fin de identificar, investigar y responder a las amenazas. Sin embargo, la realidad es que las herramientas de SIEM actuales se parecen poco a las que se crearon hace más de 15 años. Los sistemas de SIEM modernos incluyen una arquitectura nativa de la nube y funciones como el análisis de comportamiento de usuarios y entidades (UEBA); la orquestación, automatización y respuesta de seguridad (SOAR); la gestión de superficies de ataque, y la inteligencia artificial (IA).

Las soluciones de SIEM antiguas suelen ser lentas, engorrosas y difíciles de usar. Su arquitectura antigua suele impedir que puedan escalarse para ingerir fuentes de registros muy voluminosas, y es posible que no puedan mantenerse al día de las últimas amenazas ni admitir las funciones y las características más recientes. Puede que no ofrezcan la flexibilidad necesaria para satisfacer los requisitos específicos de tu empresa o que no sean adecuadas para la estrategia multinube que aplican la mayoría de las empresas actualmente. Por último, es posible que no estén en una buena posición para aprovechar los últimos avances tecnológicos, como la IA.

Recientemente, se han producido cambios sustanciales en el ámbito de los sistemas de SIEM que no se pueden pasar por alto. Estos avances acelerarán la migración de las plataformas de SIEM antiguas a las modernas, lo que hará que muchas empresas pasen de plantearse si deberían llevar a cabo la migración a pensar en cuándo deberían hacerla. 

Principales novedades en el mercado de las soluciones de SIEM de los últimos años: 

Septiembre del 2023:

• Cisco anunció su intención de adquirir Splunk

Mayo del 2024:

• Crowdstrike presentó una nueva oferta de SIEM
• Exabeam y LogRhythm anunciaron su intención de fusionarse
• IBM vendió su negocio QRadar en la nube a Palo Alto Networks y detuvo el desarrollo de nuevas funciones para los clientes de QRadar on-premise

Los expertos de Google Cloud Security han sido testigos y han dirigido cientos de migraciones de SIEM durante varias décadas, lo que nos ha permitido conocer las prácticas recomendadas que pueden aplicar empresas de todos los tamaños. Por eso, vamos a hacer un repaso de los mejores consejos para migrar sistemas de SIEM del 2024.

A la hora de evaluar una nueva solución de SIEM, tú y tu equipo de seguridad debéis empezar por plantearos las siguientes preguntas para descubrir los puntos fuertes y débiles de cada opción y si satisfará las necesidades de la empresa:

En un futuro, será inevitable migrar de un SIEM antiguo a una solución moderna para adaptarse a las amenazas en constante evolución. Aunque esto puede parecer abrumador, planificar y ejecutar correctamente tu migración puede mejorar considerablemente la detección de amenazas, las funciones de investigación y respuesta, y la posición de seguridad general de tu organización.

Para consultar una guía detallada sobre la migración de SIEM, echa un vistazo al informe completo "La gran migración de SIEM: una guía para deshacerse de los dinosaurios".

Si te interesa conocer la plataforma de SecOps moderna y nativa de la nube de Google, visita nuestra página web.

El aumento del número de entornos nativos digitales deja claro que los equipos de seguridad y, en concreto, los equipos rojos y azules, deben comprender los retos de seguridad asociados a estos nuevos ecosistemas, ya que son únicos en comparación con los despliegues tradicionales on-premise. La pregunta que surge es: ¿cuáles son estos retos únicos y qué habilidades necesitan los profesionales de la ciberseguridad para afrontarlos? 

Los atacantes y los defensores ya no se enfrentan para proteger unos pocos recursos de infraestructura clave, como un controlador de dominio o un servicio de certificados. Por el contrario, cada recurso en la nube, aplicación de SSO y conexión de datos representa una amenaza de proporciones similares para una empresa. Cuando la arquitectura nativa digital se basa en tecnologías como las APIs, la gestión de identidades y accesos, Kubernetes, Docker, las funciones sin servidor, los microservicios, las bases de datos en la nube, el almacenamiento, las redes, los flujos de procesamiento de CI/CD u otras pasarelas, cada una de ellas representa un posible punto de entrada para los atacantes. Sin pruebas de seguridad exhaustivas, ¿cómo va a saber una empresa que la vulneración de una aplicación de SaaS de terceros podría dar a un atacante acceso sin restricciones a su entorno de nube? El nivel de interconexión que se observa en los entornos nativos digitales consolidados difumina las líneas entre las aplicaciones de terceros y las soluciones clave de las empresas. 

Otro reto exclusivo de los equipos de seguridad en entornos nativos digitales son los protocolos que se usan para llevar a cabo los ataques. Como estos entornos se componen principalmente de aplicaciones y servicios a los que se accede a través del navegador web de los empleados, muchos ataques se producen en la séptima capa, donde las interacciones con los recursos de la empresa se facilitan mediante protocolos comunes para los usuarios finales, como HTTP. Esto obliga a los profesionales de la seguridad a adoptar el papel de usuario en el entorno y a interactuar con las aplicaciones y los servicios principalmente a través de un navegador web, en lugar de emplear utilidades específicas de línea de comandos. Esta restricción aumenta considerablemente el esfuerzo manual necesario para conocer adecuadamente un nuevo entorno nativo digital. 

Otra consecuencia de esta restricción es que las soluciones tradicionales de detección y respuesta de endpoints (EDR) son mucho menos eficaces. Cuando tanto los usuarios legítimos como los maliciosos interactúan con el entorno de la misma forma, aumenta considerablemente la cantidad de revisiones manuales que deben llevar a cabo los defensores para distinguir entre las amenazas legítimas y las solicitudes de los usuarios benignos. En este sentido, proteger los entornos nativos digitales se convierte en proteger una serie de aplicaciones web individuales conectadas mediante el SSO y las relaciones de confianza de la plataforma en la nube. 

Además, como cada empresa necesita un conjunto diferente de aplicaciones y servicios para funcionar, la información que se obtiene sobre un entorno corporativo rara vez se puede extrapolar para entender cómo opera otro entorno diferente. Esta falta de estandarización exige un mayor nivel de creatividad e ingenio por parte de los profesionales de la seguridad.

Mandiant se basa en las tendencias que marcan los atacantes de empresas nativas digitales y que se observan en primera línea para dar forma a la metodología que utilizan los equipos rojos en sus simulaciones. Una de esas simulaciones tiene el objetivo, definido por Mandiant y una gran empresa nativa digital, de obtener acceso a una aplicación web administrativa interna, identificada por la empresa como una pieza fundamental de su negocio. 

Esta aplicación, que es la joya de la corona de la empresa, se había sometido recientemente a una auditoría de código de terceros y utilizaba un proveedor de SSO conocido para la autenticación. Como sabían que era menos probable que esta aplicación en sí fuera vulnerable a los ataques web comunes, los equipos rojos de Mandiant enfocaron sus pruebas en otras aplicaciones de SSO del mismo entorno que pudieran estar relacionadas con ella. Estas aplicaciones adicionales incluían plataformas de gestión de solicitudes de acceso, gestores de Kubernetes y herramientas de desarrollo de APIs. Mandiant documentó rigurosamente estas conexiones y empezó a evaluar los niveles de acceso disponibles para cada una. 

A medida que avanzaba la evaluación, Mandiant encontró un vector de apropiación de privilegios que permitía acceder como administrador a una aplicación de desarrollo de SaaS que se usaba para crear herramientas de automatización internas. Al principio de la colaboración, esta aplicación de desarrollo de SaaS se clasificó como de "riesgo bajo" porque sus usuarios seguían estando restringidos a los roles y permisos que se les habían asignado a través del proveedor de SSO. Inicialmente, no había ninguna indicación de que un administrador de dicha aplicación pudiera obtener acceso o permisos adicionales sobre otras aplicaciones de SSO en el entorno. 

Tras usar su acceso administrativo a la aplicación de desarrollo de SaaS, Mandiant descubrió que un gran número de empleados se autenticaban en la aplicación y ejecutaban al menos una de las herramientas que contenía cada hora. Por este motivo, el equipo rojo cambió su estrategia para centrarse en comprender esos flujos de trabajo de los usuarios y cómo podrían verse vulnerados para acceder a otros recursos privilegiados del entorno.

Según un reconocimiento adicional de la aplicación de desarrollo de SaaS desde esta perspectiva administrativa, Mandiant tenía permisos para editar los ajustes para conectar a los usuarios con la aplicación más valiosa de la empresa. Mandiant usó estos permisos para inyectar una solicitud adicional al final del flujo de autenticación de SSO de cada usuario, que enviaría tokens de SSO en texto sin formato a un servidor controlado por Mandiant. Tras guardar esta nueva configuración, los miembros del equipo rojo de Mandiant recibieron solicitudes de autenticación de usuarios legítimos de esta importante aplicación. Estas solicitudes contenían credenciales que Mandiant pudo aprovechar para suplantar al usuario que las había enviado. Tras dejar que esta inyección se ejecutara durante la noche, los miembros del equipo rojo pudieron capturar tokens de SSO de un usuario administrativo con muchos privilegios y, finalmente, acceder a esta aplicación tan crucial.

Las empresas nativas digitales y los entornos basados en la nube en los que operan están en constante cambio. Las nuevas tecnologías se desarrollan, se implementan y se vuelven obsoletas más rápido que nunca. La única garantía que tienen estas empresas es que los ciberdelincuentes no van a esperar a que se familiaricen con sus nuevos entornos. Por eso, las medidas de seguridad proactivas (como los controles de ciberdefensa constantes, la labor continua de los equipos rojos y la experiencia especializada en seguridad en la nube) son esenciales para contar con un sistema de ciberdefensa adecuado.