Mandiant AI 보안 보고서: 공격자를 압도하는 AI 기반 보안 강화 전략

해당 블로그의 원문은 2026년 3월 14일 Google Cloud 블로그(영문)에 게재되었습니다.

위협 행위자들이 처음 AI를 사용하기 시작했을 때, 그 주된 목적은 피싱 이메일 초안을 작성하거나 코드 오류를 수정하는 등 생산성을 높이는 데 있었습니다. 하지만 이러한 양상은 변하고 있습니다. 2025년 말, 그들은 온디맨드 코드 생성을 위해 대규모 언어 모델(LLM)을 멀웨어에 직접 통합하기 시작했습니다.

이러한 변화는 방어자들이 기존의 정적 보안 통제에서 벗어날 것을 강제합니다. 공격자들이 적응형 멀웨어를 통해 공격 규모를 확장함에 따라, 방어 환경에서 허용되는 오류의 여지는 상당히 줄어들었습니다. 이것만으로도 보안 및 비즈니스 리더들은 행동 분석, API 수준의 모니터링, 그리고 AI로 강화된 방어 체계를 채택해야만 합니다.

이러한 진화 속에서 조직에 필요한 가이드를 제공하고자 새롭게 개발된 맨디언트 AI 리스크 및 회복탄력성 보고서를 발표합니다. 맨디언트의 최전선 경험과 구글 위협 인텔리전스 그룹(GTIG)의 심층적인 적대적 연구를 결합한 이 보고서는 독특한 관점을 제공하며, 다음 세 가지 핵심 영역을 다룹니다.

• AI의 적대적 활용(Adversarial use of AI): 위협 행위자들은 단순한 생산성 향상을 넘어, 탐지를 회피하기 위해 코드를 동적으로 난독화하는 AI 오케스트레이션 기반의 스파이 활동 및 적응형 멀웨어를 배포하는 단계로 나아가고 있습니다.
• AI 시스템 보안(Securing AI systems): 맨디언트는 전 세계적으로 수많은 AI 시스템 평가, AI 위협 모델링 훈련, 탐지 워크숍을 수행했습니다. 그 결과, 조직들이 전체 인프라 보안에서 직면하는 것과 유사한 보안 문제를 AI 파이프라인에서도 겪고 있음을 확인했습니다.
• AI 기반 방어(AI-powered defense): 사이버 방어 및 보안 운영 영역에서 AI가 실제 애플리케이션으로 빠르게 전환되는 것을 목격하고 있으며, 특히 위협 헌팅과 같은 구체적인 사용 사례에서 큰 주목을 받고 있습니다.

최근 맨디언트 레드팀의 참여와 AI 시스템 평가는 전통적인 애플리케이션 보안 결함이 AI 워크플로우에서 어떻게 증폭된 결과를 초래할 수 있는지 잘 보여줍니다. 예를 들어, 단순히 챗봇에게 애플리케이션 로그 요약을 요청하는 것만으로도 로그 기반 서버 측 요청 위조(SSRF) 공격을 통해 클라우드 리소스에 무단으로 접근할 수 있었습니다.

최근 평가에서 맨디언트는 조직들이 애플리케이션 레지스트리, AI를 위한 소프트웨어 자재 명세서, 그리고 AI 관련 아티팩트를 볼 수 있는 표준 보안 스캐너를 갖추지 못한 경우가 많음을 발견했습니다. 하지만 많은 기업이 제미나이(Gemini)와 같이 방어자에게 AI 기반 솔루션을 제공하는 데 진전을 보이고 있습니다.

Google Cloud에서는 조직이 이러한 도구를 안전하게 채택할 수 있도록, AI 사용을 위한 명확한 정책과 승인 워크플로우를 정의하는 강력한 거버넌스를 구축할 것을 강력히 권장합니다. 최근 클라우드 보안 연합(Cloud Security Alliance)과 Google Cloud의 공동 연구에 따르면, 포괄적인 AI 거버넌스는 성숙도 승수(Maturity multiplier) 역할을 합니다. 명확한 지침을 갖춘 조직은 고급 에이전틱 AI를 도입하고 확신을 가지고 신속하게 혁신할 가능성이 거의 두 배(46%)에 달했습니다.

강력한 거버넌스와 함께, 기업은 정기적인 AI 레드팀(Red teaming) 훈련을 도입하여 시스템의 스트레스 테스트를 수행하고 악용되기 전에 취약점을 드러내야 합니다. 가장 시급한 문제의 근본 원인은 새롭게 등장한 AI 전용 공격이 아니라, 기본적인 구현 결함과 IT 위생(IT hygiene) 부족에 있는 경우가 많습니다.

안전하게 구현될 경우, AI는 보안 운영에 있어 강력한 전력 승수가 될 수 있습니다. AI 챗봇에서 상호 연결된 시스템으로의 전환은 조직이 '에이전틱 방어(Agentic defense)' 체계로 진화하도록 도울 것입니다. 이 체계에서는 AI 에이전트가 동적으로 작업을 추론하고 복잡한 워크플로우를 자동화하여, 인간 분석가가 보다 전략적인 과제와 심층 조사에 집중할 수 있도록 역량을 강화합니다.

고객과의 실제 협업 과정에서 맨디언트는 AI가 보안 팀의 운영 방식을 어떻게 혁신하고 있는지 확인했습니다. 일례로 보안 관제 센터(SOC) 팀은 AI를 과거 침해 사고 분석에 활용하여, 수개월 치의 종료된 티켓을 일괄 검토하고 인간 분석가가 놓치기 쉬운 미세한 패턴이나 아키텍처의 근본적인 문제점들을 식별해 내고 있습니다.

또한 AI는 유용한 번역 계층 역할을 수행하여, 분석가가 자연어 프롬프트를 사용해 복잡한 엔드포인트 쿼리를 즉시 생성할 수 있게 해줍니다. 이는 위협 헌팅의 진입 장벽을 효과적으로 낮추고, 주니어 분석가들도 더 큰 역량을 발휘할 수 있도록 돕습니다. 1분 1초가 급박한 침해 사고 대응 상황에서, AI 기반 도구는 원시 텔레메트리 데이터를 빠르게 수집하고 일관성 있는 연대기적 공격 흐름을 즉각적으로 구성해 낼 수 있습니다.

우리는 앞으로의 한 해를 성공적으로 헤쳐 나가기 위해서는 선제적인 태도가 필요하다고 믿습니다. AI는 귀사의 사이버 방어 및 운영 역량을 한 차원 끌어올릴 수 있는 전례 없는 기회를 제공합니다. Google Cloud는 귀사의 팀이 안전한 AI 도입을 위한 기초 거버넌스를 확립하고, 정기적인 AI 위협 모델링 및 레드팀 훈련을 실시하며, 궁극적으로 AI 기반 방어 체계를 온전히 수용할 수 있도록 지원합니다. 맨디언트 컨설팅이 귀사의 조직을 어떻게 도울 수 있는지 지금 바로 확인해 보십시오.