Google Cloud는 AI로 보안 기술을 어떻게 바꾸고 있나?
Steph Hay
Senior Director, Google Cloud Security
Umesh Shankar
Chief Technologist, Google Cloud Security
* 본 아티클의 원문은 2024년 5월 7일 Google Cloud 블로그(영문)에 게재되었습니다.
생성형 AI 시대는 공격자와 방어자 중 누구에게 더 큰 기회일까요? 현재 보안 기술의 발전에 AI가 기여하는 바를 살펴보면 방어자에게 더 큰 기회가 온다고 볼 수 있습니다. 최근 보안 커뮤니티는 AI가 대규모 악성 코드 분석 방식을 어떻게 바꾸는지 직접 목격하고 있습니다. 실제로 구글 클라우드는 Gemini 1.5 Pro를 사용해 WannaCry 악성 코드의 디컴파일된 코드를 한 번에 분석하여, 34초 만에 킬스위치를 찾아내는 데 성공했습니다. 코드를 조각내어 분석한 것이 아니라 전체 코드를 올려 이뤄낸 성과입니다.
5월 초에 미국 샌프란시스코에서 열린 RSA 컨퍼런스에서 구글 클라우드는 AI와 사이버 보안에 대한 비전을 공유하였습니다. 또한, 조직이 AI 시스템을 안전하게 보호하는 방법과 방어자를 지원하기 위해 AI 도구를 제공하는 방법도 소개하였습니다. 구글 클라우드는 맨디언트 컨설팅의 새로운 AI 서비스와 Security Command Center Enterprise를 연계해 AI로 보안 과제를 해결하는 새로운 방식도 제시하였습니다. 이외에도 Google Threat Intelligence와 Google Cloud Operations 등 여러 보안 제품에서 생성형 AI 기능을 활용할 수 있는 Gemini의 일반 공급(General Availability)을 발표하는 등 AI로 방어자를 지원하는 행보에 속도를 높이고 있습니다.
AI 워크로드 운영 환경의 위험을 관리하고, 방어자를 지원하는 생성형 AI
5월 초에 미국 샌프란시스코에서 열린 RSA 컨퍼런스에서 구글 클라우드는 AI와 사이버 보안에 대한 비전을 공유하였습니다. 또한, 조직이 AI 시스템을 안전하게 보호하는 방법과 방어자를 지원하기 위해 AI 도구를 제공하는 방법도 소개하였습니다. 구글 클라우드는 맨디언트 컨설팅의 새로운 AI 서비스와 Security Command Center Enterprise를 연계해 AI로 보안 과제를 해결하는 새로운 방식도 제시하였습니다. 이외에도 Google Threat Intelligence와 Google Cloud Operations 등 여러 보안 제품에서 생성형 AI 기능을 활용할 수 있는 Gemini의 일반 공급(General Availability)을 발표하는 등 AI로 방어자를 지원하는 행보에 속도를 높이고 있습니다.
구글의 보안과 AI 전문 지식을 활용한 새로운 서비스
2024년 현재 많은 조직이 AI를 비즈니스에 활용하는 영역을 빠르게 넓히고 있습니다. 그런데도 AI 환경에 대한 보호에 대한 인식은 기술 도입 속도를 못 따라가는 것으로 보입니다. 최근 Cloud Security Alliance가 발표한 'AI와 보안 현황 설문 보고서'에 따르면 많은 보안 전문가가 AI 시스템을 보호하는 데 자신감을 보이고 있으며, 위협을 과소평가하는 경향을 보이는 이들이 많은 것으로 나타났습니다.
구글 클라우드의 SAIF(Secure AI Framework)는 AI 워크로드와 관련된 위험을 분류하고 해당 위험을 완화할 수 있는 권장안을 제공합니다. 5월 초 구글 클라우드는 맨디언트 컨설팅의 새로운 서비스를 발표하였습니다. 이 서비스는 조직들이 SAIF를 기반으로 AI 사용을 더 안전하게 보호할 수 있도록 지원합니다. 맨디언트의 AI 컨설팅 서비스는 AI 파이프라인의 보안을 평가하고, 레드팀을 통해 AI 방어 및 대응 능력을 테스트하는 데 도움을 줍니다. 또한, 방어자들이 AI를 활용해 사이버 방어를 강화하고 조사 능력을 키울 방법도 안내합니다.
관련해 구글 클라우드의 맨디언트 컨설팅 부사장인 Jurgen Kutscher는 "AI는 기업에 새로운 가능성을 열어주며, 기업들은 AI의 잠재력을 활용하기 위해 새로운 보안 위험을 앞서 나가야 한다는 것을 인식하고 있습니다."라며 "AI 모델 훈련 데이터를 안전하게 보호하는 것부터 AI 애플리케이션의 취약성을 평가하는 것까지 맨디언트 컨설팅 전문가들은 구글이 AI를 보호하고 배포한 경험을 바탕으로 권장 사항을 제공합니다. 맨디언트의 새로운 서비스로 조직들이 더 안전하게 AI를 활용하고 운영을 혁신할 수 있도록 지원할 수 있게 되어 기쁩니다"라고 말합니다.
노트북 보안 스캐너는 패키지 취약점을 식별하고 개별 패키지 수정을 안내합니다.
AI 워크로드의 보안 강화
구글 클라우드는 고객들이 SAIF를 조직의 컴퓨팅 환경에 적용할 수 있도록 돕는 새로운 AI 보호 기능도 발표하였습니다. 이 기능은 Security Command Center Enterprise를 통해 제공되는데, 이를 활용하면 기업이 온프레미스 환경에서 수행하는 보안 운영과 클라우드 보안 운영을 통합할 수 있습니다.
-
현재 프리뷰로 제공되는 노트북 보안 스캐너(Notebook Security Scanner)는 관리형 노트북에 설치된 오픈 소스 소프트웨어로 인해 발생하는 취약점을 감지하고, 이를 수정하는 데 필요한 조언을 제공합니다.
- 2024년 3분기에 프리뷰로 공개될 예정인 모델 아머(Model Armor)는 파운데이션 모델 프롬프트 입력과 응답 검사, 라우팅, 보호 등을 지원합니다. 이는 프롬프트 인젝션, 제어 장악(jailbreak), 악의적인 컨텐츠 및 민감한 데이터 누출 같은 위험 완화에 도움이 될 수 있습니다. 참고로 모델 아머는 Vertex AI 그리고 여러 구글 클라우드 제품에 통합될 예정입니다.
모델 아머를 먼저 활용해 보고 싶다면 이 링크를 통해 신청하면 됩니다.
모델 아머는 사용자가 정책을 구성하고 컨텐츠 안전 필터를 설정해 부적절한 모델 프롬프트와 응답을 차단하거나 편집할 수 있도록 합니다.
생성형 AI 도구로 방어자를 지원!
Google Security Operations는 보안 운영 센터(SOC) 팀이 위협을 더 쉽게 탐지하고 대응할 수 있도록 돕는 AI 기반 플랫폼입니다. 이제 Gemini in Security Operations에 새로운 지원 조사 기능이 포함됩니다. 이 기능을 활용하면 Google Threat Intelligence와 MITRE의 정보를 활용해 최신 위협을 추적하고, 보안 이벤트를 분석하고, 자연어로 탐지 룰을 작성하고 다음 단계로 더 수월하게 나아갈 수 있습니다.
또한, 사용자는 자연어로 침해 대응 플레이북 작성도 요청할 수 있어, 플레이북을 만드는 시간을 아낄 수 있습니다. 사용자는 생성한 플레이북을 다듬고 제대로 동작하는지 시뮬레이션을 해볼 수도 있습니다. 이처럼 사용자는 침해 대응 과정 전반에 걸쳐 AI의 도움을 받을 수 있습니다.
Gemini는 조사에 도움을 주고 사용자가 탐지 룰을 쉽게 생성할 수 있도록 돕습니다.
한편, 구글 클라우드는 Google Threat Intelligence도 소개하였습니다. 이는 침해 대응 현장을 누비는 맨디언트 전문가, VirusTotal의 위협 인텔리전스 커뮤니티, 그리고 수십억 개의 기기와 사용자 계정을 보호하는 구글의 위협 인사이트에서 얻은 조사 결과를 결합해 새로운 위협을 식별하고 중요 자산을 보호하는 데 걸리는 시간을 줄이는 데 도움을 줍니다.
참고로 Gemini Threat Intelligence에는 200개 이상의 파일 유형을 검사하고 고유 속성을 요약하며 잠재적인 악성 코드를 식별할 수 있는 Code Insight가 포함되어 있습니다. Gemini는 보안 전문가가 조직을 위험에 빠뜨릴 수 있는 중요 위협을 이해하고 대응하는 데 도움을 줍니다.
Gemini는 사용자가 맨디언트의 방대한 침해 현장 조사와 연구 내용을 대화 형식으로 검색할 수 있도록 지원합니다.
구글을 우리 보안 팀의 일원으로 활용하세요!!
AI 기술의 빠른 발전으로 우리의 기대는 나날이 높아지고 있습니다. 구글 클라우드는 보안을 수행하는 작업이 덜 고되고 더 지속 가능한 세상을 꿈꿉니다. 이는 실현 가능한 꿈입니다. AI가 일상적인 작업을 처리하므로 보안 전문가는 복잡한 문제에 집중할 시간을 벌 수 있습니다. 이제 조직은 세계에서 가장 많은 사람과 조직을 온라인에서 안전하게 지키는 구글이 사용하는 것과 같은 기술과 기능으로 보안 문제를 해결할 수 있습니다.
