Cloud CISO Perspectives: Big Sleep 에이전트의 큰 도약 등, 최신 AI 소식

해당 블로그의 원문은 2025년 7월 18일 Google Cloud 블로그(영문)에 게재되었습니다.

2025년 7월 첫 번째 Cloud CISO Perspectives에 오신 것을 환영합니다. 오늘 Google 위협 인텔리전스 부문 부사장 Sandra Joyce가 Google의 Big Sleep AI 에이전트의 놀라운 성과와 보안 및 AI 교차점의 다른 소식에 대해 이야기합니다.

모든 Cloud CISO Perspectives와 마찬가지로 이 뉴스레터의 내용은 Google Cloud 블로그에 게시됩니다. 이 웹사이트에서 이 글을 읽고 있으며 이메일 버전을 받고 싶으시다면 여기에서 구독할 수 있습니다.

Big Sleep 에이전트의 큰 도약 등 AI 소식

Sandra Joyce, vice president, Google Threat Intelligence

Google DeepMind와 Google Project Zero가 개발한 Big Sleep은 보안 연구자들이 제로데이(이전에 알려지지 않은) 소프트웨어 보안 취약점을 찾는 데 도움을 줄 수 있습니다. 작년에 소개된 이후로, 이 에이전트는 계속해서 널리 사용되는 소프트웨어에서 여러 결함을 발견하며 기대를 뛰어넘고 AI 기반 취약점 연구를 가속화하고 있습니다.

Big Sleep을 통해 방어자들은 아직 알지 못하는 취약점을 찾아낼 수 있음을 입증했습니다. 이번 사례에서는 공격자들이 알고 있었고 악용할 의도가 있었던 취약점을 발견했으며, 그들이 악용하기 전에 이를 감지하고 보고하여 패치할 수 있었습니다.

공격자들은 오랫동안 방어할 영역이 넓은 거대한 목표물에 공격을 시도해 왔기 때문에 유리한 입장이었습니다. 하지만 방어자 관점에서 AI의 생산성 향상은 놀라울 정도입니다. Big Sleep 대신 사람이 있었다면, 공격자들이 곧 이 취약점을 사용하려고 한다는 것을 알면서도 두 개의 다른 오픈소스 소스 코드를 면밀히 검토하고 취약점이 어디에 있는지 수동으로 확인해야 했을 것입니다.

이 경우 속도와 정확성이 모든 차이를 만들었고, 덕분에 Google은 위협 행위자들보다 우위를 점할 수 있었습니다. 방어자가 이러한 시스템을 소유하고 제어하므로, AI는 우리에게 매우 강력한 개발(및 취약점 해결) 이점을 제공했습니다.

Big Sleep은 또한 다른 널리 사용되는 오픈소스 프로젝트의 보안을 개선하는 데도 활용되고 있습니다. 이는 인터넷 전반에 걸쳐 더 빠르고 효과적인 보안을 보장하는 데 큰 도움이 될 것입니다.

방어적 AI 에이전트의 역량 강화

AI 에이전트는 사이버 보안에 엄청난 변화를 가져오지만, 에이전트가 수행하는 작업은 안전하고 책임감 있는 방식으로 이루어져야 합니다. Google은 지난 6월에 개인정보를 보호하고, 위험한 행동의 위험을 완화하며, 에이전트가 인간의 감독과 투명성을 바탕으로 작동하도록 AI 에이전트를 구축하는 접근 방식을 설명했습니다. ‘보안 우선 설계(secure by design)’ 원칙에 따라 배포되면, 에이전트는 이전에 존재했던 어떤 도구와도 비교할 수 없는 이점을 방어자들에게 제공할 수 있습니다.

Google은 에이전트 AI에 대한 통찰력을 지속적으로 공유하고 업계 표준 공개 프로세스를 통해 발견 사항을 보고할 것입니다. Google 이슈 트래커 페이지에서 Big Sleep이 공개적으로 발견한 모든 취약점을 확인할 수 있습니다.

위협 탐지 강화부터 보안 유효성 검사, 더 스마트한 레드팀 분석에 이르기까지 보안 전반에서 AI의 영향력을 확인하고 있습니다. 이와 유사하게, 끝없이 증가하는 이메일 피싱 공격을 처리할 때도 AI의 속도와 정확성은 방어자에게 도움이 됩니다. 공격자들은 AI를 사용하여 합법적으로 보이는 이메일이 실제로는 피싱 공격이라는 이전의 힌트들을 개선해 왔습니다. 예를 들어, 구어체, 적절한 속어를 사용하거나 수신자에게 맞춤형 이메일을 작성하는 등입니다.

그러나 AI 모델을 스피어 피싱 이메일의 특징을 파악하도록 학습시키면, 탐지, 분류, 피싱 위협 식별 능력이 향상되어 인간이 검토해야 할 내용이 줄어들고 더 빠른 속도와 규모로 대응할 수 있습니다. Google의 AI 기반 방어 기능은 Gmail이 모든 종류의 피싱, 스팸, 악성코드를 차단하는 데 도움을 줍니다.

• Gmail은 스팸, 피싱, 악성코드의 99.9% 이상을 자동으로 차단하고 15억 개가 넘는 받은편지함을 보호합니다.
• 작년에 Google은 Gmail의 사이버 방어를 크게 강화하는 몇 가지 획기적인 AI 모델을 개발했습니다. 여기에는 피싱, 악성코드, 스팸에 대해 학습시킨 새로운 LLM(대규모 언어 모델)이 포함되며, 이 모델은 이전보다 20% 더 많은 스팸을 차단하고 매일 1,000배 더 많은 사용자가 신고한 스팸을 검토합니다.

공격자와 AI의 활용에 관해서는 아직 '초기 단계'에 있습니다. RSA Conference에서 언급했듯이, Google 위협 인텔리전스 그룹은 AI가 코드를 구체화하고 딥페이크를 제작하며 더 나은 스피어 피싱 이메일을 작성하는 데 사용되는 것을 보았지만, AI가 인간이 단순히 할 수 없었던 일을 수행한 큰 게임 체인징 사건은 아직 보지 못했습니다. 에이전트형 공격자나 에이전트형 공격, 또는 자가 영속적인 캠페인과 같은 것 또한 아직 보지 못했습니다.

저는 이러한 유형의 공격이 곧 나타날 것이라고 충분히 예상하고 있으므로, AI 개발자들이 업계 전반 및 공공 부문 파트너와 협력하여 방어자를 준비시키고 AI의 성공을 보장하는 것이 중요합니다. 이러한 파트너십 구축 노력의 일환으로, Google은 작년에 업계 파트너들과 함께 AI 시스템의 안전한 구현을 보장하기 위한 이니셔티브인 CoSAI(Coalition for Secure AI )를 출범했습니다.

이러한 노력을 더욱 발전시키기 위해, Google은 어제 CoSAI의 에이전트 AI, 사이버 방어, 소프트웨어 공급망 보안 워크스트림을 가속화하는 데 도움이 되도록 Google의 SAIF(Secure AI Framework) 데이터를 기부할 것이라고 발표했습니다.

Google은 10년 이상 AI와 머신러닝 도구에 투자해 왔습니다. Google은 항상 AI가 소프트웨어를 더 안전하게 만드는 데 도움이 될 잠재력이 있다고 믿어왔지만, 지난 한 해 동안 AI의 역량이 크게 도약하여 AI가 지속 가능하고 견고한 사이버 보안의 모습을 재정의하고 있는 것을 목격했습니다.

전 세계 조직의 보안 및 지원을 위해 AI를 활용하려는 Google의 노력에 대해 Google CISO 오피스에서 자세히 알아보실 수 있습니다.

Google Cloud Security 최신 소식

이번 달에 저희 보안팀에서 발표한 최신 업데이트, 제품, 서비스 및 자료는 다음과 같습니다.

• 사이버 보안의 여름, AI로 방어자 역량 강화: Google은 최신 보안 AI 혁신, 민관 파트너십, 그리고 모두를 위한 디지털 생태계 보호를 위한 새로운 이니셔티브(Black Hat 및 Def Con 계획 포함)에 대해 더 많은 내용을 공유합니다. Read more.
• 도이치 텔레콤의 주권 데이터 플랫폼 구축: 도이치 텔레콤의 Ashutosh Mishra 부사장이 Google Cloud가 회사의 주권 데이터 플랫폼 구축을 도운 방법을 설명합니다. Read more.
• GDC 에어갭의 새로운 네트워킹 기능으로 혁신 지원: Google Distributed Cloud 에어갭의 세 가지 주요 네트워킹 개선사항은 사용자 환경에 대한 더 많은 제어 권한을 제공하도록 설계되었습니다. Read more.
• Looker Conversational Analytics의 보안 심층 분석: Looker Conversational Analytics를 사용할 때 데이터는 사용자가 직접 제어하므로 Gemini를 사용하여 데이터를 더 잘 이해할 수 있습니다. Read more.
• 연령 인증의 개인정보 보호 강화를 위한 영지식 증명 기술 공개: 이 강력한 암호화 도구를 오픈소스로 공개하면 민관 개발자들이 시급한 요구를 충족하는 자체 개인정보 보호 강화 애플리케이션 및 디지털 ID 솔루션을 훨씬 쉽게 구축할 수 있습니다. Read more.
• Android용 Chrome의 보호 기능 향상: Android는 최근 Advanced Protection을 발표했습니다. 이 기능은 Google의 Advanced Protection Program을 강화된 보안이 필요한 Android 사용자를 위한 기기 수준의 보안 설정으로 확장합니다. Android용 Chrome에 통합되는 방식을 알아보세요. Read more.

이번 달에 게시된 더 많은 보안 관련 소식은 Google Cloud 블로그에서 확인하세요.

위협 인텔리전스 소식

• 최신 사이버 복원력에 고립된 복구 환경(IRE)이 중요한 이유: IRE는 재해 복구 전략에서 측정 가능하고 결정적인 차이를 제공할 수 있습니다. 조직이 IRE를 효과적으로 구현하기 위해 취할 수 있는 실질적인 단계를 소개합니다.. Read more.
• 최신 변전소에서 보호 계전기 보호: 변전소 내 디지털화된 보호 계전기에 대한 사이버 공격은 전력망 안정성에 심각한 위협을 가하여 광범위한 정전 및 인프라 손상을 초래할 수 있습니다. CISA가 중요한 네트워크를 표적으로 삼는 이란 연계 그룹의 위험성 증가를 경고함에 따라, 중요 인프라 제공업체가 이러한 계전기를 보호하기 위해 알아야 할 사항을 정리했습니다.. Read more.

이번 달에 게시된 더 많은 위협 인텔리전스 관련 소식은 Google Cloud 블로그에서 확인하세요.

Google Cloud 팟캐스트

• SIEM의 역설 - 로그, 거짓, 그리고 탐지 실패: Citreno의 창립자 겸 CEO인 Svetla Yankova가 호스트인 Anton Chuvakin 및 Tim Peacock와 함께 SIEM 툴링 및 위협 탐지 과제에 대해 이야기합니다. Listen here.
• Google 제품 보안 엔지니어링의 복원력 및 보안: Google은 어떻게 높은 안정성 및 운영 우수성과 탐지 및 대응의 필요성 사이의 균형을 유지할까요? Google Cloud의 제품 보안 엔지니어링 관리자 Cristina Vintila가 Anton 및 Tim과 함께 PSE(제품 보안 엔지니어링)가 어떻게 발전해 왔는지 이야기합니다. Listen here.
• 개인정보 보호 설계 시 인적 요소: 세계적인 리더와의 상담부터 푸크시아(Fuschia)까지, Google 개인정보 보호 엔지니어 Sarah Aoun이 Anton 및 Tim과 함께 디지털 개인정보 보호 구축의 미묘한 차이, 과제 및 즐거움에 대해 깊이 있는 이야기를 나눕니다. Listen here.
• 방어자의 이점: ClickFix의 부상: Google 위협 인텔리전스 그룹의 보안 엔지니어 Dima Lenz가 호스트 Luke McNamara와 함께 위협 행위자들이 어떻게 ClickFix를 사용하여 사용자를 사회 공학적으로 속여 왔는지 논의합니다. Listen here.

Cloud CISO Perspectives 게시물을 한 달에 두 번 이메일로 받아보려면 뉴스레터를 신청하세요. 몇 주 후에 Google Cloud의 더 많은 보안 관련 업데이트와 함께 돌아오겠습니다.