보안 & 아이덴티티

Cloud CISO Perspectives: 새로운 AI, 사이버 범죄 보고서, 보안 모범 사례의 필요성 강조

2025년 2월 18일

https://storage.googleapis.com/gweb-cloudblog-publish/images/Cloud_CISO_Perspectives_header_4_Blue.max-2500x2500.png

Phil Venables

VP, TI Security & CISO, Google Cloud

Stephanie Kiel

head of cloud security policy, government affairs and public policy, Google Cloud

Hear monthly from our Cloud CISO in your inbox

Get the latest on security from Cloud CISO Phil Venables.

* 해당 블로그의 원문은 2025년 2월 19일 Google Cloud 블로그(영문)에 게재되었습니다.

2025년 2월 첫 번째 클라우드 CISO 관점에 오신 것을 환영합니다. 클라우드 보안 정책, 정부 관계 및 공공 정책 책임자인 스테파니 킬(Stephanie Kiel)은 AI 및 사이버 범죄에 대한 새로운 보고서 발표 후 뮌헨 안보 회의에서 나눈 두 가지 중요한 보안 주제에 대해 논의합니다.

다른 모든 클라우드 CISO 관점과 마찬가지로 이 뉴스레터의 내용은 Google Cloud 블로그에 게시됩니다. 웹사이트에서 이 글을 읽고 이메일 버전을 받고 싶다면 여기에서 구독할 수 있습니다.

--Phil Venables, VP, TI Security & CISO, Google Cloud

새로운 AI, 사이버 범죄 보고서, 보안 모범 사례의 필요성 강조

Google Cloud 클라우드 보안 정책, 정부 관계 및 공공 정책 책임자, 스테파니 킬(Stephanie Kiel) 작성

인공지능은 시민들이 상품을 조달하는 방식부터 교육 및 의료 서비스 제공, 디지털 네트워크 보호 방식에 이르기까지 몇 안 되는 기술이 해낸 방식으로 세상을 변화시켰습니다. 운영상의 압박과 자원 제약에 직면한 악의적인 행위자들은 AI 실험, 랜섬웨어 개발과 정보 수집을 혼합하여 사이버 범죄 커뮤니티를 동원하는 등 운영 규모를 확장하는 새로운 방법으로 눈을 돌리고 있습니다.

https://storage.googleapis.com/gweb-cloudblog-publish/images/Stephanie_Kiel_crop.max-500x500.jpg

이 두 가지 진화적인 예는 조직이 위험 관리 태세의 일부로 보안 기본 사항을 계속 우선시하고 검토해야 할 필요성을 강조합니다.

우리는 지난주 뮌헨 안보 회의에서 Gemini 및 AI 기능의 적대적 오용에 대한 두 가지 새로운 연구 보고서와 재정적 동기의 사이버 범죄의 전 세계적인 국가 안보 위협에 맞서 싸우는 정책 입안자를 위한 권장 사항을 공유했습니다.

These reports follow our publication from last year’s Munich conference on building better network defenses with AI.

이 보고서는 작년 뮌헨 회의에서 AI로 더 나은 네트워크 방어를 구축하는 것에 대한 지난 내용 따릅니다.

이 두 가지 새로운 보고서는 함께 네 가지 중요한 주제를 강조합니다.

적대적인 행위자들은 자신들에게 유리하게 새로운 기술을 사용할 기회를 계속해서 모색할 것입니다.
정책 입안자들은 방어를 위한 대담하고 책임감 있는 혁신을 가능하게 하는 메커니즘을 고려해야 합니다.
혁신은 방어에 도움이 될 수 있지만 강력한 네트워크 복원력 관행도 우선시되어야 합니다.
조직이 자체 위험 관리 계획을 개발하고 구현할 때 부문과 이해 관계자 간의 협력이 핵심으로 유지됩니다.

공격자와 혁신

기술 발전이 일어남에 따라, 기회주의적인 악의적인 행위자들도 자신들에게 유리하게 이를 사용하기를 원할 것이라는 점을 명심해야 합니다. Gemini의 적대적 오용 보고서는 위협 행위자들이 생산성 향상을 위해 Gemini를 사용하고 있지만, Gemini의 내장된 안전 장치가 Google의 AI 기능을 보다 파괴적인 목적으로 사용하는 것을 막았다고 시사합니다.

이러한 새로운 기술들이 광범위하게 채택됨에 따라, 복원력과 보안 모범 사례의 중요성을 명심하는 것이 필수적입니다.

인용 트윗

이는 AI 기능의 안전하고 보안적인 개발의 중요성과 사이버 보안을 위해 이러한 기능을 최대한 활용할 수 있도록 하는 것의 중요성을 모두 강조합니다.

방어 활성화

악의적인 행위자들이 불순한 목적으로 AI 기능을 적용하기 위해 노력하는 동안, 우리는 AI의 저울이 여전히 네트워크 방어에 유리하게 기울어져 있다고 믿습니다. 마찬가지로 네트워크 방어 담당자는 AI 기능을 사용하여 안전한 소프트웨어 개발 및 배포 관행을 개선할 수 있습니다. 생성형 AI는 인력이 제한된 사이버 방어 담당자의 대역폭을 최적화하고 방어 담당자가 없는 곳에 솔루션을 구현하는 데 도움이 될 수 있습니다.

Google은 이러한 기능을 개발하기 위해 노력해 왔으며 전문가와 비전문가 모두를 위해 보안을 간소화하는 도구를 구축하고 있습니다. 우리는 작년 말 대규모 언어 모델을 사용하여 실제 코드에서 제로데이 취약점을 잡아내는 연구와 같이 개발 중인 다른 작업을 공개적으로 공유했습니다. 우리 팀은 또한 위협 분석에 AI를 적극적으로 사용하고 있습니다.

기존 모범 사례의 지속적인 중요성

이러한 새로운 기술이 광범위하게 채택됨에 따라 복원력과 보안 모범 사례의 중요성을 명심하는 것이 필수적입니다.

우리는 위협 행위자들이 생성형 AI와 같은 새로운 기술을 사용하는 방식을 추적하는 동안 조직은 알려진 오랜 악의적인 전술, 기술 및 절차에 대한 방어를 강화하고 그에 따라 위험 관리 전략을 개발해야 합니다. 강력한 사이버 보안 조치의 강력한 채택과 디지털 시스템의 복원력을 향상시키는 이니셔티브 지원(가능한 경우 새로운 보안 기술 도입 포함)을 기반으로 하는 강력한 기반을 대체할 수 있는 것은 없습니다.

방어를 위한 협력

부문과 이해 관계자 간의 협력은 방어에도 매우 중요합니다. 우리 새로운 사이버 범죄 보고서에서 강조된 것처럼 국가는 악의적인 사이버 활동에 대한 광범위한 성공을 달성하기 위한 시스템적인 솔루션에 대해 서로 및 민간 부문과 협력해야 합니다.

위험은 높습니다. 병원이 중요한 시스템에서 잠기면 환자 치료가 어려워집니다. 물 공급이 중단되면 전체 지역 사회가 취약해집니다. 사이버 범죄의 영향은 도난당한 돈이나 데이터 유출을 훨씬 뛰어넘습니다. 이는 공공의 신뢰를 무너뜨리고 필수 서비스를 불안정하게 만듭니다. 지속적인 악의적인 사이버 공격은 강력하고 협력적인 조치를 요구합니다.

우리는 네트워크 방어에 유리하도록 고객, 정부 및 기타 이해 관계자와의 지속적인 파트너십을 기대합니다.

Gemini의 적대적 오용 및 사이버 범죄의 국가 안보 위협에 대한 보고서는 여기에서 읽을 수 있습니다.

Google Cloud의 보안 관련 최신 소식

Here are the latest updates, products, services, and resources from our security teams so far this month:

Next '25에서 사이버 보안 기술을 향상시키는 방법: 레드 팀 구성부터 테이블탑 연습, SOC 아레나에 이르기까지 Next '25는 보안 전문가와 초보자 모두를 위한 다양한 콘텐츠를 제공합니다. Read more.
Google의 취약점 탐지 및 수정 관리 방법: Google은 취약점을 어떻게 처리할까요? Ana Oprea는 새로운 "Google은 어떻게 하는가" 시리즈의 일부로 Google의 취약점 관리 프로그램의 핵심 관행을 공유합니다. Read more.
사용자 보호 및 국가 안보 강화: AI는 사이버 보안뿐만 아니라 경제 및 국가 안보에도 막대한 가능성을 제공합니다. 우리는 정책 입안자를 위한 새로운 권장 사항, AI의 적대적 오용에 대한 위협 연구, 국가 안보에서 AI의 역할에 대한 통찰력, 그리고 AI 시대에 사용자 보호 및 사이버 방어 강화를 위해 설계된 이니셔티브를 제공합니다. Read more.
Google Cloud가 자격 증명 도난 위험을 최소화하는 5가지 방법: 손상된 클라우드 ID를 악용하는 위협 행위자로부터 클라우드 배포를 보호하는 5가지 방법을 소개합니다. Read more.
신뢰할 수 있는 웹 프레임워크를 위한 보안 설계 청사진: Google 애플리케이션에서 XSS와 같은 중요한 웹 취약점 수를 10배 이상 줄인 수년간의 작업을 바탕으로 악용 가능한 웹 취약점을 거의 완전히 제거하는 이 고신뢰 웹 프레임워크를 만든 방법에 대한 새로운 상세 청사진을 제안합니다. Read more.
2024 책임감 있는 AI 관련 보고서: 6번째 연례 책임감 있는 AI 진행 보고서는 AI 개발 수명 주기 전반에 걸쳐 AI 위험을 관리, 매핑, 측정 및 관리하는 방법을 자세히 설명합니다. 이 보고서는 작년에 AI 제품 출시를 위한 거버넌스 구조를 구축하면서 이루어진 진행 상황을 강조합니다. Read more.
실습형 사이버 보안 교육 지원을 위한 1,500만 달러 지원: Google.org는 수천 명의 학생들을 위한 사이버 보안 교육 접근성을 확대하는 데 도움이 될 유럽, 중동 및 아프리카 전역의 대학 지원을 발표합니다. Read more.
더 많은 도구, 더 적은 보안이라는 역설: 3월 6일 Google 보안 전문가와 함께하는 웹 세미나에서 2,000명 이상의 IT 및 보안 전문가를 대상으로 실시한 Google의 글로벌 보안 연구의 주요 결과를 알아보십시오. Register here.

이번 달에 게시된 더 많은 보안 관련 정보를 보려면 Google Cloud 블로그를 방문하십시오

위협 인텔리전스 소식

다면적인 국가 안보 위협, 사이버 범죄: 이 보고서에서 Google 위협 인텔리전스 그룹(GTIG)은 사이버 범죄의 현재 상태를 논의하며 이러한 공격이 왜 국가 안보 위협으로 간주되어야 하는지를 강조합니다. 또한 이 문제를 해결하기 위한 접근 방식을 공유합니다. Read more.
생성형 AI의 적대적 오용: GTIG는 지능형 지속 위협(APT) 및 조직적인 정보 조작 행위자들이 Gemini를 오용하려 시도하는 방식에 대해 보고합니다. Read more.
ScatterBrain과 PoisonPlug의 난독화 도구 가면 벗기기: 중국 관련 위협 행위자들은 ScatterBrain이라고 부르는 맞춤형 난독화 컴파일러를 사용하는 백도어를 사용하여 탐지 및 분석을 회피하고 있습니다. Read more.
CVE-2023-6080의 타사 설치 프로그램 악용 탐색: 이전 Mandiant 블로그 게시물에서 공유된 통찰력을 바탕으로 이 사례 연구는 타사 Windows 설치 프로그램을 보호하는 지속적인 과제를 탐색합니다. Read more.
Android 멀웨어 탐지를 위한 capa 규칙 사용: 새로운 보안 문제에 대처하기 위해 Android 보안 및 개인 정보 보호 팀은 Mandiant FLARE와 협력하여 오픈 소스 바이너리 분석 도구 capa를 Android 시스템을 대상으로 하는 기본 ARM ELF 파일을 분석하도록 확장했습니다. Read more.
금융 기관을 위한 전략적 위협 인텔리전스: 최근 금융 기관을 위한 웹 세미나에서 Google 위협 인텔리전스의 통찰력을 공유했습니다. 여기에는 위협 행위자, 악성 캠페인, 멀웨어 및 악용된 CVE에 대한 내용이 포함됩니다. Read more.