보안 & 아이덴티티

Cloud CISO Perspectives: RSA Conference에서의 Phil과 Kevin의 담화

2024년 5월 20일

https://storage.googleapis.com/gweb-cloudblog-publish/images/2024_Cloud_CISO_Perspectives_header_no_tit.max-2500x2500.jpg

Phil Venables

VP, TI Security & CISO, Google Cloud

Hear monthly from our Cloud CISO in your inbox

Get the latest on security from Cloud CISO Phil Venables.

* 본 아티클의 원문은 2024년 5월 16일 Google Cloud 블로그(영문)에 게재되었습니다.

2024년 5월 Cloud CISO Perspectives 첫 번째 뉴스레터에서는 RSA 컨퍼런스에서 Mandiant CEO Kevin Mandia와 함께 진행했던 담 내용을 되짚어 보겠습니다.

모든 Cloud CISO Perspectives 콘텐츠는 Google Cloud 블로그에 게시됩니다. 웹사이트에서 이 글을 읽고 계시고 이메일 버전을 구독하고 싶으시다면 여기에서 신청하실 수 있습니다.

--Phil Venables, VP, TI Security & CISO, Google Cloud

RSA Conference 담화 내용

Phil Venables, VP, TI Security & CISO, Google Cloud

올해 RSA 컨퍼런스가 막을 내렸고, Google Cloud는 몇 가지 중요한 발표를 했습니다. Google Threat Intelligence 및 Google Security Operations를 공개하고 AI로 강화된 보안을 소개했고, 파트너들이 Google의 보안 가치를 열정적으로 수용하는 모습을 보여주었습니다.

https://storage.googleapis.com/gweb-cloudblog-publish/images/Phil_Venables_small.max-2200x2200.jpg

컨퍼런스 발표와 함께, 저는 Kevin Mandia와 Cloud Security Alliance의 양자 컴퓨팅 및 인공 지능 분야 CSA 연방 연락 담당자인 Sallie Mae의 전 CISO Jerry Archer의 진행으로 토론을 진행했습니다. 저희는 AI, 국가 주도 공격, 정부 규제, 그리고 CISO가 조직 보안에 있어 수행하는 중요한 역할을 포함하여 현대 보안 과제의 전체 영역을 아우르는 광범위한 논의를 진행했습니다.

CISO는 특히 위험 및 규정 준수와 관련하여 AI를 활용하여 기관의 견제와 균형을 발전시키는 데 도움을 줄 수 있습니다.

인용 트윗

몇 가지 중요한 주제에 대해 다음과 같이 요약했습니다.

AI: 과장된 면과 현실, 그리고 우리가 직면하는 더 광범위 리스크

우리는 사이버 보안에 혁명을 가져올 잠재력이 있는 AI에 대한 논의로 대화를 시작했습니다. 우리는 이미 멀웨어 분석과 같은 영역에서 이점을 보고 있으며, AI의 기능을 시연하기 위해 WannaCry를 리버스 엔지니어링하고 단 한 번에 킬 스위치를 찾는 데 AI를 사용할 수 있었습니다. 이는 단 34초 만에 이루어졌습니다.

우리는 일부 보안 리더들과 조직들이 모델 포이즈닝 및 프롬프트 인젝션과 같은 세부적인 위험에만 집중하고 더 광범위한 문제를 간과하고 있다는 우려에 대한 논의로 대화를 시작했습니다.
이러한 더 큰 문제는 AI 위험의 세 가지 핵심 축으로 생각할 수 있습니다: 데이터 관리(학습, 미세 조정, 매개변수 및 테스트 포함), AI 소프트웨어 수명 주기 관리, 배포의 운영 위험(입력 및 출력 보호, 회로 차단기 포함).
케빈은 AI가 모든 보안 일자리를 대체하지 않을 것이라고 명확히 했습니다. 모두에게 적용되는 단일 AI 모델은 없으며, 각 조직은 자체 모델과 편향을 관리해야 합니다.
우리는 이제 "코드로서의 데이터" 시대에 접어들고 있으며, AI 시스템에서 데이터 관리의 중요성은 점점 더 커지고 AI 시스템에서 중요한 역할을 하게 될 것입니다.

AI의 보안 분야 활

생성형 AI는 사이버 보안에 상당한 영향을 미칠 것으로 예상됩니다. 구글 클라우드의 SecLM과 같은 Gen AI 모델은 앞서 언급한 악성코드 해독, 취약점 분석 및 안전한 코드 생성과 같은 작업에 도움을 줄 수 있습니다. 효과를 극대화하고 위험을 완화하려면 당사의 Secure AI Framework와 같은 위험 관리 기반이 필요합니다.
AI는 특히 사고 보고서 작성 및 분석과 관련된 일상적인 워크플로우를 개선할 수 있는 잠재력을 가지고 있습니다.
Mandiant는 위협 인텔리전스, 보고서 생성 및 조사 가속화에 AI를 사용하고 있으며, AI 기반 의사 결정에서 인간의 감독과 투명성의 필요성을 여전히 강조합니다.
Gen AI와 기존 머신러닝은 이상 현상 탐지에 매우 유용하게 사용될 수 있습니다.

CISO의 중요

업계는 보안에 대한 위험 기반 접근 방식으로 전환하고 있습니다. AI의 위험 평가 및 완화 능력은 성숙도 기반 보안 프로그램에서 위험 기반 모델로 전환하는 데 도움이 될 수 있습니다. 데이터 보안 위험 및 운영 위험에 대한 우려와 결합하여 CISO의 역할은 "최고 디지털 위험 책임자"로 더욱 발전할 수 있습니다.
CISO는 특히 위험 및 규정 준수와 관련하여 AI를 사용하여 기관의 견제와 균형을 발전시키는 데 도움을 줄 수 있습니다. AI는 ID 및 액세스 관리, 권한 검토 및 책임 분리에 도움을 줄 수 있습니다.
AI 시스템은 다른 시스템과 마찬가지로 테스트해야 합니다. AI는 다른 AI의 보안 및 효율성을 평가하는 데 사용할 수 있으며 입력 및 출력 보호 장치 역할을 할 수 있습니다. 그럼에도 불구하고 신뢰와 안전을 보장하고 엣지 케이스를 찾기 위해서는 인력으로 구성된 레드팀을 사용해야 합니다.
CISO는 소프트웨어 보안 및 AI 거버넌스와 같은 영역에서 더 많은 책임을 맡을 수 있는 기회를 얻게 되어 권한 강화 및 보다 전략적인 역할을 수행할 수 있을 것으로 예상됩니다.

국가 주도 공격 방어, 규제를 통한 목표 달성

방어자는 보안 목표를 발전시키기 위해 AI를 사용해야 합니다. 악의적인 행위자가 AI를 사용하여 취약점을 찾고 제로데이 공격을 시작하기 때문입니다.
특히 최근 사이버보안 검토 위원회 보고서에 비추어 볼 때 업계 협력은 기술 기업의 더 높은 표준을 촉진하는 데 중요한 역할을 할 수 있습니다.
여기에서 CSA와 같은 포괄적인 조직이 도움을 줄 수 있습니다. 업계는 보안 개선 및 변화 관리를 추진하기 위해 클라우드 제공업체 및 SaaS 회사에 대한 명확하고 일관된 표준이 필요합니다.
모든 보안 목표가 사이버 보안과 직접 관련된 것은 아닙니다. 데이터 주권 및 현지화와 같은 문제의 균형을 맞추고 보안 목표를 지원하는지 확인해야 합니다. 이를 위해서는 각 목표에 대한 명확한 구분과 적절한 통제가 필요합니다.

RSAC에 참석하지 못하셨다면 Google Cloud의 기조 연설, 패널 및 프레젠테이션을 다시 볼 수 있는 가이드를 확인해 보십시오. 자세한 내용은 Ask Office of the CISO에 문의하시거나 보안 행사를 통해 직접 확인해 보실 수 있습니다.

Google Cloud 보안 관련 최신 소식

구글 클라우드와 함께 AI로 보안 강화하는 방법: AI는 사이버 보안에 혁명을 일으킬 힘이 있습니다. RSA 컨퍼런스에서 발표된 Google Cloud의 최신 발전 사항 및 공지 사항을 확인하세요. 자세한 내용은 여기를 참조하세요.
Google Threat Intelligence 서비스: AI Agent로 실행 가능한 인텔리전스의 개념을 재정의하다!: Mandiant, VirusTotal 및 Google 기술과 리소스를 Gemini와 결합하여 전 세계 위협 환경에 대한 탁월한 가시성을 제공하는 새로운 서비스입니다. 자세한 내용은 여기를 참조하세요.
위협 인텔리전스와 AI를 기반으로 하는 보안 운영(SecOps)의 시대로 안내하는 "Google Security Operations": SecOps의 DIY 복잡성을 줄이고 전체 보안 운영 센터의 생산성을 향상하도록 설계된 업데이트입니다. 자세한 내용은 여기를 참조하세요.
Gen AI를 위한 수용 가능 사용 정책(Acceptable Use Policy) 수립 방안: 안전하고 신뢰할 수 있고 강력한 방식으로 AI를 사용하고 싶으신가요? 내부 수용 가능 사용 정책을 통해 gen AI에 대한 "코드 작성"에 대한 가이드가 필요합니. 자세한 내용은 여기를 참조하세요.
Chrome Enterprise 생태계 확장: RSAC에서 Chrome Enterprise의 브라우저 기반 보호 기능을 확장하기 위해 Google과 협력하는 보안 솔루션 생태계를 발표했습니다. 자세한 내용은 여기를 참조하세요.
선택의 힘: Google Cloud는 다양한 규제, 규정 준수 및 주권 요구 사항이 있다는 것을 알고 있으므로 Next '24에서 선택의 폭을 넓힐 수 있는 새로운 방법을 발표했습니다. 자세한 내용은 여기를 참조하세요.
AI 소프트웨어 공급망 보호: 기존 및 AI 소프트웨어의 개발 수명 주기부터 AI 공급망이 직면한 특정 위험에 이르기까지 이 새로운 보고서는 출처 정보를 사용하여 AI 공급망을 보호하는 Google의 접근 방식을 설명하고 다른 조직을 위한 지침을 제공합니다. 자세한 내용은 여기를 참조하세요.
Google, 2024 Gartner® Magic Quadrant™ for SIEM에서 비저너리로 선정: Gartner가 Google을 2024 Gartner® Magic Quadrant™ for SIEM에서 비저너리로 인정했다는 소식을 전하게 되어 기쁩니다. 이는 Google이 처음 참여한 것입니다. 자세한 내용은 여기를 참조하세요.
유출된 서비스 계정 키 자동 비활성화: 6월 16일부터 공개 저장소를 비롯한 서비스에서 감지된 노출된 서비스 계정 키는 신규 및 기존 고객 모두에 대해 기본적으로 자동으로 비활성화됩니다. 자세한 내용은 여기를 참조하세요.

위협 인텔리전스 최신 소식

멀웨어 분석을 위한 Gemini 1.5 Pro의 힘: 이 연구에서는 Gemini 1.5 Pro가 WannaCry 리버스 엔지니어링 및 34초 만에 킬 스위치 찾기 등 멀웨어 해체 및 분석에 미치는 영향을 조사합니다. 자세한 내용은 여기를 참조하세요.
랜섬웨어 방어 전략에 대한 실용적인 가이드: Mandiant는 랜섬웨어 보호 및 억제 전략 보고서를 업데이트하여 조직이 랜섬웨어 이벤트의 다운스트림 영향을 방지하기 위해 사전에 격차를 식별하고 환경을 강화할 수 있는 확장된 전략을 제공합니다. 자세한 내용은 여기를 참조하세요.
이란의 APT42: Mandiant 전문가들은 클라우드 환경을 포함하여 피해자 네트워크에 대한 액세스 권한을 얻기 위해 향상된 소셜 엔지니어링 체계를 사용하는 이란 정부 지원 사이버 스파이 행위자인 APT42를 탐구합니다. 그들은 서방 및 중동 NGO, 언론 단체, 학계, 법률 서비스 및 활동가를 대상으로 합니다. 자세한 내용은 여기를 참조하세요.