산업의 미래: 생성형 AI가 기업 보안 환경을 바꾸는 방식

*본 아티클의 원문은 2024년 2월 13일 Google Cloud 블로그(영문)에 게재되었습니다.

생성형 AI는 생산성을 끌어올릴 차세대 기술로 각광받고 있습니다. McKinsey 애널리스트들은 생성형 AI가 업무 자동화를 10년 정도 앞당길 수 있다고 전망합니다.

생성형 AI가 시스템, 네트워크, 인프라, 조직을 보호하는 데 미칠 수 있는 긍정적인 잠재력은 엄청납니다. 조직은 생성형 AI를 통해 더 빠르게 위협 알림을 식별하고 이에 대응할 수 있으며, 덕분에 보안팀은 여유를 가지고 방어 태세 강화에 집중할 수 있게 됩니다. 동시에 생성형 AI는 시간 절약과 생산성 향상 등 폭넓은 비즈니스 가치를 제공할 수 있습니다.

Broadcom의 Symantec 엔터프라이즈 사업부 CTO이자 엔지니어링 부문 부사장 Adam Bromwich는 생성형 AI가 역사상 가장 중요한 보안 트렌드가 될 수 있다고 믿습니다.

"보안 산업은 끊임없이 진화하고 있습니다. 보안은 움직이는 과녁처럼 정확히 맞추기 어렵지만, 그만큼 이 분야의 업무는 흥미진진한 도전으로 가득합니다. 공격의 방식은 항상 진화하고 있지만, 마찬가지로 그에 방어하는 기술 역시 근본적으로 변화하고 있습니다. 최근 등장한 변화인 생성형 AI는 기업이 시스템과 데이터를 보호하는 방식을 완전히 혁신할 것입니다."라고 Bromwich 부사장은 말합니다.

Bromwich 부사장은 20년이 넘는 기간 동안 Symantec에서 기업 보안을 담당했으며, 2019년에 Broadcom에 인수된 이후에도 계속 Symantec에서 근무해온 이 분야의 전문가입니다. 그는 최근 Google Cloud의 클라우드 보안 부문 부사장인 Jeff Reed와 함께 기업 보안 업계의 변화, 그리고 이 분야에서 생성형 AI가 어떻게 광범위한 비즈니스 혜택을 제공할 수 있을지 논의했습니다.

Jeff Reed: 향후 3~5년 동안 고객이 기업 보안과 관련해 무엇을 요구할 것으로 보시나요?

Adam Bromwich: 기업과 산업 전반에 걸쳐 CEO들이 지속적으로 공유하는 한 가지 공통된 관심사가 있습니다. 바로 기업의 데이터와 정보가 위험으로부터 안전하며, 마련해 둔 보안 시스템이 기업을 보호하리라고 확신할 수 있어야 한다는 것입니다. 이러한 니즈는 당분간 변하지 않을 것이며, Broadcom의 고객들은 앞으로도 Broadcom이 새로운 위협과 공격 벡터에 한 발 앞서 대응하기를 기대할 것입니다.

이렇게 변함없는 고객 기대와 대조적으로, 위협 환경은 모바일과 클라우드, 그리고 이제는 생성형 AI의 주도로 변화하고 있습니다. 제가 업계에서 오랜 기간 일하며 알게 된 한 가지 사실은, 두어 해마다 새로운 기술이 주목을 받으며 그 때마다 업계에 변화가 발생한다는 것입니다. 예전에는 행위 기반 차단 기술이 주목을 받았습니다. 그 이후에는 샌드박스와 고급 머신러닝이 등장했습니다. 이 모든 기술은 변화하는 환경에 대응하기 위한 노력이었으며, 또한 새로운 공격 표면을 불러왔습니다. 물론 현재 가장 커다란 변화는 단연 생성형 AI입니다.

기술은 이 산업의 미래를 형성하는 데 어떤 역할을 할까요?

Bromwich: 보안 업계에서 생성형 AI는 방어자뿐 아니라 공격자에게도 큰 영향을 미칠 것입니다. 향후 몇 년 동안 공격 횟수와 심각성이 증가할 것으로 예상되는데, 이는 생성형 AI로 인해 공격자들이 많은 악의적 작업을 더 쉽게 자동화할 수 있게 되기 때문입니다.

다른 한편으로는, 더 많은 조직에서 보안 목적으로 생성형 AI 도구를 도입할 것입니다. 더 빠르고 수준 높은 분석을 통해 공격을 예측하고 전반적으로 예방 조치를 강화하며 능동적으로 대응할 수 있는 엄청난 기회가 찾아올 것으로 보입니다.

생성형 AI가 업계에 가치를 제공하는 구체적인 사용 사례로는 어떤 것이 있을까요?

Bromwich: Symantec은 이미 고객이 보안 제품을 더 간편하게 사용할 수 있도록 생성형 AI를 활용하고 있습니다. 기업 전반에 걸친 자연어 검색 기술은 대단히 효과적인 기술로 입증되고 있습니다. 예를 들어, 기업 내 모든 원격 분석을 검색하여 현재 상황을 파악할 수 있습니다. 보안팀은 이를 통해 귀중한 시간을 절약하여 문제 해결과 방어 태세 강화에 집중할 수 있습니다.

생성형 AI는 개발자에게도 엄청난 시간 절약 효과를 제공합니다. 개발자는 간단한 채팅 인터페이스를 통해 새로운 코드를 빌드하여 사이버 보안 프로그램 배포를 가속화할 수 있습니다. 궁극적으로 이 새로운 코드는 조직을 위험으로부터 보호하는 데 도움이 될 수 있습니다.

앞으로 보안 모델이 더욱 스마트해지면 생성형 AI의 예측 분석 기능을 통해 약점이나 취약점을 효과적으로 제거할 수 있을 것으로 보입니다. 예를 들어, 생성형 AI 도구는 새로운 환경에서 앞서 접하지 않은 새로운 데이터를 분석하여 이전에 보안이 침해된 시스템과의 유사점을 찾아낼 수 있습니다. 그런 다음 "이 새로운 요소가 공격으로 이어진 다른 요소와 매우 유사하므로 공격을 막으려면 해당 요소를 사용 중지해야 합니다."라고 알려줄 수 있습니다.

이는 한 가지 보안 사례에 불과합니다. 전반적으로 생성형 AI의 예측 기능은 사기 탐지부터 보험 위험 평가에 이르기까지 모든 분야에서 적용할 수 있는 강력한 기능입니다. 이 덕분에 실무자와 애널리스트는 물론 비즈니스 생산성 전반의 업무가 더 쉬워질 것입니다.

Google과 협력해 개발하고 있는 생성형 AI 사용 사례는 무엇이 있나요?

Bromwich: 최근에 Symantec은 Google Cloud와 협력하여 진행 중인 프로젝트를 하나 발표했습니다. 이 프로젝트를 통해 정교한 사이버 공격을 탐지, 파악, 해결하는 데 중요한 기술적 우위를 고객에게 제공하고자 합니다. 현재 저희는 자연어 인터페이스를 사용하여 보다 포괄적이고 이해하기 쉬운 위협 분석을 생성하기 위해 Symantec의 포트폴리오 전반에 Google Cloud 생성형 AI를 내장하는 작업을 진행 중입니다.

이전에 보안 애널리스트는 바이너리 파일에 원시 데이터를 넣고 사용 가능한 형태로 변환해야 했습니다. 이제는 생성형 AI에게 데이터에 대해 사람이 이해할 수 있는 설명을 작성하도록 지시하기만 하면 됩니다. 시간 절약 효과는 상당합니다. 보안 운영 센터(SOC)와 애널리스트의 생산성을 높이고 더 큰 위협에 대응하는 데 집중할 시간을 확보할 뿐만 아니라 궁극적으로 기업이 위협에 더 빠르게 대응할 수 있도록 지원합니다.

이 업무를 처리하는 데 있어 생성형 AI는 몇 시간이 아닌 단 몇 초 만에 답변을 제공하므로 애널리스트의 생산성을 크게 향상시킵니다. 생성형 AI가 업무의 80%를 처리하고 애널리스트는 남은 20%에만 집중하면 되므로 매우 놀라운 생산성을 얻을 수 있습니다. Windows 바이너리 파일을 불러와 인간이 읽을 수 있는 형식으로 잠재적인 위협을 설명하는 것은 애널리스트에게 쉽지 않은 작업입니다. 이때 생성형 AI가 큰 도움이 됩니다.

Google Cloud로 AI 여정을 시작하게 된 계기는 무엇인가요?

Bromwich: Google Cloud와 협력을 시작한지 이제 약 4년이 되었습니다. 당시 Symantec은 모든 제품을 Google Cloud로 전환했는데요, 이는 Google 네트워크의 강건성은 물론 저희에게 필요한 광범위한 서비스 및 데이터 센터 전문성을 고려한 결정이었습니다.

생성형 AI를 접한 후 저희는 AI 모델을 구축하는 데 막대한 투자가 필요하다는 사실을 곧바로 깨닫게 되었습니다. 한편 구글은 저희가 학습에 기여하는 한편 직접 사용도 할 수 있는 보안 모델을 이미 빌드하고 있었습니다. 따라서 두 회사는 본질적으로 서로의 강점을 활용하고 있는 셈입니다.

Symantec은 위협을 차단하는 데 중점을 두고 있습니다. 물론 저희도 생성형 AI를 좋아하고, Symantec만의 생성형 AI 시스템을 개발하는 인력을 1,000명 정도 둘 수 있으면 좋겠습니다. 하지만 그렇게 되면 저희가 가장 잘하는 일에 집중하지 못하게 될 수 있습니다. 차라리 훌륭한 생성형 AI 시스템을 이미 빌드하고 있을 뿐 아니라 보안을 핵심 가치로 삼는 Google Cloud에 의지하는 편이 훨씬 낫다고 생각합니다.

보안의 미래는 어떤 모습일까요? 과감한 예측을 들려주세요

Bromwich: 보안의 미래는 향후 공격이 발생할 방식과 관련이 있다고 생각합니다. 과거에 공격자들은 사람을 가장 취약한 고리로 여겨 공격 대상으로 삼았습니다. 가정의 사용자는 물론 최근에는 대기업 사용자에 이르기까지, 이들의 사용자 인증 정보를 훔쳐 사용하는 식이었습니다. 저희는 점점 능숙하게 이러한 유형의 공격을 차단하고 있습니다.

하지만 공격자들은 곧 생성형 AI를 사용하여 인프라의 취약점을 찾아 악용할 것입니다. 오늘날 업무 환경의 니즈에 따라 시스템이 더욱 복잡해지면서 동시에 더 많은 취약점이 노출되고 있다는 사실을 명심해야 합니다. 모든 취약점을 제거하는 것은 불가능합니다. 대신 잠재적인 공격 표면을 줄이는 데 집중해야 합니다.

이를 고려해볼 때 조직은 처음부터 인프라에 보안을 통합하는 데 집중한 후 생성형 AI를 활용하여 공격자가 접근하기 전에 취약점을 식별하고 수정해야 할 것입니다. 공격자와 방어자가 치열한 전쟁을 벌이게 될 겁니다.

같은 업계에서 혁신을 모색하는 동료 경영진에게 어떤 조언을 하고 싶으신가요?

우선 계속 발전해야 합니다. 조직의 현상 유지를 위해서라도 혁신을 멈추지 말아야 합니다. 또한 현재 기술 환경을 고려할 때 과거를 기꺼이 버리고 앞으로 무엇이 가능할지 탐구해야 합니다.

혁신이란 정상이 없는 산을 오르듯 잠재력의 정점을 향해 끝없이 오르는 과정입니다. 산을 오를 때는 목적지가 아니라 여정이 중요하다는 것을 기억하면서 처음과 같은 열정을 지속적으로 쏟아야 합니다.

^{도입부의 이미지는 Google Cloud 기반의 MidJourney에서 'a magazine-style illustration of a diverse team building a wall out of digital bricks that look like blue electricity. They're erecting the wall around an office building or city to protect it from hackers... can you make it look more secure, more like a construction than a finished thing, please ... make it look more like they're building it, and can you make the scene brighter, maybe more daytime looking, but otherwise very good.'라는 프롬프트를 사용해 생성되었습니다.}