방어자의 이점: 에이전트 시스템 적용

    소개

    대규모 언어 모델(LLM)과 자율 에이전트의 발전으로 인해 공격자와 방어자 모두가 사이버 역량을 더 빠르게 개발하고 적절하게 활용할 수 있게 되었으며 그 영향력 또한 크게 가속화되고 있습니다. 기술 역량의 발전과 이에 따른 위험 요소가 함께 진화하면서 위협 환경 또한 끊임없이 변화하고 있습니다. 인간의 지도를 받는 자문 도구였던 모델은 이제 복잡한 워크플로를 조정하고 엔드 투 엔드 작업을 실행하는 자율적인 에이전트 시스템으로 진화하고 있습니다. 공격자들은 에이전트 기능을 활용하여 공격 수단 개발과 작전 수행을 자동화하는 것은 물론, 공격 규모와 속도를 끌어올리고 있습니다. 방어자로서 우리는 조직을 효과적으로 방어하기 위해 도구, 기술, 지식, 프로세스, 프로그램을 지속적으로 확장하고 있습니다. LLM과 에이전트 시스템을 전략적이고 의도적으로 사용하면 위협을 식별하고 대응하는 데 필요한 방어자의 속도, 규모, 역량을 확실하게 보강하고 향상할 수 있습니다. 

    이러한 모델과 에이전트 기반 워크플로를 사용한다 해도 '방어자의 이점', 즉 방어자가 위험 상황을 제어한다는 핵심 개념에는 변함이 없습니다. 조직의 방어자인 우리는 인프라, 기술 스택, 운영, 관련 위협의 영향을 공격자보다 더 잘 알고 있습니다. 이러한 지식을 바탕으로 우리는 공격자와 마주하는 환경을 직접 통제할 수 있는 이점을 갖게 됩니다. 이러한 이점을 에이전트 기능의 속도 및 규모와 결합하면 새로운 방어 역량을 확보하고 운영의 한계를 재정립할 수 있으며, 위협 속에서도 지속적인 운영을 이어갈 수 있도록 지원한다는 우리의 임무를 더 효과적으로 완수할 수 있습니다.

    Mandiant의 '방어자의 이점' 운영 모델은 위협을 효과적으로 탐지하고 대응하는 데 필요한 6가지 핵심 기능, 즉 인텔리전스, 탐지, 대응, 검증, 추적, 미션 컨트롤로 구성되어 있으며, 이를 통해 조직은 공격에 저항하고 침해의 영향을 최소화할 수 있습니다.


    방어자의 이점 운영 모델
    이미지 1: Mandiant 방어자 이점 운영 모델 및 6가지 핵심 기능

    지속적인 에이전트형 위협의 반복

    공격자의 핵심 목표는 여전히 변함없이 교란, 스파이 활동, 이득 추구, 파괴 활동입니다. 그러나 위협 환경 자체에는 근본적인 변화가 있었습니다. 방어자는 보안 침해가 그저 더 빨라지거나 더 고도화된 정도일 것이라는 생각에서 벗어나, 공격자의 역량과 능력이 에이전트 기반 시스템을 통해 어떻게 뒤바뀌고 있는지 분석해야 합니다.

    과거에는 공격자들이 지속적인 작전 수행에 드는 높은 비용, 캠페인 관리의 오버헤드, 자금이 풍부한 합법적인 조직이나 다른 위협 그룹의 뛰어난 인재들과 경쟁해야 하는 필요성 등으로 인해 제약을 받았습니다. 고급 언어 모델과 에이전트 기반 워크플로는 이러한 문제를 해결하여 공격자가 공격 속도를 극대화할 수 있게 합니다. 에이전트를 사용하면 공격 속도 외에도 캠페인의 범위, 조정 기능, 그리고 대상도 확대할 수 있습니다. LLM은 컨텍스트 검색과 측면 이동 시도를 자동화하는 방식으로 기술적 역량 격차를 해소해 주므로, 기술력이 부족한 공격자도 이전에는 국가 차원의 공격자나 지능형 지속 위협(APT) 행위자에게만 가능했던 수준의 정교함으로 더 복잡한 환경을 탐색할 수 있게 됩니다. 또한 이제 공격자가 다양한 서비스에서 인프라를 빠르게 가동, 구성, 해체할 수 있으므로 변동성이 큰 침해 지표(IoC)의 수명이 짧아지고 있습니다. 예를 들어 Mandiant는 모델과 에이전트 시스템을 이용해 명령 및 제어 봇넷 마이그레이션을 조정하여 탐지를 회피하는 공격자들을 목격하고 있습니다. 방어 도구가 특정 동작을 감지한 직후, 멀웨어가 탐지 서명을 우회할 때까지 에이전트들이 공격 단계를 반복적으로 재구성하는 것이 관찰되었습니다.

    공격자들은 이러한 인프라를 활용하여 물류 병목 현상을 줄이고 운영 속도를 높이고 있습니다. 방어자인 우리는 현재 진행 중인 위협에 대응할 뿐만 아니라, 동등한 수준의 긴박감을 바탕으로 역량을 전환하고 발전시켜 위협보다 한발 앞서 나가야 합니다. 

    머신 수준의 규모와 속도로 수행되는 사이버 방어 

    공격자와 방어자 간의 충돌이 계속되는 상황에서, 속도는 무엇보다 중요한 가치입니다. 상황을 이해하고, 효과적인 결정을 내리고, 이러한 결정을 상대방보다 더 빠르게 행동으로 옮길 수 있는 쪽이 우위를 점하게 됩니다. 방어자로서 우리는 위협을 가장 효과적이고 효율적인 방식으로 방어하고 대응할 수 있도록, 위험 상황을 이해하고 그 안에서 작전을 수행하는 능력을 갖추어 나가야 합니다.

    사이버 방어의 6가지 핵심 기능과 관련 역량
    이미지 2: 6가지 핵심 기능은 각각 다양한 역량, 프로그램, 리소스, 기술로 구성됩니다.

    이전에는 제한된 리소스, 예산, 시간 및 전문 기술 확보의 어려움으로 인해 필요한 수준의 방어 및 운영 성숙도를 달성하기 어려웠으며, 이로 인해 사이버 방어 조직이 파편화되거나 분리되고 말았습니다. 하지만 에이전트형 플랫폼은 자주 누락되거나 미흡한 기능을 보강하여 속도를 개선하고, 방어를 강화하며, 알림 피로를 줄여 이러한 격차를 해소할 기회를 제공합니다. 에이전트와 고급 LLM을 사용하면 방어자는 위협 인텔리전스를 신속하게 운영하고, 알려진 위협을 감지하고 대응하며, 활성 위협을 추적하고, 보안 제어를 지속적으로 검증하며, 미션 컨트롤의 조정 및 우선순위 지정을 관리할 수 있습니다.

    AI의 이점을 누릴 수 있는 사이버 방어 6대 핵심 기능별 역량
    이미지 3: 제한된 자원, 예산, 시간 및 전문 기술 확보의 어려움으로 인해, 대부분의 사이버 방어 조직은 불완전하거나 파편화되거나 단절된 기능을 경험하며, 이로 인해 역량에 공백이 발생하고 있습니다.

    예를 들어 방어자는 에이전트를 활용하여 한 기능의 인사이트와 발견 사항이 다른 기능의 프로세스에 직접적인 영향을 미치도록 최적화할 수 있습니다. 에이전트 기반 프로세스는 보안 운영 센터(SOC) 분석가가 종료한 알림에 대해 어떻게 작동할까요? 참양성으로 종료된 알림의 경우, 에이전트는 과거의 원격 분석을 대상으로 관련 침입 기법을 찾는 선제적인 위협 추적을 즉시 시작할 수 있습니다. 거짓양성으로 종료된 알림의 경우, 에이전트는 분석가가 동일한 양성 이상치를 다시 조사하는 데 시간을 낭비하지 않도록 즉시 감지 조정을 권고할 수 있습니다.

    방어자는 먼저 두 가지 핵심 영역에서 에이전트형 시스템을 활용하는 데 집중해야 합니다. 이를 통해 방어자는 공격자의 대등하거나 공격자를 능가하는 속도와 역량을 갖출 수 있게 됩니다. 

    • 기존 기능 보강: 방어자는 에이전트를 활용하여 컨텍스트 추가, 영향 범위 평가, 일상적인 작업 자동화 및 보강과 같은 방식으로 기존 기능을 강화해야 합니다. 에이전트 활용의 가장 중요한 원칙은 방어자가 방어 격차를 해소하는 데 집중할 수 있도록 워크플로를 개선하고 수동 작업이나 시간이 많이 걸리는 작업을 없애는 것입니다.
    • 격차 해소: 에이전트는 수동 작업이 필요하거나 많은 리소스가 필요해 이전에는 구현이 불가능했던 워크플로를 구현함으로써 방어자가 기존의 기능 격차를 해소할 수 있도록 지원합니다. 예를 들어, 방어자는 에이전트 기능을 활용하여 위협 인텔리전스 보고서를 종합하고, 알림 보강을 자동화하고, 보안 정보 및 이벤트 관리(SIEM) 로깅 수집 내역의 완전성과 정확성을 검토할 수 있게 됩니다.

    방어자의 이점 운영 모델 전반에서 특정 사용 사례에 LLM을 활용하면 방어자는 리소스 제약을 완화하고, 운영 속도를 높이고, 마찰과 피로를 줄이고, 과거의 사이버 방어 기능을 최신 에이전트형 보안으로 전환할 수 있습니다.

    LLM 및 에이전트형 워크플로를 활용하여 격차 해소
    이미지 4: 방어자는 LLM과 에이전트형 워크플로를 활용하여 이러한 격차를 보완하고 해소할 수 있습니다.

    인텔리전스: 급변하는 위협 환경에 대응하기 위한 최적화된 실행 가능성

    Mandiant는 사이버 방어에 대한 인텔리전스 기반 접근방식을 지원합니다. 여기서 인텔리전스는 사이버 방어 조직 전반에서 조치와 의사 결정을 안내하는 차별화 요소입니다. 인텔리전스 기능은 방어자가 자신이 직면한 위협을 이해하고, 탐지 전략 및 프로세스를 선제적으로 구현하며, 대응 조치 및 리소스의 우선순위를 지정하고, 전략적 위험 관리 결정을 지원하는 데 도움을 주기 위해 설계되었습니다. 

    인텔리전스 기능은 에이전트를 활용하여 사이버 위협 인텔리전스(CTI)를 신속하게 수집, 종합, 분석하고 주요 이해관계자에게 배포해야 합니다. 목표는 불필요한 소음과 운영상의 마찰을 줄이고, 실행 가능한 관련 정보를 방어자에게 거의 실시간으로 제공하여 조직을 가장 효과적으로 방어하는 것입니다. 위협을 평가하기 위해 분석가가 며칠, 몇 주 또는 몇 달 동안 수동으로 CTI 보고서를 읽는 대신, 에이전트가 현재 보안 담당자가 최우선으로 다뤄야 할 동향, IOC와 공격자 전술, 기법, 절차(TTP)를 종합하고 요약하며 식별해 줍니다.

    예를 들어 인텔리전스 분석가는 LLM을 활용해 서로 다른 여러 CTI 소스를 즉시 처리하여 위협이 환경에 영향을 미치기 전에 업종별 및 조직별로 맞춤화된 위협 예측을 생성하고, 이를 통해 급변하는 위협 환경 속에서 CTI를 보다 실질적인 조치로 연결할 수 있습니다. 많은 조직은 IOC 피드와 긴 형식의 보고서를 비롯한 다양한 소스의 CTI를 저장소에 수집합니다. 현실에서 이러한 저장소는 시간이 지나면 최신 상태가 아니거나 제대로 정리되지 않아 분석 및 검토가 어려워지는 경우가 많습니다. 에이전트 기반 워크플로는 관련 운영 및 전술 인텔리전스를 매우 구체적이고 예측 가능한 결과물로 전환하여 전략적 의사 결정, 탐지 엔지니어링 개발, 대응 플레이북, 검증 평가, 추적 가설 수집을 촉진합니다. 

    탐지: 능동적 방어를 위한 인텔리전스 운영

    이 임무를 달성하려면 방어자가 조직 내에서 관찰된 활동을 바탕으로 악의적인 행동을 탐지하는 것이 중요합니다. 탐지 기능은 인텔리전스, 관찰 결과 및 기타 요구사항을 실행 가능한 트리거로 구체화하여 다른 기능을 조정하고 지원하며, 이를 통해 체계적인 대응이 이루어지도록 합니다. 

    에이전트는 누락된 로그 소스, 파싱 문제, 타임스탬프 문제를 포함한 로깅 격차를 식별할 수 있게 하여 탐지 기능을 보강하고 개선합니다. 이러한 작업은 방어자가 수동으로 수행해야 하는, 시간이 많이 걸리는 평가 작업인 경우가 많습니다. 악의적인 행동을 감지하기 위해 사이버 방어 조직은 로그 수집을 지속적으로 검토하여 환경 전반에서 최적의 모니터링 가능성을 보장해야 합니다.

    LLM을 활용하여 공격자 TTP를 자연어와 같은 활성 탐지 규칙으로 직접 변환하는 탐지 기능의 역량을 강화함으로써, 방어자는 수동 엔지니어링 시간을 크게 줄이고 가시성 격차를 빠르게 해소할 수 있습니다. 또한 지속적 통합 및 지속적 배포(CI/CD)를 활용하는 코드형 감지 파이프라인을 함께 사용하면 탐지 엔지니어링 수명 주기를 며칠 또는 몇 주에서 몇 분으로 단축할 수 있습니다.

    대응: 신속하고 복원력 있는 복구 조정

    위협이 식별되면 방어자는 침해의 영향을 최소화하고, 정상적인 운영으로의 신속한 복구를 보장하며, 정보를 다른 기능에 전달하여 복원력을 높이는 데 주력해야 합니다. 대응 기능은 조사 및 격리에서 자동화 및 조정 기능에 이르는, 사고 대응팀에서 자주 수행하는 활동에 주력합니다.

    에이전트형 보강 기술은 복잡한 케이스의 자동 요약, 알림의 전체적인 보강, 이전에는 존재하지 않았던 보안 조정, 자동화, 대응(SOAR) 해결 조치의 동적 생성을 통해 대응 기능을 강화합니다. 이러한 대규모 상관관계 분석 및 보강은 SOC 분석가의 업무 부담과 피로를 최소화하고, 등급 1 반복 업무를 줄이며, 방어자가 수동 분류에서 벗어나 더 복잡한 대응 활동에 집중할 수 있게 해줍니다.

    검증: 대규모 환경에서의 보안 효과

    방어자인 우리의 이점은 환경, 인프라, 공격 표면을 제대로 알고 이해하는 데 있습니다. 검증 기능은 조직 내 위협 노출에 대한 지속적인 관리에 주력하고, 환경 내 보안 제어 장치가 의도된 대로 작동하고 있는지 확인하며, 취약점을 포함한 공격 표면 전반에서 위험을 관리합니다. 

    검증 기능은 LLM을 사용하여 실제 환경 및 관련 위협 활동에 대한 최신 인텔리전스를 기반으로 테스트 스크립트를 생성하고 실행하여, 제어 기능을 스트레스 테스트하고 머신 수준의 속도로 방어 태세를 입증합니다. 지속적인 위협 노출 관리(CTEM)는 특정 시점의 레드팀 활동을 넘어 확장할 수 있는 체계적인 접근 방식을 제공합니다. CTEM은 지속적인 주기로 실행되며 에이전트를 통해 대부분 자동화할 수 있는 종합적인 관점을 제공합니다. 따라서 조직은 최신 위협 환경에 필요한 속도로 확장할 수 있습니다. 또한 사이버 방어 조직은 레드팀 활동 서비스를 활용하여 프롬프트 인젝션 및 데이터 오염 같은 취약점을 대상으로 자체 에이전트 기능과 애플리케이션을 평가해야 합니다.

    추적: 첨단 공격자 탐색 가속화 

    방어자는 환경 내 위협을 식별하는 탐지 기능 외에도, 이러한 기능을 확장하여 환경 전반에서 진행 중인 침해와 보안 제어의 약점을 선제적으로 찾아낼 수도 있습니다. 추적 기능은 탐지 및 검증 기능을 보완하고 효과적으로 연계하여 진행 중인 공격자 활동을 식별하고, 취약점을 발견하며, 탐지 능력과 가시성을 개선하고, 공격자가 시스템을 침해하기 어렵게 만듭니다.

    생성 모델은 방어자의 작업을 복잡한 쿼리 작성 작업에서 예측 인텔리전스 기반의 대화형 위협 추적 가설 실행 작업으로 전환하여 추적 기능의 역량을 강화합니다. 에이전트를 활용하면 방어자는 기존 탐지 방식을 회피하려는 지능형 공격자를 훨씬 더 빠르게 발견할 수 있습니다.

    미션 컨트롤: 협업 및 부서 간 커뮤니케이션 최적화

    사이버 방어 조직의 효율성과 효과를 보장하기 위해, 미션 컨트롤 기능은 보안 프로그램 전반에서 조정 및 통합 관리를 주도합니다. 이를 통해 각 기능이 조직의 비즈니스 목표 및 가치와 연계되고 리소스 관리, 커뮤니케이션, 측정항목, 위기 관리에 대한 공식적인 프로세스가 수립됩니다.

    미션 컨트롤 기능은 LLM을 활용하여 복잡한 멀티 도메인 보안 측정항목을 경영진이 바로 사용할 수 있는 동적 위험 요약 보고서로 종합하고, 기술적 대응을 비즈니스 복원력과 연계하는 모의 훈련 시나리오를 자율적으로 생성할 수 있습니다. 예를 들어 제로데이 취약점이 발견되면 에이전트는 미션 컨트롤 기능이 다른 5가지 기능의 정보를 신속하게 변환하고 종합하여, 경영진이 바로 사용할 수 있는 위험 요약 보고서로 작성하도록 지원할 수 있습니다. 이렇게 하면 성숙한 사이버 방어 조직에서만 볼 수 있는 수일에 걸쳐 대량의 리소스를 소모하는 조정 과정이 줄어들며, 리더십은 즉시 실행 가능한 정보를 통해 지체 없이 방어 조치를 조정할 수 있습니다.

    에이전트 기능 배포를 위한 기본 원칙 및 주요 고려사항

    다른 조직 혁신과 마찬가지로, 사이버 방어에 에이전트 기능을 도입하는 작업은 반드시 전략적이고 체계적인 방식으로 계획, 배포 및 통합되어야 일관성과 성공을 보장할 수 있습니다. Mandiant는 방어자가 에이전트를 배포할 때 다음 원칙을 따를 것을 권장합니다.

    대체가 아닌 보강

    LLM과 에이전트 기반 워크플로의 발전은 인력, 프로세스, 기술을 포함한 조직의 모든 측면에 영향을 미칩니다. Mandiant는 사이버 방어 조직이 에이전트를 전략적 역량 강화 도구로 활용하여 이러한 모든 영역을 보강하고 강화해야 한다고 강력히 권장합니다. 그러나 에이전트 기능을 개발하려면 반드시 먼저 조직의 니즈를 파악하고, 요구사항을 정의하고, 다른 해결 방안을 모색하고, 조직의 투자수익을 산정해야 합니다. LLM이 방어의 촉매제가 될 수도 있지만, 비용이 더 저렴하고 위험이 낮은 기존 방식의 자동화 같은 다른 선택지가 비즈니스 니즈와 요구사항을 충족할 수도 있습니다.

    • 인력: 에이전트 기능과 LLM과의 상호작용 방식이 지속적으로 개선되고 있지만, 사이버 방어 운영 전반에서 에이전트를 정확하고 효과적이면서 지속 가능하도록 구현하는 데는 여전히 사람이 중심적인 역할을 담당합니다. 기존 SOAR 수준을 넘어서는 LLM의 프로세스 자동화 역량은 인간 지식 노동의 부담을 등급 1 분류와 같은 반복적이고 시간이 많이 소요되는 활동에서 로깅 격차 해소 및 공격 표면 축소와 같은 더 복잡하고 전략적인 문제로 전환할 것입니다.
    • 프로세스: 방어자의 이점 운영 모델을 구현하는 데 있어 가장 큰 과제는 모든 부서에 걸친 상호 협력과 파트너십을 구축하는 것입니다. 효율적인 프로세스를 구축하려면 상당한 리소스와 시간을 투자해야 하므로, 방어자에게는 부담이 되는 일입니다. 에이전트는 팀 간 커뮤니케이션을 강화하고 절차를 명확히 하며 협업을 최적화할 수 있는, 명확하게 정의된 플레이북이나 표준 운영 절차(SOP)를 수립하고 실행하기 위한 실질적인 지침을 제공하는 등의 방법을 통해 이러한 부담을 완화할 수 있습니다.
    • 기술: 생성 모델은 자동화를 구현하고 최적화하는 또 다른 기술 계층을 제공합니다. 하지만 스크립트나 플레이북과 같은 기존의 자동화 또한 여전히 상대적으로 저렴한 비용으로 속도와 안정성 측면에서 방어자에게 상당한 가치를 제공합니다. 에이전트형 워크플로와 고급 시스템 자동화는 이와 같은 기존의 기술에 더하여 운용되어야 합니다. 이를 통해 현재의 역량을 확장하고 분석과 추론을 통해 결정론적 자동화로는 해결할 수 없는 격차를 해소할 수 있습니다.  

    Mandiant는 팀이나 기능을 에이전트 기반 역량으로 대체하는 대신, 조직은 실행의 병렬화나 사고 보고서 초안 자동 작성 같이 이전에는 달성하기 어려웠을 새로운 기능을 확보할 수 있게 해주는 에이전트 기반 역량에 먼저 투자해야 한다고 권장합니다.

    대체가 아닌 보강
    이미지 5: 에이전트 기능은 방어자가 위협을 감지하고 대응하는 데 도움이 되는 중요한 인사이트와 세부정보를 제공합니다. Mandiant는 방어자가 에이전트 기능과 긴밀하게 연계하거나 협력해야 하며, 의사 결정 과정에는 항상 해당 분야의 전문가가 참여해야 한다고 권장합니다.

    사이버 보안의 기본 원칙은 여전히 그대로 적용

    생성형 모델은 적절한 데이터, 컨텍스트와 프롬프트가 있어야 의미 있는 대답을 생성할 수 있습니다. 따라서 과거의 핵심적인 사이버 보안 기반이 미래의 에이전트형 사이버 방어에도 여전히 적용됩니다. 그러나 여전히 많은 조직은 정확한 자산 목록 작성, 중앙 집중식 SIEM의 로그를 통해 얻은 가시성 및 모니터링 가능성, 문서화된 최신 SOP 및 커뮤니케이션 계획, 서로 분절된 팀과 같은 보안 위생의 기초적인 부분에서 어려움을 겪고 있습니다. 이러한 접근 방식이 최대의 효과를 발휘하려면 에이전트가 운영 워크플로, 기술 및 아키텍처 다이어그램과 핵심 데이터 소스에 액세스하여 합리적이고 컨텍스트를 고려한 결정을 내릴 수 있어야 합니다.

    거버넌스 및 인간 중심의 위험 수용 필요

    조직은 설명하거나, 모니터링하거나, 제어할 수 없는 에이전트를 배포해선 안 됩니다. 미션 크리티컬하거나 잠재적으로 혼란을 초래할 수 있는 모든 결정은 책임을 질 수 있는 인간의 판단에 근거해야 합니다. 보안은 그 특성상 비즈니스에 지장을 주는 요소로 간주되는 경우가 많습니다. 그러나 관리되지 않거나 제어되지 않는 에이전트 시스템으로 인해 발생하는 무분별한 보안 조치도 큰 혼란을 초래할 수 있습니다.

    방어자들은 이미 에스컬레이션과 경영진의 승인 절차에 익숙해져 있습니다. 에이전트도 마찬가지여야 합니다. Mandiant는 에이전트와 인간의 의사 결정이 얼마나 긴밀하게 결합되어야 하는지에 대한 의견을 조직이 조율해야 한다고 권장합니다. 전반적으로 잠재적으로 중단을 일으킬 수 있는 조치를 취하기 전, 도중, 후를 막론하고, 의사 결정 과정에는 항상 해당 분야의 전문가가 참여해야 합니다. LLM은 운영 속도를 높이고 환경과 잠재적 위협에 대한 중요한 인사이트와 세부정보를 제공하지만, 방어자는 여전히 의사 결정과 책임 소재를 전문가에게 의존하고 있습니다. 일반적으로 Mandiant는 일상 업무를 방해할 위험 정도에 따라, 조직이 에이전트 기반 워크플로에 인간의 감독 및 개입 수준을 설정해야 한다고 권장합니다.

    에이전트형 혁신과 전환에 따르는 위험

    현재 생성형 모델을 활용하여 사이버 방어 역량을 보강하고 강화하는 데에는 위험이 따르며, 그중에서도 가장 심각한 위험은 할루시네이션, 부정확한 결론, 무제한 토큰 소비, 처리 루프, 민감한 정보 유출과 운영 차질입니다. 이러한 위험이 에이전트 시스템에만 국한되는 것은 아니지만, Mandiant는 조직이 도입에 앞서 관련된 잠재적 위험을 평가하고 검토하며, 에이전트를 핵심 업무가 아닌 작업에 먼저 집중하게 하고, 엄격한 테스트를 수행하며, '신뢰하되 검증하는' 사고방식을 채택해야 한다고 권장합니다.

    결론

    방어에 성공하려면 방어자는 공격자보다 더 빠르게 움직여야 합니다. 생성형 모델의 지속적인 발전 덕분에, 사이버 방어 조직은 이제 확장 가능한 보안 속도를 더 빠르게 달성할 수 있게 되었습니다. 방어자는 6가지 핵심 사이버 방어 기능 내부 및 기능 간에 존재하는 기능 격차를 해소하고 기존 기능을 강화하여 방어자의 이점을 유지해야 합니다.

    에이전트 시스템에 대한 방어자 준비 체크리스트

    에이전트가 방어자와 공격자 모두에게 여전히 중요한 가속기 역할을 하고 있어, 조직 또한 운영 프로세스 전반에 LLM을 도입해야 한다는 압박이 커지고 있습니다. 조직의 준비 상태를 평가할 때는 다음 10가지 개념을 고려하세요.

    1. 조직 컨텍스트: 생성형 모델을 이용해 방어를 증강할 때, 조직의 운영에 관한 고유한 정보는 정확한 맞춤형 결과를 도출하기 위한 핵심 요소입니다. 이러한 컨텍스트를 에이전트가 정답으로 쉽게 참조할 수 있는 상태인가요?
    2. 지식 관리: 사이버 방어 운영을 증강할 때 에이전트에 필요한 컨텍스트는 정확한 네트워크 토폴로지, 애셋 관리, 고가치 애셋 정의입니다. 귀사에서는 중요한 최신 지식 관리 아티팩트를 어떻게 캡처, 새로고침, 제공하나요?
    3. 에이전트 ID: 자율 작업을 실행하는 에이전트를 위한 Identity and Access Management(IAM)는 LLM 증강 작업의 필수 요건입니다. 귀사에서는 작업 실행 시 작업별로 수명이 짧은 토큰 기반 승인을 프로그래매틱 방식으로 발급할 수 있나요?
    4. 거버넌스: 인간 운영 가드레일과 마찬가지로 LLM 증강 역시 동일한 구조적 검토를 거쳐야 합니다. 귀사에서는 LLM 거버넌스 전략을 채택했나요?
    5. 사이버 위협 인텔리전스(CTI): 내부적으로 수집된 CTI와 외부에서 생성된 CTI는 모두 효과적인 사이버 방어 운영을 위한 LLM 증강의 필수 요소입니다. 귀사에는 LLM 증강 운영을 지원하는 CTI 파이프라인이 마련되어 있나요?
    6. 로그 범위: 사용 가능한 정보와 가시성의 사각지대를 이해하는 것은 효과적이고 정확한 LLM 운영 증강을 위한 중요한 데이터 포인트입니다. 귀사에서는 모든 중요한 데이터 소스의 로그를 수집하고 알려진 로깅 격차나 의도적으로 제외된 로그를 문서화하고 있나요?
    7. 검증: 조직의 보안 제어 이행 여부를 검증하는 것은 보안 조치의 정확성과 효과성, 특히 에이전트를 통해 강화된 보안 조치의 정확성과 효과성을 보장하기 위한 필수 요소입니다. 귀사에서는 공격 표면 전반에 구현된 보안 제어의 효과를 검증할 수 있는 도구를 갖추고 있나요?
    8. 평가: 보안 제어, 에이전트형 증강, 그리고 전반적인 보안 상황의 영향을 측정하는 것은 모든 수준의 조직 의사 결정권자에게 있어 대단히 중요한 컨텍스트입니다. 귀사에는 전술적, 운영적, 전략적 수준에서 사이버 방어 운영의 품질, 상태, 효과를 평가하기 위한 전략이 마련되어 있나요?
    9. 비용: 생성형 모델을 도입하는 조직이 많아지면서, 운영 비용을 증가시키는 간과된 요인으로 '토큰 소비량'이 부각되고 있습니다. 귀사에서는 비용 절감을 검토하고 기존 보안 운영 도구로는 쉽게 해결할 수 없는 LLM 증강 워크플로를 파악해 보셨나요?
    10. 모델 제공업체 전략: 외부 제공업체에 의존하면 서비스 중단 및 서드 파티 인프라 불안정성과 같은 잠재적 위험이 발생할 수 있으며, 데이터 개인 정보 보호에 대한 우려도 커집니다. 귀사에는 프런티어 모델과 개방형 가중치 대안을 언제 사용할지에 대한 전략이 마련되어 있나요?

    참여자

    알렉스 플로레스

    벤 오펠

    브렌틴 뮤어

    크리스 부세

    크리스 사타넥

    댄 너팅

    대니얼 스미스

    에밀리 크랜스턴

    가우리 데이브

    일란 란츠

    칼 군투쿠

    케리 마트레

    커트 울프

    닉 바토쉬

    파스칼 이사

    사라 타킴

    타냐 윌킨스

    토머스 셸

    방어자의 이점 누리기

    Cloud 로고
    Google Cloud