AI Protection: AI 시대의 새로운 방패를 소개합니다.
Archana Ramamoorthy
Senior Director, Product Management, Google Cloud Security
* 해당 블로그의 원문은 2025년 3월 6일 Google Cloud 블로그(영문)에 게재되었습니다.
AI 사용이 증가함에 따라 보안은 여전히 주요 관심사이며, 조직들이 급격한 도입으로 인해 발생할 수 있는 위험에 대해 우려하고 있다는 이야기를 자주 듣습니다. Google Cloud는 고객이 안전하고 규정을 준수하며 개인 정보 보호를 유지하면서 자신 있게 AI를 구축하고 배포할 수 있도록 지원하기 위해 노력하고 있습니다.
오늘 우리는 AI 수명 주기 전반에 걸쳐 위험을 완화하는 데 도움이 되는 새로운 솔루션을 소개합니다. 플랫폼에 관계없이 클라우드 및 모델 전반에서 AI 워크로드와 데이터를 보호하도록 설계된 기능 세트인 AI Protection을 발표하게 되어 기쁩니다.
AI Protection은 다음을 통해 팀이 AI 위험을 종합적으로 관리하도록 지원합니다.
- 환경에서 AI 인벤토리를 검색하고 잠재적인 취약성을 평가합니다.
- 컨트롤, 정책 및 가드레일을 통해 AI 자산을 보호합니다.
- 탐지, 조사 및 대응 기능을 통해 AI 시스템에 대한 위협을 관리합니다.
AI Protection은 멀티 클라우드 위험 관리 플랫폼인 Security Command Center(SCC)와 통합되어 보안 팀이 AI 보안 상태를 중앙 집중식으로 확인하고 다른 클라우드 위험과 함께 전체적으로 AI 위험을 관리할 수 있습니다.
AI 보호는 조직이 AI 인벤토리를 검색하고, AI 자산을 보호하며, AI 위협을 관리하도록 지원하며, Security Command Center와 통합됩니다.
AI 인벤토리 검색
효과적인 AI 위험 관리는 환경 내에서 AI가 어디에서 어떻게 사용되는지에 대한 포괄적인 이해에서 시작됩니다. Google Cloud의 기능은 모델, 애플리케이션 및 데이터의 사용과 그 관계를 포함하여 AI 자산을 자동으로 검색하고 카탈로그화하는 데 도움이 됩니다.
AI 애플리케이션을 지원하는 데이터와 현재 보호 방법은 매우 중요합니다. Sensitive Data Protection(SDP)은 이제 Vertex AI 데이터 세트에 대한 자동 데이터 검색을 확장하여 학습 및 튜닝 데이터를 구성하는 데이터 민감도 및 데이터 유형을 이해하도록 지원합니다. 또한 학습 데이터의 유형 및 민감도에 대한 심층적인 통찰력을 제공하는 데이터 프로필을 생성할 수 있습니다.
민감한 데이터가 어디에 있는지 파악되면 AI Protection은 Security Command Center의 가상 레드 팀을 사용하여 AI 관련 유해한 조합과 위협 행위자가 이 중요한 데이터를 손상시키기 위해 취할 수 있는 잠재적인 경로를 식별하고 취약점을 수정하고 보안 상태를 조정하기 위한 단계를 권장할 수 있습니다.
AI 자산 보호
AI 보호의 핵심 기능인 Model Armor가 이제 일반 공급됩니다. Model Armor는 프롬프트 주입, 탈옥(jailbreak), 데이터 손실, 악성 URL 및 공격적인 콘텐츠로부터 보호합니다. Model Armor는 여러 클라우드에 걸쳐 광범위한 모델을 지원하므로 고객은 원하는 모델과 플랫폼에 대해 일관된 보호를 받을 수 있습니다. 이는 향후 변경되더라도 마찬가지입니다.
Model Armor는 생성형 AI 애플리케이션을 위한 다중 모델, 멀 클라우드 지원을 제공합니다.
오늘날 개발자는 REST API 또는 Apigee와의 통합을 통해 Model Armor의 프롬프트 및 응답 스크리닝을 애플리케이션에 쉽게 통합할 수 있습니다. Vertex AI 및 Cloud Networking 제품과의 통합을 통해 앱 변경 없이 Model Armor를 인라인으로 배포하는 기능이 곧 제공될 예정입니다.
Dun & Bradstreet의 최고 사이버 보안 및 기술 위험 책임자인 Jay DePaul은 "Model Armor는 프롬프트 주입, 탈옥 및 민감한 데이터 유출에 대한 강력한 보호 기능을 제공할 뿐만 아니라 Security Command Center에서 통합된 보안 상태를 얻을 수 있기 때문에 사용하고 있습니다. 개발 팀이나 앱 자체의 경험에 영향을 주지 않고 잠재적인 취약점을 신속하게 식별, 우선 순위 지정 및 대응할 수 있습니다. 우리는 Model Armor를 AI 애플리케이션을 보호하고 SCC 내에서 다른 보안 결과와 함께 AI 보안 위협 모니터링을 중앙 집중화하는 데 필수적인 것으로 보고 있으며, 이는 판도를 바꾸는 일입니다."라고 말했습니다.
조직은 Security Command Center에서 보안 상태를 적용하여 AI 보호를 사용하여 Vertex AI 애플리케이션의 보안을 강화할 수 있습니다. Vertex AI 아키텍처에 대한 1차 지식을 바탕으로 설계된 이러한 보안 상태 제어는 안전한 리소스 구성을 정의하고 조직이 드리프트 또는 무단 변경을 방지하도록 지원합니다.
AI 위협 관리
AI Protection은 Google 및 Mandiant의 보안 인텔리전스 및 연구를 운영하여 AI 시스템을 방어하도록 지원합니다. Security Command Center의 탐지기는 AI 워크로드에 대한 초기 액세스 시도, 권한 상승 및 지속성 시도를 발견하는 데 사용할 수 있습니다. 최신 최전선 인텔리전스를 기반으로 한 AI Protection의 새로운 탐지기는 기반 모델 하이재킹과 같은 런타임 위협을 식별하고 관리하는 데 도움을 주기 위해 곧 제공될 예정입니다.
IDC의 연구 책임자인 Grace Trinidad 박사는 "AI 기반 솔루션이 점점 보편화됨에 따라 AI 시스템을 보호하는 것은 가장 중요하며 기본 데이터 보호를 능가합니다. AI 보안은 본질적으로 모델 무결성, 데이터 출처, 규정 준수 및 강력한 거버넌스를 포함하는 전체적인 전략을 필요로 합니다."라고 말했습니다.
"단편적인 솔루션은 중요한 취약점을 노출시켜 조직이 적대적 공격 또는 데이터 포이즈닝과 같은 위협에 취약하게 만들고 보안 팀이 경험하는 압도적인 부담을 가중시킬 수 있습니다. 포괄적인 수명 주기 중심 접근 방식을 통해 조직은 생성형 AI로 인해 발생하는 다면적인 위험을 효과적으로 완화하고 점점 확장되는 보안 워크로드를 관리할 수 있습니다. Google Cloud는 AI 보호에 대한 전체적인 접근 방식을 취함으로써 고객을 위한 AI 보안 경험을 단순화하고 개선합니다."라고 그녀는 말했습니다.
사이버 현장 최전선에서 축적된 전문 지식으로 AI Protection 무장
Mandiant AI 보안 컨설팅 포트폴리오는 조직이 클라우드 및 플랫폼 전반에서 AI 시스템에 대한 강력한 보안 조치를 평가하고 구현하도록 지원하는 서비스를 제공합니다. 컨설턴트는 AI 구현의 엔드 투 엔드 보안을 평가하고 AI 시스템을 강화할 수 있는 기회를 추천할 수 있습니다. 또한 최전선 참여에서 확인된 AI 서비스에 대한 최신 공격 정보를 바탕으로 AI에 대한 레드 팀을 제공합니다.
안전한 기반 구축
고객은 AI 워크로드를 구축하고 실행하기 위해 Google Cloud의 인프라를 사용하는 이점을 누릴 수도 있습니다. 보안 설계, 기본 보안 클라우드 플랫폼은 여러 계층의 보호 장치, 암호화 및 엄격한 소프트웨어 공급망 제어 기능을 갖추고 있습니다.
AI 워크로드가 규제를 받는 고객을 위해 Assured Workloads를 제공하여 데이터 상주 및 고객 관리 암호화와 같은 제어를 적용하는 엄격한 정책 가드레일이 있는 제어된 환경을 쉽게 만들 수 있습니다. Audit Manager는 규제 및 새로운 AI 표준 준수 증거를 생성할 수 있습니다. Confidential Computing은 시스템 내의 권한 있는 사용자 또는 악의적인 행위자에 의해서도 무단 액세스 위험을 줄여 전체 처리 파이프라인에서 데이터가 보호되도록 지원할 수 있습니다.
또한 조직에서 직원들의 승인되지 않은 AI 사용 또는 섀도 AI를 발견하려는 경우 Chrome Enterprise Premium은 최종 사용자 활동에 대한 가시성을 제공하고 생성형 AI 애플리케이션에서 민감한 데이터의 우발적 및 의도적인 유출을 방지할 수 있습니다.
다음 단계
Google Cloud는 조직의 AI 혁신을 보호하기 위해 최선을 다하고 있습니다. Enterprise Strategy Group의 이 쇼케이스 백서에서 자세히 알아보고 3월 12일에 진행된 온라인 Security Talks 이벤트에서 확인해 보세요.
Security Command Center에서 AI Protection를 평가하고 구독 옵션을 살펴보려면 Google Cloud 영업 담당자 또는 공식 Google Cloud 파트너에게 문의하세요.
더욱 흥미로운 기능이 곧 출시될 예정이며, 4월 9일부터 11일까지 라스베이거스에서 열리는 Google Cloud Next에서 AI Protection 및 Google Cloud가 AI 솔루션을 안전하게 개발하고 배포하는 데 어떻게 도움을 줄 수 있는지에 대한 자세한 내용을 공유할 예정입니다.
