AI 보호 개요

AI Protection은 위협을 감지하고 AI 애셋 인벤토리의 위험을 완화하는 데 도움을 주어 AI 워크로드의 보안 상황을 관리하는 데 도움이 됩니다. 이 문서에서는 AI 보호의 이점과 몇 가지 주요 개념을 비롯하여 AI 보호에 대한 일반적인 개요를 제공합니다.

AI 보호 개요

AI Protection은 다음과 같은 AI 시스템의 위협과 위험을 관리하는 데 도움이 되는 여러 기능을 제공합니다.

  • AI 인벤토리 평가: 모델과 데이터 세트를 비롯한 AI 시스템과 AI 애셋을 평가하고 파악합니다.
  • 위험 및 규정 준수 관리: AI 애셋의 위험을 선제적으로 관리하고 AI 배포가 관련 보안 표준을 준수하는지 확인합니다.
  • 법적 및 재정적 위험 완화: 보안 침해 및 규정 미준수와 관련된 재정적, 평판, 법적 위험을 줄입니다.
  • 위협 감지 및 관리: AI 시스템 및 자산에 대한 잠재적 위협을 적시에 감지하고 대응합니다.
  • 하나의 대시보드에서 보기: 중앙 집중식 대시보드 하나에서 AI 관련 위험과 위협을 모두 관리합니다.

사용 사례

AI Protection은 조직이 AI 시스템 및 민감한 데이터와 관련된 위협과 위험을 식별하고 완화하여 보안을 강화하는 데 도움이 됩니다. 다음 사용 사례는 다양한 조직에서 AI 보호를 사용할 수 있는 방법을 보여주는 예입니다.

  • 금융 서비스 기관: 고객 금융 데이터

    한 대형 금융 서비스 기관에서는 민감한 금융 데이터를 처리하는 AI 모델을 사용합니다.

    • 문제: AI 모델로 매우 민감한 금융 데이터를 처리하면 데이터 유출, 학습 또는 추론 중 데이터 무단 반출, 기본 AI 인프라의 취약점 등 여러 위험이 발생합니다.
    • 사용 사례: AI Protection은 의심스러운 활동이 있는지 AI 워크플로를 지속적으로 모니터링하고, 승인되지 않은 데이터 액세스 및 비정상적인 모델 동작을 감지하며, 민감한 정보 분류를 수행하고, PCI DSS 및 GDPR과 같은 규정 준수를 개선하는 데 도움을 줍니다.

  • 의료 기관: 환자 개인 정보 보호 및 규정 준수

    한 대형 의료 서비스 제공업체는 전자 건강 기록을 관리하고 진단 및 치료 계획에 AI를 사용하여 보호 건강 정보 (PHI)를 처리합니다.

    • 문제: AI 모델에서 분석한 PHI는 HIPAA와 같은 엄격한 규정을 준수해야 합니다. 위험에는 잘못된 구성 또는 환자 데이터를 위해 AI 시스템을 타겟팅하는 악의적인 공격을 통한 우발적인 PHI 노출이 포함됩니다.
    • 사용 사례: AI Protection은 잠재적인 HIPAA 위반을 식별하고 알림을 제공하며, 모델 또는 사용자의 무단 PHI 액세스를 감지하고, 취약하고 잘못 구성되었을 수 있는 AI 서비스를 플래그하고, 데이터 유출을 모니터링합니다.

  • 제조 및 로봇 공학 회사: 독점 지식 재산

    고급 로봇 공학 및 자동화를 전문으로 하는 제조 회사는 생산 라인과 로봇 제어를 최적화하기 위해 AI에 크게 의존하며, AI 알고리즘과 제조 데이터에 중요한 지식 재산 (IP)이 내장되어 있습니다.

    • 문제: 독점 AI 알고리즘과 민감한 운영 데이터는 내부자 위협이나 외부 적의 절도에 취약하여 경쟁 우위가 저하되거나 운영이 중단될 수 있습니다.
    • 사용 사례: AI Protection은 AI 모델 및 코드 저장소에 대한 무단 액세스를 모니터링하고, 학습된 모델의 무단 반출 시도 및 비정상적인 데이터 액세스 패턴을 감지하고, AI 개발 환경의 취약점을 신고하여 IP 도용을 방지합니다.

Event Threat Detection 규칙

다음 Event Threat Detection 규칙은 Vertex AI 애셋에 대한 감지를 실행합니다.

  • 지속성: 새로운 AI API 메서드
  • 지속성: AI 서비스의 새로운 지역
  • 권한 에스컬레이션: AI 관리자 활동을 위한 비정상적인 서비스 계정 가장
  • 권한 에스컬레이션: AI 데이터 액세스를 위한 비정상적인 서비스 계정 가장
  • 권한 에스컬레이션: AI 관리자 활동을 위한 비정상적인 다단계 서비스 계정 위임
  • 권한 에스컬레이션: AI 데이터 액세스를 위한 비정상적인 다단계 서비스 계정 위임
  • 권한 에스컬레이션: AI 관리자 활동을 위한 비정상적인 서비스 계정 가장
  • 초기 액세스: AI 서비스의 휴면 서비스 계정 활동

Event Threat Detection에 대한 자세한 내용은 Event Threat Detection 개요를 참고하세요.

AI 보호 프레임워크

AI Protection은 탐지 모드에서 자동으로 배포되는 특정 클라우드 컨트롤이 포함된 프레임워크로 구성됩니다. 탐지 모드는 모니터링 목적으로 정의된 리소스에 클라우드 제어가 적용됨을 의미합니다. 위반사항이 감지되고 알림이 생성됩니다. 프레임워크 및 클라우드 컨트롤을 사용하여 AI 보호 요구사항을 정의하고 이러한 요구사항을 Google Cloud 환경에 적용합니다. AI 보호에는 AI 보호를 위한 권장 기준 제어를 정의하는 기본 프레임워크가 포함되어 있습니다. AI Protection을 사용 설정하면 기본 프레임워크가 탐지 모드의 Google Cloud 조직에 자동으로 적용됩니다.

필요한 경우 프레임워크의 사본을 만들어 맞춤 AI 보호 프레임워크를 만들 수 있습니다. 커스텀 프레임워크에 클라우드 컨트롤을 추가하고 조직, 폴더 또는 프로젝트에 커스텀 프레임워크를 적용할 수 있습니다. 예를 들어 특정 폴더 내의 데이터가 특정 지리적 지역 내에 유지되도록 특정 폴더에 특정 관할권 컨트롤을 적용하는 맞춤 프레임워크를 만들 수 있습니다.

기본 AI 보호 프레임워크의 클라우드 컨트롤

다음 클라우드 컨트롤은 기본 AI Protection 프레임워크의 일부입니다.

클라우드 제어 이름 설명

Vertex AI Workbench 인스턴스의 기본 VPC 네트워크 차단

권한이 과도하게 부여된 기본 방화벽 규칙의 사용을 방지하기 위해 기본 VPC 네트워크에서 Workbench 인스턴스를 만들지 마세요.

JupyterLab 콘솔에서 파일 다운로드 차단

데이터 무단 반출 위험을 줄이고 멀웨어 배포를 방지하기 위해 워크벤치 인스턴스의 JupyterLab 콘솔에서 파일 다운로드를 허용하지 마세요.

Vertex AI 런타임 템플릿의 인터넷 액세스 차단

외부 공격 표면을 줄이고 잠재적인 데이터 유출을 방지하기 위해 Colab Enterprise 런타임 템플릿에서 인터넷 액세스를 허용하지 마세요.

Vertex AI Workbench 인스턴스의 공개 IP 주소 차단

인터넷 노출을 줄이고 무단 액세스 위험을 최소화하기 위해 Workbench 인스턴스의 외부 IP 주소를 허용하지 마세요.

Vertex AI Workbench 인스턴스에서 루트 액세스 차단

중요한 시스템 파일의 무단 수정이나 악성 소프트웨어 설치를 방지하기 위해 Workbench 인스턴스에서 루트 액세스를 허용하지 마세요.

Vertex AI Workbench 인스턴스의 자동 업그레이드 사용 설정

최신 기능, 프레임워크 업데이트, 보안 패치를 사용할 수 있도록 Workbench 인스턴스의 자동 업그레이드를 사용 설정하세요.

Vertex AI 커스텀 작업에 CMEK 사용 설정

Vertex AI 맞춤 학습 작업에 고객 관리 암호화 키 (CMEK)를 요구하여 작업 입력 및 출력의 암호화를 더 효과적으로 제어할 수 있습니다.

Vertex AI 데이터 세트의 CMEK 사용 설정

데이터 암호화 및 키 관리를 더 효과적으로 제어하려면 Vertex AI 데이터 세트에 고객 관리 암호화 키 (CMEK)가 필요합니다.

Vertex AI 엔드포인트에 CMEK 사용 설정

배포된 모델의 암호화를 더 세부적으로 제어하고 데이터 액세스를 제어하려면 Vertex AI 엔드포인트에 고객 관리 암호화 키 (CMEK)가 필요합니다.

Vertex AI Featurestore의 CMEK 사용 설정

데이터 암호화 및 액세스를 더 효과적으로 제어하려면 Vertex AI Feature Store에 고객 관리 암호화 키 (CMEK)가 필요합니다.

Vertex AI 하이퍼파라미터 조정 작업에 CMEK 사용 설정

모델 학습 데이터 및 작업 구성의 암호화를 더 효과적으로 제어하려면 초매개변수 조정 작업에 고객 관리 암호화 키 (CMEK)가 필요합니다.

Vertex AI 메타데이터 스토어에 CMEK 사용 설정

Vertex AI 메타데이터 스토어에 고객 관리 암호화 키 (CMEK)를 요구하여 메타데이터 암호화를 더 세부적으로 제어하고 액세스를 제어합니다.

Vertex AI 모델의 CMEK 사용 설정

데이터 암호화 및 키 관리를 더 세부적으로 제어하려면 Vertex AI 모델에 고객 관리 암호화 키 (CMEK)를 사용해야 합니다.

Vertex AI Notebook 런타임 템플릿에 CMEK 사용 설정

런타임 환경 및 연결된 데이터를 보호하기 위해 Colab Enterprise 런타임 템플릿에 고객 관리 암호화 키 (CMEK)가 필요합니다.

Vertex AI TensorBoard에 CMEK 사용 설정

실험 데이터 및 모델 시각화의 암호화를 더 효과적으로 제어하려면 Vertex AI TensorBoard에 고객 관리 암호화 키 (CMEK)가 필요합니다.

Vertex AI 학습 파이프라인의 CMEK 사용 설정

Vertex AI 학습 파이프라인에서 고객 관리 암호화 키 (CMEK)를 요구하여 학습 데이터와 결과 아티팩트의 암호화를 더 효과적으로 제어할 수 있습니다.

Vertex AI Workbench 인스턴스에 CMEK 사용 설정

데이터 암호화를 더 효과적으로 제어하려면 Vertex AI Workbench 인스턴스에 고객 관리 암호화 키 (CMEK)가 필요합니다.

Vertex AI Workbench 인스턴스에서 휴지통으로 삭제 기능 사용 설정

Workbench 인스턴스에 휴지통으로 삭제 메타데이터 기능을 사용 설정하여 중요한 복구 안전망을 제공하고 실수로 인한 데이터 손실을 방지하세요.

Vertex AI 런타임 템플릿의 유휴 종료 사용 설정

Colab Enterprise 런타임 템플릿에서 자동 유휴 종료를 사용 설정하여 클라우드 비용을 최적화하고, 리소스 관리를 개선하고, 보안을 강화하세요.

Vertex AI Workbench 인스턴스에 무결성 모니터링 사용 설정

Workbench 인스턴스에서 무결성 모니터링을 사용 설정하여 신뢰할 수 있는 기준에 대해 VM의 부팅 무결성을 지속적으로 증명합니다.

Vertex AI 런타임 템플릿에 보안 부트 사용 설정

Colab Enterprise 런타임 템플릿에서 보안 부팅을 사용 설정하여 승인되지 않은 코드 실행을 방지하고 운영체제 무결성을 보호하세요.

Vertex AI Workbench 인스턴스에 대해 보안 부트 사용 설정

워크벤치 인스턴스에 보안 부팅을 사용 설정하여 부팅 프로세스 중에 승인되지 않은 소프트웨어나 악성 소프트웨어가 실행되지 않도록 합니다.

Vertex AI Workbench 인스턴스에서 vTPM 사용 설정

Workbench 인스턴스에서 가상 신뢰 플랫폼 모듈 (vTPM)을 사용 설정하여 부팅 프로세스를 보호하고 암호화를 더 효과적으로 관리하세요.

Vertex AI Workbench 인스턴스의 기본 서비스 계정 사용 제한

Workbench 인스턴스에 대해 권한이 매우 많은 기본 서비스 계정의 사용을 제한하여 Google Cloud서비스에 대한 무단 액세스 위험을 줄입니다.

지원되는 기능 영역

이 섹션에서는 AI Protection이 보안을 유지하는 데 도움이 되는 기능 영역을 정의합니다.

  • AI 워크로드: AI 애플리케이션 워크로드는 직원 생산성 향상을 목표로 하는 내부 도구부터 사용자 경험을 개선하고 비즈니스를 추진하도록 설계된 소비자 대상 솔루션까지 다양합니다. 예로는 AI 에이전트, 가상 어시스턴트, 대화형 AI 챗봇, 맞춤 추천이 있습니다.
  • AI 모델: AI 모델은 기본 AI 모델, 미세 조정된 AI 모델, 표준 퍼스트 파티 AI 모델, 맞춤 AI 모델로 분류됩니다. Gemini, Llama, 번역 모델, 특정 작업을 위한 맞춤 모델을 예로 들 수 있습니다.
  • AI 애셋: AI 애셋은 머신러닝 작업 파이프라인에 기여하며 AI 워크로드에서 사용됩니다. AI 애셋 유형은 다음과 같습니다.
    • 선언적 AI 애셋: Vertex AI와 같은 AI 수명 주기 관리 도구는 이러한 애셋을 추적합니다.
    • 추론된 AI 애셋: AI 데이터 또는 워크로드를 처리하는 데 사용되는 컴퓨팅 및 스토리지 애셋과 같은 범용 애셋입니다.
    • 서비스형 모델 (API 전용): 퍼스트 파티 또는 서드 파티 AI 모델에 대한 프로그래매틱 호출이 있는 애셋입니다.

AI 보안 대시보드 사용하기

AI 보안 대시보드에서는 조직의 AI 애셋 인벤토리를 포괄적으로 파악하고 위험 및 위협 관리를 강화하기 위한 잠재적 완화 조치를 제안합니다.

대시보드에 액세스

AI 보안 대시보드에 액세스하려면 Google Cloud 콘솔에서 위험 개요 > AI 보안으로 이동합니다.

자세한 내용은 AI 보안 대시보드를 참고하세요.

위험 정보 이해

이 섹션에서는 AI 시스템과 관련된 잠재적 위험에 관한 정보를 제공합니다. AI 인벤토리의 주요 위험을 확인할 수 있습니다.

문제를 클릭하면 문제의 시각화를 제공하는 세부정보 창이 열립니다.

AI 위협 보기

이 섹션에서는 AI 시스템과 관련된 위협에 대한 유용한 정보를 제공합니다. AI 리소스와 관련된 최근 위협 상위 5개를 확인할 수 있습니다.

이 페이지에서는 다음 작업을 할 수 있습니다.

  • 모두 보기를 클릭하여 AI 리소스와 관련된 위협을 확인합니다.
  • 위협을 클릭하면 위협에 관한 자세한 내용을 확인할 수 있습니다.

인벤토리 시각화

생성형 AI가 포함된 프로젝트, 활성 상태로 사용 중인 퍼스트 파티 및 서드 파티 모델, 서드 파티 모델 학습에 사용되는 데이터 세트의 요약을 제공하는 대시보드에서 AI 인벤토리 시각화를 볼 수 있습니다.

이 페이지에서는 다음 작업을 할 수 있습니다.

  • 인벤토리 세부정보 페이지를 보려면 시각화에서 노드를 클릭합니다.
  • 기본 모델, 맞춤 빌드 모델과 같은 개별 애셋의 자세한 목록을 보려면 도움말을 클릭합니다.
  • 모델의 세부정보를 열려면 모델을 클릭합니다. 이 뷰에는 모델이 호스팅되는 엔드포인트, 모델을 학습하는 데 사용된 데이터 세트와 같은 세부정보가 표시됩니다. Sensitive Data Protection이 사용 설정된 경우 데이터 세트에 민감한 데이터가 포함되어 있으면 데이터 세트 뷰도 표시됩니다.

발견 항목 요약 검토

이 섹션에서는 AI 프레임워크 및 데이터 보안 정책에서 생성된 발견 항목을 평가하고 관리하는 방법을 설명합니다. 이 섹션에는 다음이 포함됩니다.

  • 발견 항목: 이 섹션에는 AI 보안 정책 및 데이터 보안 정책에 의해 생성된 발견 항목의 요약이 표시됩니다. 모든 발견 항목 보기를 클릭하거나 각 발견 항목 카테고리의 개수를 클릭하여 발견 항목 세부정보 페이지를 확인합니다. 발견 항목을 클릭하면 해당 발견 항목에 관한 추가 정보가 표시됩니다.
  • Vertex AI 데이터 세트의 민감한 정보: 이 섹션에는 Sensitive Data Protection에서 보고한 데이터 세트의 민감한 정보를 기반으로 한 발견 항목의 요약이 표시됩니다.

Model Armor 발견 항목 검사

그래프에는 Model Armor에서 스캔한 프롬프트 또는 대답의 총수와 Model Armor에서 감지한 문제 수가 표시됩니다. 또한 프롬프트 삽입, 브레이크아웃 감지, 민감한 정보 감지와 같이 감지된 다양한 유형의 문제에 대한 요약 통계를 표시합니다.

이 정보는 Model Armor가 Cloud Monitoring에 게시하는 측정항목을 기반으로 채워집니다.

다음 단계