더 스마트한 감사(Audit): Google Cloud의 권장 AI 제어 프레임워크 소개

해당 블로그의 원문은 2025년 6월 26일 Google Cloud 블로그(영문)에 게재되었습니다. 

조직이 비즈니스 워크플로우를 자동화하기 위해 새로운 생성형 AI 애플리케이션 및 AI 에이전트를 구축함에 따라, 보안 및 위험 관리 리더들은 새로운 거버넌스 과제에 직면하고 있습니다. AI 모델과 에이전트의 복잡하고 종종 불투명한 특성은 방대한 데이터세트에 대한 의존 및 자율적 행동의 잠재력과 결합되어, 더 나은 거버넌스, 위험 관리, 규제 준수(GRC) 통제를 적용해야 하는 긴급한 필요성을 만듭니다.

오늘날의 표준 규제 준수 관행은 AI의 속도를 따라잡기 어려워 다음과 같은 중요한 질문에 답하지 못하고 있습니다.

• AI 시스템이 내부 정책 및 진화하는 규정을 준수하며 운영되고 있다는 것을 어떻게 증명할 수 있을까요?

• 훈련부터 추론, 대규모 프로덕션에 이르기까지 전체 AI 수명 주기 동안 데이터 접근 제어가 일관되게 시행되고 있다는 것을 어떻게 확인할 수 있을까요?

• 모델의 무결성과 모델이 다루는 민감한 데이터를 입증하기 위한 메커니즘은 무엇일까요?

이러한 질문에 답하기 위해서는 수동적인 확인 이상의 것이 필요하며, 이것이 바로 Google Cloud가 '권장 AI 제어 프레임워크(Recommended AI Controls framework)'라는 확장 가능하고 증거 기반의 자동화된 접근 방식을 개발한 이유입니다. 이 프레임워크는 이제 독립형 서비스로, 그리고 Security Command Center의 일부로도 제공됩니다.

The challenge of auditing a modern AI workload

AI 감사에는 여러 가지 어려움이 있습니다. 일반적인 생성형 AI 워크로드는 Vertex AI 같은 AI 전용 플랫폼과 Cloud Storage, IAM(dentity and Access Management), Secret Manager, Cloud Logging, VPC Networks 같은 기본 플랫폼 서비스가 통합된 복잡한 생태계이기 때문입니다.

Google Cloud의 AI 보호(AI Protection)는 개발 및 훈련부터 런타임 및 대규모 프로덕션에 이르기까지 AI 워크로드의 전체 수명 주기 동안 안전 및 보안 기능을 제공합니다. 이와 더불어, AI 워크로드를 보호하는 것뿐만 아니라 규정 준수 여부를 감사하고, AI 자산에 대한 제어를 정의하며, 변화를 모니터링하는 것도 매우 중요합니다. Google Cloud는 이러한 플랫폼 구성 요소에 대한 모범 사례를 정의하기 위해 보다 전체론적인 접근 방식을 채택했습니다.

권장 AI 제어 프레임워크가 감사 AI 워크로드를 지원하는 방법

Audit Manager는 AI 규정 준수 및 감사 프로세스를 운영 워크플로우에 직접 통합하여 규정 준수 문제를 더 빨리 파악할 수 있도록 돕습니다. 다음은 수동 체크리스트에서 벗어나 생성형 AI 워크로드에 대한 자동화된 보증으로 전환하는 방법입니다.

1. 보안 제어 기준선 설정: Audit Manager는 생성형 AI 워크로드에 대한 감사 기준선을 제공합니다. 이 기준선은 업계 모범 사례와 프레임워크를 기반으로 하며, 감사에 대한 명확하고 추적 가능한 지침을 제공합니다.

2. 제어 책임 이해: Google의 공동 운명 모델(shared fate approach)에 맞춰, 이 프레임워크는 각 제어에 대한 책임을 이해하도록 돕습니다. 즉, 고객이 관리하는 부분과 클라우드 플랫폼이 제공하는 부분을 명확히 구분하여 노력을 효과적으로 집중할 수 있도록 합니다

3. 자동화된 증거 수집으로 감사 실행: 생성형 AI 워크로드를 업계 표준 기술 제어에 대해 간단하고 자동화된 방식으로 평가합니다. Audit Manager는 Vertex AI 사용 및 지원 서비스에 대해 정의된 제어와 관련된 증거를 자동으로 수집하여 수동 감사 준비 작업을 줄일 수 있습니다.

4. 결과 평가 및 해결: 감사 보고서는 제어 위반 및 권장 모범 사례와의 편차를 강조합니다. 이는 사소한 문제가 중요한 위험으로 확대되기 전에 팀이 적시에 해결책을 마련하는 데 도움이 됩니다.

5. 보고서 생성 및 공유: 클릭 한 번으로 증거 기반의 포괄적인 보고서를 생성하고 공유할 수 있어 내부 이해관계자 및 외부 감사인과 함께 지속적인 규정 준수 모니터링 노력을 지원합니다.

6. 지속적인 모니터링 활성화: 일회성 스냅샷을 넘어섭니다. 정기적인 평가를 예약하여 지속적인 규정 준수를 위한 일관된 방법론을 수립하세요. 이를 통해 AI 모델 사용, 권한, 구성을 모범 사례와 비교하여 지속적으로 모니터링할 수 있으며, 시간이 지남에 따라 강력한 GRC 태세를 유지하는 데 도움이 됩니다.

AI 제어 프레임워크 해부하기

이 프레임워크는 중요한 보안 도메인에 걸쳐 매핑된, 생성형 AI 워크로드에 특별히 설계된 제어를 제공합니다. 중요한 것은 이러한 높은 수준의 원칙들이 Vertex AI와 지원 Google Cloud 서비스의 데이터 소스와 직접 연결된 감사 가능한 기술적 확인을 통해 뒷받침된다는 것입니다.

포함된 제어의 몇 가지 예시는 다음과 같습니다.

• 접근 제어:

  • 기본 서비스 계정에 대한 자동 IAM 부여 비활성화: 이 제어는 과도한 권한을 가진 기본 서비스 계정을 제한합니다.

  • 새로운 Vertex AI Workbench 사용자 관리형 노트북 및 인스턴스에 대한 루트 접근 비활성화: 이 부울 제약 조건은 적용 시 새로 생성된 Vertex AI Workbench 사용자 관리형 노트북 및 인스턴스가 루트 접근을 활성화하지 못하도록 방지합니다. 기본적으로 루트 접근은 활성화되어 있습니다.

• 데이터 제어

  • 고객 관리형 암호화 키(CMEK): Google Cloud는 조직 전체에 CMEK 사용을 보장하는 조직 정책 제약 조건을 제공합니다. Cloud KMS CMEK를 사용하면 Google Cloud에 저장된 데이터를 보호하는 키의 소유권과 제어권을 가질 수 있습니다.

  • 데이터 접근 제어 목록 구성: 사용자의 '알아야 할 필요성(need to know)'에 따라 이 목록을 맞춤화할 수 있습니다. 데이터 접근 제어 목록(접근 권한)을 로컬 및 원격 파일 시스템, 데이터베이스, 애플리케이션에 적용하세요.

• 시스템 및 정보 무결성

  • 취약점 스캐닝: 저희 Artifact Analysis 서비스는 Artifact Registry의 이미지 및 패키지에 대한 취약점을 스캔합니다.

• 감사 및 책임

  • 감사 및 책임 정책 및 절차 요구 사항: Google Cloud 서비스는 Google Cloud 리소스를 누가, 무엇을, 어디서, 언제 했는지 추적하기 위해 감사 로그 항목을 작성합니다.

• 구성 관리:

  • 리소스 서비스 사용 제한: 이 제약 조건은 고객이 승인한 Google Cloud 서비스만 올바른 위치에서 사용되도록 보장합니다. 예를 들어, 프로덕션 및 고감도 폴더에는 데이터를 저장하도록 승인된 Google Cloud 서비스 목록이 있습니다. 샌드박스 폴더는 데이터 침해 시 데이터 유출을 방지하기 위한 데이터 보안 제어와 함께 더 허용적인 서비스 목록을 가질 수 있습니다.

3 단계로 AI 감사 자동화하는 방법

보안 및 규정 준수 팀은 이 프레임워크를 즉시 사용하여 수동 체크리스트에서 자동화되고 지속적인 보증으로 전환할 수 있습니다.

지금 바로 AI 감사 프로세스를 자동화 하세요. 

Google Cloud 콘솔에서 '규정 준수(Compliance)' 탭으로 이동한 다음, Audit Manager'를 선택하세요. Audit Manager 사용에 대한 포괄적인 가이드는 상세 제품 문서를 참조해 주세요.

Audit Manager의 사용자 경험 개선을 위해 이 서비스에 대한 여러분의 피드백을 공유해 주시면 감사하겠습니다.