Confidential Computing: 신뢰할 수 있는 AI의 토대를 구축하는 방법

* 해당 블로그의 원문은 2025년 5월 23일 Google Cloud 블로그(영문)에 게재되었습니다. 

기밀 컴퓨팅(Confidential Computing)은 조직이 클라우드에서 민감한 워크로드를 안전하게 처리하는 방식을 혁신했습니다. 하드웨어 생태계의 성장은 새로운 도입 물결을 촉진하여, 고객이 기밀 컴퓨팅을 활용하여 개인 정보 보호 AI 구축 및 다자간 데이터 분석 보안과 같은 최첨단 용도를 지원할 수 있도록 합니다.

우리는 최신 기밀 컴퓨팅 혁신을 공유하게 되어 매우 기쁘며, 고객이 기밀 컴퓨팅을 창의적인 방식으로 활용하여 AI 워크로드를 포함한 가장 민감한 워크로드를 보호하는 방법을 강조합니다.

작년의 기반 작업을 바탕으로, 인텔, AMD, 엔비디아(NVIDIA)를 포함한 업계 선두 주자들과의 긴밀한 협력을 통해 놀라운 발전을 이루었습니다. 우리는 함께 기밀 컴퓨팅의 범위를 크게 확장하여 최신 세대 CPU에 중요한 보안 기능을 내장하고 고성능 GPU로까지 확장했습니다.

AI 워크로드를 위한 NVIDIA H100 GPU 기반 기밀 VM 및 GKE 노드 (미리보기)

기밀 컴퓨팅의 지속적이고 최우선적인 목표는 보안 컴퓨팅 기능을 확장하는 것입니다.

작년에 우리는 NVIDIA H100 GPUs가 탑재된 가속기 최적화 A3 머신 시리즈에 기밀 가상 머신(Confidential Virtual Machines)을 공개하여, 하드웨어 기반 데이터 보호를 CPU에서 GPU로 확장했습니다. 기밀 VM은 데이터 사용 중 보호된 GPU를 사용하여 인공지능, 머신러닝 및 과학 시뮬레이션 워크로드의 기밀성 및 무결성을 보장하는 데 도움이 될 수 있습니다.

이러한 기밀 GPU는 현재 Confidential VMs 및 Confidential Google Kubernetes Engine(GKE) 노드에서 미리보기로 제공됩니다. 이는 규제 산업 및 협업 AI 개발에서 혁신을 위한 새로운 기회를 창출하는 데 도움이 될 수 있습니다.

엔비디아 소프트웨어 제품 보안 담당 부사장인 다니엘 로러(Daniel Rohrer)는 "AI 및 에이전트 워크플로우는 비즈니스의 모든 측면을 가속화하고 변화시키고 있습니다. 이러한 기술이 일상 업무의 핵심으로 통합됨에 따라 데이터 보안 및 지적 재산 보호는 기업, 연구원 및 정부에 있어 핵심 고려 사항입니다. 데이터 및 모델 소유자가 데이터 여정을 직접 제어할 수 있도록 하는 엔비디아의 기밀 컴퓨팅은 가속 컴퓨팅을 위한 고급 하드웨어 기반 보안을 제공하여 혁신적인 AI 솔루션 및 서비스를 생성하고 채택할 때 더 큰 신뢰를 줍니다."라고 말했습니다.”

기밀 Vertex AI Workbench 미리보기

저희는 Vertex AI에서 기밀 컴퓨팅 지원을 확대하고 있습니다. 이제 Vertex AI Workbench 고객은 기밀 컴퓨팅을 사용하여 데이터 프라이버시 요구 사항을 강화할 수 있으며, 현재 미리보기로 제공됩니다. 이 통합은 몇 번의 클릭만으로 향상된 프라이버시와 기밀성을 제공합니다.

Intel TDX 기반 기밀 공간(Confidential Space) (정식 출시) 및 NVIDIA H100 GPU (미리보기)

Intel® Trust Domain Extensions (Intel® TDX) 기술이 적용된 범용 C3 머신 시리즈에서 기밀 공간(Confidential Space)이 이제 정식 출시되었음을 발표하게 되어 기쁩니다. 또한, NVIDIA H100 GPU가 적용된 가속기 최적화 A3 머신 시리즈에서도 곧 미리보기로 출시될 예정입니다.

Google Cloud의 기밀 컴퓨팅 포트폴리오를 기반으로 구축된 기밀 공간(Confidential Space)은 신뢰 실행 환경(TEE)으로도 알려진 보안 엔클레이브를 제공하며, Google Cloud 고객은 이를 공동 데이터 분석, 공동 머신러닝(ML) 모델 학습 또는 독점 ML 모델의 보안 공유와 같은 개인 정보 보호 중심 애플리케이션에 사용할 수 있습니다.

중요하게도, 기밀 공간(Confidential Space)은 관련된 모든 당사자의 데이터를 보호하도록 설계되었으며, 환경 운영자를 신뢰 경계에서 제거하고 클라우드 서비스 공급자의 접근에 대한 강화된 보호 기능을 제공합니다. 이러한 속성은 조직이 내부자 위협으로부터 제품을 강화하고 궁극적으로 고객에게 더 강력한 데이터 프라이버시 보장을 제공하는 데 도움이 될 수 있습니다.

Intel TDX 및 내장 가속 기능이 탑재된 C3 머신 기반 기밀 GKE 노드 (정식 출시)

이제 Intel TDX가 적용된 Confidential GKE Nodes가 정식 출시되었습니다. 이 노드는 4세대 Intel Xeon Scalable 프로세서(코드명 Sapphire Rapids)로 구동되는 범용 C3 머신 시리즈를 기반으로 하며, Intel Advanced Matrix Extensions (Intel AMX)가 내장되어 기본적으로 활성화됩니다.

Intel TDX를 사용하는 기밀 GKE 노드는 호스트 및 하이퍼바이저로부터 노드에 추가적인 격리 계층을 제공하여 광범위한 소프트웨어 및 하드웨어 공격으로부터 노드를 보호합니다.

인텔의 보안 소프트웨어 및 서비스 담당 부사장 겸 총괄 관리자인 Anand Pashupathy는 "인텔 제온 프로세서는 특히 Intel AMX 가속 기능과 함께 많은 머신러닝 및 AI 추론 워크로드에 뛰어난 성능과 가치를 제공합니다"라고 말했습니다. 그는 또한 "Google Cloud의 C3 머신 시리즈는 AI 및 기타 워크로드에서 성능을 인상 깊게 보여줄 뿐만 아니라 사용자의 데이터 기밀성도 보호할 것입니다"라고 덧붙였습니다.

AMD SEV-SNP 기반 N2D 머신에서 기밀 GKE 노드 (정식 출시)

이제 AMD Secure Encrypted Virtualization-Secure Nested Paging (AMD SEV-SNP) 기술이 적용된 기밀 GKE 노드가 정식 출시되었습니다. 이 노드는 범용 N2D 머신 시리즈를 사용하며 3세대 AMD EPYC™ (코드명 Milan) 프로세서에서 실행됩니다. AMD SEV-SNP가 적용된 기밀 GKE 노드는 워크로드가 보안 하드웨어에서 실행되고 암호화되어 있다는 보장을 통해 클라우드 워크로드에 대한 보안을 제공합니다.

AMD SEV 기반 C4D 머신에서 기밀 VM 미리보기

C4D 머신 시리즈는 5세대 AMD EPYC™ (코드명 Turin) 프로세서로 구동되며 Google의 Titanium 하드웨어로 최적의 안정적이고 일관된 성능을 제공하도록 설계되었습니다.

현재 N2D, C2D, C3D와 같은 AMD 머신 패밀리에서 기밀 컴퓨팅을 전 세계적으로 사용할 수 있습니다. AMD Secure Encrypted Virtualization (AMD SEV) 기술이 적용된 범용 C4D 머신 시리즈의 기밀 VM이 오늘 미리보기로 제공되며, 곧 정식 출시될 예정임을 알려드리게 되어 기쁩니다.

기밀 컴퓨팅으로 새로운 사용 사례 발굴

조직이 비즈니스 혁신을 위해 기밀 컴퓨팅을 활용하는 모든 주요 산업 분야에서 그 영향력을 목격하고 있습니다.

AiGenomix

AiGenomix는 Google Cloud 기밀 컴퓨팅을 활용하여 공공 및 민간 부문의 글로벌 협력 생태계와 함께 고도로 차별화된 감염병 감시, 조기 암 진단 및 치료 지능을 제공하고 있습니다.

AiGenomix의 생물 정보학 책임자인 조나단 몽크(Jonathan Monk) 박사는 "저희 고객들은 병원체에 대한 극도로 민감한 데이터를 다루고 있습니다. 환자 정보 및 개인 맞춤형 치료법과 같은 관련 데이터 세트가 추가되면 규정 준수의 복잡성이 더욱 커집니다. 병원체, 환자의 유전체 및 관련 건강 데이터 자산의 프라이버시와 보안을 유지하는 것은 고객과 파트너에게 필수 요구 사항입니다"라고 말했습니다.

AiGenomix의 최고 AI 전략가인 Harsh Sharma 박사는 "Google Cloud 기밀 컴퓨팅을 활용한 당사의 Trusted AI for Healthcare 솔루션은 자산과 프로세스가 안전하고 규정을 준수하도록 보장함으로써 글로벌 도입 가속화를 위한 장벽을 극복합니다. 이를 통해 우리는 감염병 및 약물 내성으로 인한 생명 및 생계 손실이라는 끊임없이 증가하는 위험을 완화하는 데 기여할 수 있습니다"라고 말했습니다.

Google Ads 
Google Ads has introduced confidential matching to securely connect customers’ first-party data for their marketing. This marks the first use of Confidential Computing in Google Ads products, and there are plans to bring this privacy-enhancing technology to more products over time.

Google Ads는 고객의 마케팅을 위해 고객의 자사 데이터를 안전하게 연결하기 위해 기밀 매칭을 도입했습니다. 이는 Google Ads 제품에서 기밀 컴퓨팅을 처음 사용한 사례이며, 시간이 지남에 따라 이 개인 정보 보호 강화 기술을 더 많은 제품에 적용할 계획입니다.

Google Ads 측정 제품 관리 담당 선임 이사인 Kamal Janardhan은 "기밀 매칭은 이제 Google Ads Data Manager를 포함한 고객 일치(Customer Match)를 위한 모든 데이터 연결에 기본적으로 적용됩니다. 귀하의 조치는 필요하지 않습니다. 매우 엄격한 데이터 정책을 가진 광고주에게는 데이터가 서버를 떠나기 전에 직접 암호화할 수 있는 기능도 의미합니다"라고 말했습니다.

Google Ads는 광고주를 위한 새로운 Google 태그 게이트웨이와 같이 더 많은 서비스에 걸쳐 기밀 컴퓨팅을 추가적으로 통합할 계획입니다. 이 업데이트는 마케터에게 브라우저에서 기본적으로 암호화된 전환 태그 데이터를 추가 비용 없이 제공할 것입니다. 광고주를 위한 Google 태그 게이트웨이는 성능 향상을 이끌어내고 광고주의 측정 신호의 탄력성을 강화하는 동시에, 데이터가 수집 및 처리되는 방식에 대한 보안을 강화하고 투명성을 높이는 데 도움이 될 수 있습니다.

Swift

Swift는 돈세탁 감지 모델을 구동하는 동시에 일부 대형 은행의 민감한 데이터가 완전히 비공개로 유지되도록 기밀 컴퓨팅을 사용하고 있습니다.

Swift의 인공 지능 책임자인 레이첼 레비(Rachel Levi)는 "우리는 안전하고 확장 가능한 방식으로 전체 기관 커뮤니티의 과거 사기 데이터를 기반으로 학습된 글로벌 이상 감지 모델을 구축하기 위해 최신 기술을 활용하는 방법을 모색하고 있습니다. 은행 커뮤니티와 함께 Google Cloud 기밀 컴퓨팅 및 검증 가능한 증명을 활용하는 아키텍처를 탐색하고 있습니다. 따라서 참여자들은 글로벌 모델을 로컬에서 학습하는 동안에도 데이터가 안전하다는 것을 보장하고, 아키텍처의 모든 환경의 보안 상태를 보장하기 위해 검증 가능한 증명에 의존할 수 있습니다"라고 말했습니다.

Gemini Cloud Assist로 기밀 컴퓨팅 여정 가속화 미리보기

기밀 컴퓨팅을 쉽게 사용할 수 있도록, 현재 미리보기로 제공되는 Gemini Cloud Assist를 기밀 컴퓨팅 전반에 통합하여 기존 구성 워크플로우에 AI 기반 지원을 제공합니다.

자연어 채팅을 통해 Google Cloud 관리자는 많은 보안 및 규정 준수 작업에 대한 맞춤형 설명, 권장 사항 및 단계별 지침을 얻을 수 있습니다. 한 가지 예로 기밀 공간(Confidential Space)이 있습니다. Gemini Cloud Assist는 워크로드 작성자, 워크로드 운영자 또는 데이터 협력자로서 환경을 설정하는 여정을 안내할 수 있습니다. 이는 조직이 이러한 환경을 설정하는 데 드는 복잡성과 시간을 크게 줄여줍니다.

다음 단계

지속적인 혁신과 협력을 통해, 우리는 기밀 컴퓨팅을 안전하고 번성하는 클라우드 생태계의 초석으로 만들고자 노력하고 있습니다.

저희의 최신 비디오는 조직들이 AI 여정을 발전시키기 위해 기밀 컴퓨팅을 창의적으로 활용하는 여러 가지 방법을 다루고 있습니다. 여기에서 시청하실 수 있습니다.