Cloud Run 샌드박스에서 AI 생성 코드를 안전하게 실행

*이 콘텐츠는 AI 번역 도구를 사용하여 번역되었습니다. 정확성을 기하기 위해 노력하고 있으나, 자동 번역에는 오류나 누락이 포함될 수 있습니다. 정확한 정보는 영문 원본을 참고해 주시기 바랍니다.

Google Cloud에서 자주 듣는 질문이 있습니다. 호스트 애플리케이션, 데이터, 클라우드 사용자 인증 정보를 위험에 빠뜨리지 않고 AI 생성 코드나 신뢰할 수 없는 바이너리를 안전하게 실행하려면 어떻게 해야 할까요? 즉, 권한이 더 높은 신뢰할 수 있는 프로그램과 완전히 분리된 안전한 공간을 AI로 작성된 프로그램에 어떻게 제공할 수 있을까요?

지금까지 개발자는 컨테이너 클러스터를 사용하여 복잡한 샌드박스 인프라를 빌드하거나 특수한 서드 파티 microVM 런타임에 대한 비용을 지불해야 했습니다.

오늘  WeAreDevelopers World Congress에서 Google Cloud Run 샌드박스의 공개 프리뷰를 발표합니다. Cloud Run 샌드박스는 신뢰할 수 없는 코드와 에이전트 워크로드를 실행하기 위해 특별히 빌드된 기본 제공의 안전한 초고속 런타임 환경으로, 밀리초 단위로 시작됩니다.

다음 예시에서는 평균 지연 시간 500ms로 1,000개의 샌드박스를 시작, 실행, 중지하는 Cloud Run 서비스에서 신뢰할 수 없는 Python 코드를 안전하게 실행하기 위해 요청을 보냅니다.

이 게시물에서는 이 기능과 핵심 사용 사례에 대해 자세히 알아보겠습니다.

Cloud Run 샌드박스란 무엇인가요?

Cloud Run 샌드박스는 기존 Cloud Run 서비스 인스턴스 내에서 거의 즉시 생성할 수 있는 경량의 격리된 실행 경계입니다.

LLM이 동적으로 생성된 Python 스크립트를 실행하여 비즈니스 마진을 계산하거나, 헤드리스 브라우저를 가동하여 웹 조사를 수행해야 하는 경우 Cloud Run 샌드박스는 서버리스 환경을 벗어나지 않고도 이러한 태스크를 실행할 수 있는 안전한 격리된 샌드박스를 제공합니다.

핵심 사용 사례

• LLM 코드 인터프리터: AI 제품에 고급 데이터 분석 기능을 빌드합니다. 모델이 Python, R 또는 SQL 코드를 작성하고 실행하여 데이터 세트를 분석하고, 차트를 생성하고, 복잡한 수학 연산을 안전하게 수행할 수 있습니다.

• 헤드리스 브라우저: 에이전트에게 브라우저를 실행할 수 있는 안전한 환경을 제공합니다. 호스트 머신을 위험에 빠뜨리지 않고 웹페이지를 안전하게 스크랩하고, 스크린샷을 찍고, 웹 워크플로를 자동화할 수 있습니다.

• 사용자 제출 코드 실행: AI 외에도 Cloud Run에서 호스팅되는 플랫폼은 샌드박스를 사용하여 자체 최종 사용자가 업로드한 커스텀 스크립트, 플러그인 또는 웹훅을 안전하게 실행할 수 있습니다.

작동 방식: 개발자 경험

Cloud Run 서비스에서 샌드박스를 사용 설정하는 방법은 배포에 단일 플래그를 추가하는 것만큼 간단합니다.

1단계: 샌드박스 런처 사용 설정

Cloud Run 서비스를 배포할 때 gcloud 또는 YAML 구성을 통해 샌드박스 런처를 사용 설정합니다.

2단계: 코드에서 샌드박스를 기본적으로 생성

사용 설정하면 경량 샌드박스 CLI 바이너리가 실행 환경에 자동으로 마운트됩니다. 에이전트 애플리케이션은 표준 하위 프로세스 호출을 사용하여 프로그래매틱 방식으로 샌드박스를 생성할 수 있습니다.

LLM이 생성한 신뢰할 수 없는 Python 스크립트를 얼마나 쉽게 실행할 수 있는지 보여드리겠습니다.

보안 내재화 설계: 기본적으로 제로 트러스트

Cloud Run 샌드박스는 악의적이거나 잘못된 코드 실행으로부터 호스트 애플리케이션과 클라우드 리소스를 보호하도록 설계되었습니다. 런타임은 다음 세 가지 중요한 보안 경계를 적용합니다.

1. 사용자 인증 정보 및 환경 격리: 이러한 샌드박스는 Cloud Run 서비스의 환경 변수에 액세스할 수 없으며 Google Cloud 메타데이터 서버를 호출할 수도 없습니다.

2. 잠긴 네트워크 이그레스 (기본 거부): 기본적으로 샌드박스는 아웃바운드 네트워크 액세스가 전혀 없습니다. 악의적인 서버로 데이터를 무단 반출하려는 스크립트를 실행하도록 에이전트를 속이는 경우 네트워크 요청은 시스템 레이어에서 차단됩니다. 이그레스는 명시적으로 요청된 경우에만 사용 설정할 수 있습니다.

3. 안전한 파일 시스템 오버레이: 샌드박스는 컨테이너의 파일 시스템에 대한 읽기 전용 뷰로 실행되므로 설치된 패키지, Python 런타임, 바이너리를 사용할 수 있지만 모든 변경사항은 격리된 임시 메모리 오버레이에 기록됩니다. 샌드박스 실행이 종료되면 생성된 모든 파일이 폐기됩니다. 샌드박스 전반에서 재사용할 수 있도록 필요에 따라 파일을 가져오고 내보낼 수 있습니다.

ADK 및 ComputeSDK 기본 제공 지원

Cloud Run 샌드박스는 새로운  에이전트 개발 키트의 다음 버전에서 CloudRunSandboxCodeExecutor와 함께 지원됩니다. 이 통합을 통해 Cloud Run에서 실행되는 ADK 에이전트는 단일 라인으로 코드를 실행할 수 있습니다.

샌드박스를 실행하기 위한 벤더 불문 SDK인  ComputeSDK에도 Cloud Run 샌드박스가 추가되었습니다. 이 SDK를 사용하면 Cloud Run 서비스 외부에서 샌드박스를 원격으로 호출하거나 서비스에서 로컬 도구로 직접 사용할 수 있습니다. Cloud Run 샌드박스에 이 SDK를 사용하는 방법은  여기에서 확인할 수 있습니다.

지금 시작하기

온디맨드 가상 머신에 높은 프리미엄을 부과하는 전용 샌드박스 호스팅 플랫폼과 달리 Cloud Run 샌드박스는 기존에 할당된 CPU와 메모리에서 직접 실행됩니다. 샌드박스는 실행 중인 인스턴스의 리소스를 공유하므로 이 기능을 사용하는 데 추가 비용이나 프리미엄이 들지 않습니다. 문서는  여기에서 확인할 수 있습니다.