Cloud Run 최소 인스턴스: 서버리스 콜드 스타트 최소화
Vinod Ramachandran
Product Manager, BigQuery
Kelsey Hightower
Principal Engineer
* 본 아티클의 원문은 2020년 12월 10일 Google Cloud 블로그(영문)에 게재되었습니다.
서버리스의 장점 중 하나는 사용한 만큼만 비용을 지불하는 운영 모델로, 서비스를 0으로 조정할 수 있다는 것입니다. 그러나 서버리스의 이러한 특징이 일부 애플리케이션에는 단점으로 작용합니다. 애플리케이션이 0으로 축소되었다가 절전 모드가 해제되어 첫 번째 요청을 처리할 때 지연 시간이 발생하기 때문입니다. 이른바 '스타트업 세금'이라고 불리는 이 현상은 서버리스에서만 발생합니다. 명칭에서 알 수 있듯 애플리케이션에 수신되는 트래픽이 없으면 서버가 실행되지 않기 때문입니다.
오늘 Google Cloud의 관리형 서버리스 컴퓨팅 플랫폼인 Cloud Run용 최소 인스턴스가 출시된다는 소식을 알려드리게 되어 기쁩니다. 새로 출시되는 이 중요한 기능은 애플리케이션의 성능을 비약적으로 향상시킬 수 있습니다. 그 결과 지연 시간에 민감한 애플리케이션을 Cloud Run에서 실행할 수 있으며 서버리스 컴퓨팅 플랫폼의 이점을 활용할 수 있습니다. 그럼 더 자세히 살펴보겠습니다.
콜드 스타트 단축
이 기능을 사용하면 대기 중이며 트래픽을 제공할 준비가 된 Cloud Run 최소 인스턴스 집합을 구성하여 서비스가 최소 콜드 스타트로 요청을 수행할 수 있습니다.
Cloud Run의 새로운 최소 인스턴스 기능을 사용하려면 간단한 gcloud 명령어 또는 UI로 Cloud Run 서비스에 사용할 최소 인스턴스 수를 구성하기만 하면 됩니다.
구성이 완료되면 최소 인스턴스가 애플리케이션에 트래픽을 제공할 준비를 마치고 대기합니다. 따라서 애플리케이션의 콜드 스타트를 최소화하고 Cloud Run에서 지연 시간에 민감한 애플리케이션을 실행할 수 있게 됩니다.
부트스트랩 로직 재사용
Cloud Run 최소 인스턴스는 콜드 스타트를 최소화할 뿐만 아니라 데이터베이스 연결 생성, Cloud Storage에서 메모리로 파일 로드 등 주요 작업에 대한 부트스트랩 시간을 단축시켜 줍니다. 부트스트랩 시간을 단축함으로써 최소 인스턴스는 요청 지연 시간을 더욱 줄일 수 있습니다. 부트스트랩 로직을 한 번만 실행하면 되며 그 이후에는 구성한 수 만큼의 최소 인스턴스에 대한 여러 요청 전반에 걸쳐 로직을 활용할 수 있기 때문입니다.
다음 golang 서버리스 함수는 부트스트랩 로직을 한 번 실행한 다음 최소 인스턴스 전반에서 재사용하는 방법을 보여줍니다.
부트스트랩 로직을 한 번 실행한 다음 최소 인스턴스 전반에서 재사용하기
저렴한 비용으로 서버리스 이점 누리기
Cloud Run 최소 인스턴스를 사용하면 최소 인스턴스 수를 설정할 수 있을 뿐만 아니라 제한된 CPU로 인스턴스를 구성하여 훨씬 저렴한 비용으로 이 기능을 활용할 수 있습니다. 따라서 지연 시간에 민감한 워크로드를 서버리스로 이전하는 동시에 서버리스의 효율성과 비용 측면의 이점을 누리는 일석이조의 효과를 볼 수 있습니다.
Cloud Run 최소 인스턴스의 실제 작동 방식


지금까지 Cloud Run 최소 인스턴스의 이점과 기능 활용법에 대해 살펴봤습니다. 그런데 Cloud Run 최소 인스턴스는 실제로 어떻게 작동하며, 사용하는 것이 좋은 이유는 무엇일까요?
기존 서버리스 플랫폼은 Scale-to-zero를 활용할 수 있는 애플리케이션에 적합했지만 부트스트랩 기간 중의 콜드 스타트 지연 시간으로 인해 초기 응답 시간이 늦어진다는 단점이 있었습니다. 이러한 단점은 처음부터 빌드하고 소스 및 런타임 중 작동 방식을 완전하게 제어할 수 있는 애플리케이션에서는 문제가 되지 않습니다. 하지만 상용 애플리케이션 중에 기존 서버리스 접근법이 적합하지 않은 종류가 있습니다. 측정항목을 수집하는 Prometheus와 정책 결정을 내리는 개방형 정책 에이전트(OPA) 같은 커스텀 제어 영역을 생각해 보세요. 이러한 제어 영역에는 일반적으로 최초 시작 시에 고급 구성과 약간의 부트스트랩이 필요하며 추가적인 지연 시간이 허용되지 않습니다.
예를 들어 OPA를 시작하면 일반적으로 원격 소스에서 정책을 가져오고 향후 정책 결정 속도를 높이기 위해 정책을 캐싱합니다. 일반적인 서버리스 환경에서 OPA 같은 제어 영역은 0으로 축소된 상태에서 정책 요청을 처리하기 위해 원래 상태로 돌아오면 성능이 저하됩니다. 중요 사용자 트랜잭션을 위해 요청 경로 내에 위치하기 때문입니다.
Cloud Run 최소 인스턴스를 사용하면 이 문제를 해결할 수 있습니다. 각 요청 간에 0으로 축소되었다가 정책 엔진을 부트스트래핑하는 대신 OPA의 '자주 사용하는' 인스턴스에서 각 요청을 처리해 주기 때문입니다.
실제 작동 과정을 살펴보겠습니다. 다음 섹션에서는 OPA를 배포해 중앙 제어 영역으로 실행하고 최소 인스턴스가 성능 요구사항을 충족시키도록 만듭니다.
OPA 서버를 구성하여 런타임에 Cloud Storage 버킷에서 정책 번들을 가져오면 쿼리할 때 '/health' HTTP 경로에 대한 http GET 요청을 허용합니다. OPA 정책은 다음과 같습니다.
정책은 정책 번들에 패키징되고 Cloud Storage 버킷에 업로드됩니다. 하지만 먼저 일부 종속 항목을 부트스트랩해야 합니다. 자세한 내용은 부트스트랩 프로세스 가이드를 참조하세요. 과정을 단순화하기 위해 도우미 스크립트를 활용하겠습니다.
min-instances-tutorial 디렉터리로 변경합니다.
OPA Cloud Run 인스턴스를 배포하기 전에 다음 작업을 수행해야 합니다.
- OPA 서비스 계정 생성
- OPA 정책 번들을 보관할 Cloud Storage 버킷 생성
- Cloud Storage에 OPA 정책 번들(bundle.tar.gz) 업로드
- OPA 서비스 계정에 OPA 번들 액세스 권한 부여
이제 OPA를 호스팅할 모든 종속 항목이 전부 갖춰졌습니다. ‘gcloud’ 명령어를 사용해 OPA를 배포할 준비가 되었습니다. 버킷 이름과 서비스 계정 이메일 주소는 이전 단계에서 실행한 부트스트랩 스크립트에서 생성된 '.env' 파일에 저장되어 있습니다.
$ source .env
open-policy-agent Cloud Run 인스턴스 생성:
명령어의 출력이 다음과 같이 나타나며 환경 부트스트래핑을 성공적으로 완료했음을 의미합니다.
OPA 서버가 최초로 시작되면 Cloud Storage에서 정책 번들을 다운로드하고 캐싱합니다. 단, 최소 인스턴스를 사용하므로 이 작업을 한 번만 수행합니다.


이제 정책 결정 내리기를 테스트할 준비가 되었습니다. curl로 테스트할 수 있습니다. open-policy-agent Cloud Run URL을 가져옵니다.
입력 집합을 제공하여 OPA 서버를 쿼리하고 Cloud Storage에 저장된 정책 번들에 기반한 정책 결정을 검색합니다.
응답은 다음과 같습니다.
몇 분 기다려보면 OPA가 0으로 축소되지 않으며 프로세스가 백그라운드에 정지되어 있음을 확인할 수 있습니다. 다음 요청이 인스턴스에 도달해야 프로세스 정지 상태가 풀립니다. 가격에 어떤 영향을 미치는지 자세히 알아보려면 가격 책정 페이지를 확인하세요.



