인스턴스(서비스)당 최대 동시 요청

인스턴스당 최대 동시 요청 수 설정에 대해 알아보려면 개념 문서를 참조하세요.

구성을 변경하면 새 버전이 생성됩니다. 이를 변경하는 명시적 업데이트가 없으면 이후 버전에도 이 구성 설정이 자동으로 적용됩니다.

Cloud Run 서비스의 경우 새 서비스를 만들거나 새 버전을 배포할 때 Google Cloud 콘솔, gcloud 명령줄 또는 .yaml 파일을 사용하여 인스턴스당 최대 동시 요청 수를 설정할 수 있습니다.

콘솔

  1. Google Cloud 콘솔에서 Cloud Run으로 이동합니다.

    Cloud Run으로 이동

  2. 배포할 새 서비스를 구성하려면 서비스 만들기를 클릭합니다. 기존 서비스를 구성하는 경우 서비스를 클릭한 후 새 버전 수정 및 배포를 클릭합니다.

  3. 새 서비스를 구성하는 경우 원하는 대로 초기 서비스 설정 페이지를 작성한 후 컨테이너, 볼륨, 네트워킹, 보안을 클릭하여 서비스 구성 페이지를 펼칩니다.

  4. 컨테이너 탭을 클릭합니다.

    이미지

    • 컨테이너당 최대 요청 수 텍스트 상자에 인스턴스당 원하는 최대 동시 요청 수를 설정합니다.
  5. 만들기 또는 배포를 클릭합니다.

명령줄

인스턴스당 최대 동시 요청 수를 설정하려면 다음 명령어를 사용하세요.

gcloud run services update SERVICE --concurrency CONCURRENCY

다음과 같이 바꿉니다.

  • SERVICE를 서비스 이름으로 바꿉니다.
  • CONCURRENCY를 인스턴스당 최대 동시 요청 수로 바꿉니다. 예를 들어 다음은 최대 1개의 동시 요청 수를 설정합니다.

    gcloud run services update SERVICE --concurrency 1

지정된 서비스의 인스턴스당 최대 동시 요청 수를 변경하면 새 버전에 이 설정이 적용됩니다.

기본 최대 동시 요청 수(80)로 되돌리려면 다음 명령어를 사용합니다.

gcloud run services update SERVICE --concurrency default

SERVICE을 구성 중인 서비스의 이름으로 바꿉니다.

YAML

YAML 형식으로 정리된 결과를 생성하는 gcloud run services describe --format export 명령어를 사용하면 기존 서비스 구성을 다운로드해서 볼 수 있습니다. 그런 다음 아래 설명된 필드를 수정하고 gcloud run services replace 명령어를 사용하여 수정된 YAML을 업로드할 수 있습니다. 설명된 대로 필드만 수정해야 합니다.

  1. 구성을 보고 다운로드하려면 다음을 실행합니다.

    gcloud run services describe SERVICE --format export > service.yaml
  2. containerConcurrency 속성을 업데이트합니다.

    apiVersion: serving.knative.dev/v1
    kind: Service
    metadata:
      name: SERVICE
    spec:
      template:
        metadata:
          name: REVISION
        spec:
          containerConcurrency: CONCURRENCY

    다음과 같이 바꿉니다.

    • SERVICE를 Cloud Run 서비스 이름으로 바꿉니다.
    • IMAGE_URL을 컨테이너 이미지에 대한 참조(예: us-docker.pkg.dev/cloudrun/container/hello:latest)로 바꿉니다. Artifact Registry를 사용하는 경우 저장소 REPO_NAME이 이미 생성되어 있어야 합니다. URL의 형식은 REGION-docker.pkg.dev/PROJECT_ID/REPO_NAME/PATH:TAG입니다.
    • CONCURRENCY를 인스턴스당 최대 동시 요청 수로 바꿉니다.
    • REVISION: 새 버전 이름으로 변경하거나 이미 있는 경우 삭제 가능. 새 버전 이름을 제공할 경우 다음 기준을 반드시 충족해야 합니다.
      • SERVICE-로 시작해야 합니다.
      • 소문자, 숫자, -만 포함합니다.
      • -로 끝나면 안 됩니다.
      • 63자(영문 기준) 이하여야 합니다.
  3. 다음 명령어를 사용하여 서비스를 새 구성으로 바꿉니다.

    gcloud run services replace service.yaml

Terraform

Terraform 구성을 적용하거나 삭제하는 방법은 기본 Terraform 명령어를 참조하세요.

template 아래의 Terraform 구성에서 google_cloud_run_v2_service 리소스에 다음 항목을 추가합니다. 80을 원하는 최대 동시 요청 수로 바꿉니다.

resource "google_cloud_run_v2_service" "default" {
  name     = "cloudrun-service-concurrency"
  location = "us-central1"

  template {
    containers {
      image = "us-docker.pkg.dev/cloudrun/container/hello"
    }
    # Maximum concurrent requests
    max_instance_request_concurrency = 80
  }
}

동시 실행 설정 보기

Cloud Run 서비스의 현재 동시 실행 설정을 보려면 다음 안내를 따르세요.

콘솔

  1. Google Cloud 콘솔에서 Cloud Run으로 이동합니다.

    Cloud Run으로 이동

  2. 관심이 있는 서비스를 클릭하여 서비스 세부정보 페이지를 엽니다.

  3. 버전 탭을 클릭합니다.

  4. 오른쪽의 세부정보 패널에서 동시 실행 설정이 컨테이너 탭에 표시됩니다.

명령줄

  1. 다음 명령어를 사용하세요.

    gcloud run services describe SERVICE
  2. 반환된 구성에서 동시 실행 설정을 찾습니다.