동시 실행 설정

Knative serving의 특정 컨테이너 인스턴스에서 동시에 처리할 수 있는 최대 요청 수를 설정하는 방법을 알아봅니다. 동시 실행에 대해 자세히 알아보기

구성을 변경하면 새 버전이 생성됩니다. 이를 변경하는 명시적 업데이트가 없으면 이후 버전에도 이 구성 설정이 자동으로 적용됩니다.

서비스를 배포하거나 기존 서비스를 업데이트하고 버전을 배포할 때 Google Cloud 콘솔 또는 Google Cloud CLI를 사용하여 동시 실행 설정을 구성할 수 있습니다.

Console

  1. Google Cloud 콘솔에서 Knative serving으로 이동합니다.

    Knative serving으로 이동

  2. 배포할 새 서비스를 구성하려면 서비스 만들기를 클릭합니다. 기존 서비스를 구성하려면 해당 서비스를 클릭한 다음 새 버전 수정 및 배포를 클릭합니다.

  3. 고급 설정에서 컨테이너를 클릭합니다.

  4. 컨테이너당 최대 요청 수 텍스트 상자에 원하는 동시 실행 값을 설정합니다.

  5. 다음을 클릭하여 다음 섹션으로 진행합니다.

  6. 이 서비스가 트리거되는 방식 구성 섹션에서 서비스를 호출하는 데 사용할 연결을 선택합니다.

  7. 만들기를 클릭하여 Knative serving에 이미지를 배포하고 배포가 완료될 때까지 기다립니다.

명령줄

  • 기존 서비스의 경우 --concurrency 매개변수로 gcloud run services update 명령어를 실행하여 최대 동시 요청 수를 설정합니다.

    gcloud run services update SERVICE --concurrency CONCURRENCY

    다음과 같이 바꿉니다.

    • SERVICE를 서비스 이름으로 바꿉니다.
    • CONCURRENCY를 컨테이너 인스턴스당 최대 동시 요청 수로 바꿉니다. 동시 실행 설정 --concurrency default을 삭제하려면 default를 지정합니다.
  • 새 서비스의 경우 --concurrency 매개변수로 gcloud run deploy 명령어를 실행하여 최대 동시 요청 수를 설정합니다.

    gcloud run deploy SERVICE --image=IMAGE_URL --concurrency CONCURRENCY

    다음과 같이 바꿉니다.

    • SERVICE를 서비스 이름으로 바꿉니다.
    • IMAGE_URL을 컨테이너 이미지에 대한 참조(예: gcr.io/cloudrun/hello)로 바꿉니다.
    • CONCURRENCY를 컨테이너 인스턴스당 최대 동시 요청 수로 바꿉니다. 동시 실행 설정 --concurrency default을 삭제하려면 default를 지정합니다.

YAML

--format=export 플래그를 사용하여 gcloud run services describe 명령어로 YAML 파일에 기존 서비스 구성을 다운로드할 수 있습니다. 그런 다음 gcloud run services replace 명령어로 YAML 파일을 수정하고 변경사항을 배포할 수 있습니다. 지정된 속성만 수정해야 합니다.

  1. 서비스 구성을 로컬 작업공간의 service.yaml 파일에 다운로드합니다.

    gcloud run services describe SERVICE --format export > service.yaml

    SERVICE를 Knative serving 서비스의 이름으로 바꿉니다.

  2. 로컬 파일에서 containerConcurrency 속성을 업데이트합니다.

    apiVersion: serving.knative.dev/v1
    kind: Service
    metadata:
      name: SERVICE
    spec:
      template:
        spec:
          containerConcurrency: CONCURRENCY

    다음과 같이 바꿉니다.

    • SERVICE를 Knative serving 서비스의 이름으로 바꿉니다.
    • CONCURRENCY를 컨테이너 인스턴스당 최대 동시 요청 수로 바꿉니다. default를 지정하여 동시 실행 설정: --concurrency default를 삭제합니다.
  3. 다음 명령어를 사용하여 서비스를 새 구성으로 바꿉니다.

    gcloud run services replace service.yaml