设置并发

了解如何设置 Knative serving 中的给定容器实例可以同时处理的最大请求数。详细了解并发

任何配置更改都会导致新修订版本的创建。后续修订版本也将自动采用此配置设置,除非您进行了明确更新。

您可以在部署新服务或更新现有服务和部署修订版本时使用 Google Cloud 控制台或 Google Cloud CLI 来配置并发设置:

控制台

  1. 在 Google Cloud 控制台中前往 Knative serving:

    前往 Knative serving

  2. 如果您是要配置一个新服务来作为部署目标,请点击创建服务。如果您要配置现有服务,请点击该服务,然后点击修改和部署新的修订版本

  3. 在“高级设置”下,点击容器

  4. “每个容器的请求数上限”文本框中设置所需的并发请求数值。

  5. 点击下一步以转到下一部分。

  6. 配置此服务的触发方式部分,选择您想使用哪个连接来调用服务。

  7. 点击创建以将映像部署到 Knative serving,然后等待部署完成。

命令行

  • 对于现有服务,请运行带有 --concurrency 参数的 gcloud run services update 命令来设置最大并发请求数:

    gcloud run services update SERVICE --concurrency CONCURRENCY
    

    您需要将其中的:

    • SERVICE 替换为您的服务名称。
    • CONCURRENCY 替换为每个容器实例的并发请求数上限。指定 default 可清除所有并发设置:--concurrency default
  • 对于新服务,请运行带有 --concurrency 参数的 gcloud run deploy 命令来设置最大并发请求数:

    gcloud run deploy SERVICE --image=IMAGE_URL --concurrency CONCURRENCY
    

    您需要将其中的:

    • SERVICE 替换为您的服务名称。
    • IMAGE_URL 替换为对容器映像的引用,例如 gcr.io/cloudrun/hello
    • CONCURRENCY 替换为每个容器实例的并发请求数上限。指定 default 可清除所有并发设置:--concurrency default

YAML

您可以使用 gcloud run services describe 命令和 --format=export 标志将现有服务的配置下载到的 YAML 文件中。然后,您可以使用 gcloud run services replace 命令修改该 YAML 文件并部署这些更改。您必须确保仅修改指定的属性。

  1. 将服务配置下载到本地工作区上名为 service.yaml 的文件中:

    gcloud run services describe SERVICE --format export > service.yaml

    SERVICE 替换为您的 Knative serving 服务的名称。

  2. 在本地文件中,更新 containerConcurrency 属性:

    apiVersion: serving.knative.dev/v1
    kind: Service
    metadata:
      name: SERVICE
    spec:
      template:
        spec:
          containerConcurrency: CONCURRENCY

    您需要将其中的:

    • SERVICE 替换为您的 Knative serving 服务的名称
    • CONCURRENCY 替换为每个容器实例的并发请求数上限。指定 default 可清除并发设置:--concurrency default
  3. 使用以下命令将服务替换为其新配置:

    gcloud run services replace service.yaml