可用的 GPU

GPU 用于加速工作负载，Cloud Workstations 支持 GPU 连接到工作站。Cloud Workstations 支持许多 各种 GPU 模型，可用于连接到 Compute Engine 虚拟机要连接到每个工作站的 GPU 型号和数量 指定哪些对象的名称Cloud Workstations 句柄 挂接 GPU 并安装其设备驱动程序。

将 GPU 挂接到工作站将影响费用，如 Cloud Workstations 价格概览。

限制

工作站配置可以指定 GPU，但须遵守以下规定 限制：

支持的 GPU 型号

Cloud Workstations 支持 Compute Engine 构建的多种 GPU 模型， 可用。支持的模型取决于为 工作站配置，如下表所示。

N1 机器系列

N1 通用机器系列支持多种 GPU 模型， 以及指定任意 N1 机器类型的工作站配置 还可以指定以下某个 GPU 模型。对于所选 GPU 则配置可以指定 连接到每个工作站

GPU 模型 GPU 数量
NVIDIA T4 (nvidia-tesla-t4) 1、2 或 4 个 GPU
NVIDIA P4 (nvidia-tesla-p4) 1、2 或 4 个 GPU
NVIDIA V100 (nvidia-tesla-v100) 1、2、4 或 8 个 GPU
NVIDIA P100 (nvidia-tesla-p100) 1、2 或 4 个 GPU

A2 机器系列

A2 标准加速器优化机器系列 挂接了固定数量的 NVIDIA A100 GPU 所选的机器类型

下表显示了从机器类型到 将要附加的卡

GPU 模型 机器类型 GPU 数量
NVIDIA A100 40GB (nvidia-tesla-a100) a2-highgpu-1g 1 个 GPU
a2-highgpu-2g 2 个 GPU
a2-highgpu-4g 4 个 GPU
a2-highgpu-8g 8 个 GPU
a2-megagpu-16g 16 个 GPU

Cloud Workstations 不支持 A2 Ultra 机器类型。

将 GPU 添加到现有工作站配置

如需将 GPU 添加到工作站配置，请完成以下任一标签页中的步骤。

准备工作

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

Install the Google Cloud CLI, then initialize it by running the following command: 

gcloud init

查看 Cloud Workstations 价格 了解配置 GPU 将如何影响您的费用。注意事项 GPU 已挂接到指定的预启动虚拟机 (VM) 由配置的快速启动池大小决定。

更新现有配置

控制台

从 Google Cloud 控制台，执行以下操作：

  1. 在 Google Cloud 控制台中，前往 工作站配置页面。

    前往“工作站配置”页面

  2. 在工作站配置列表中，点击工作站的名称 要向其添加 GPU 的配置。

  3. 在 Workstation configuration details（工作站配置详情）页面上，点击 修改 修改。

  4. 在修改工作站配置页面上，点击机器设置。 。

  5. 点击切换开关，选择 GPU 而不是通用。 机器家族

    在 GPU 类型字段中，选择您要使用的 GPU 型号。

    在 GPU 数量字段中，选择所需的 GPU 卡数量。 连接到每个工作站

    在机器类型字段中，选择要使用的机器类型。

  6. 点击保存以更新配置。

gcloud

通过运行 gcloud workstations configs update 命令。

不过，请先收集一些信息，看看哪些 GPU 模型 并为您的配置选择一个：

  1. 通过运行 以下 gcloud CLI 命令：

    gcloud workstations configs describe \
  --format="table(name.scope(workstationConfigs),replicaZones.list())" \
  --project=PROJECT_ID \
  --region=LOCATION \
  --cluster=WORKSTATION_CLUSTER_ID \
  WORKSTATION_CONFIG_ID

    替换以下内容：

    • PROJECT_ID：包含工作站配置的项目的 ID。
    • LOCATION：工作站集群的位置。
    • WORKSTATION_CLUSTER_ID：包含工作站配置的工作站集群名称。
    • WORKSTATION_CONFIG_ID：工作站配置的名称。

  2. 选择两个平台中都提供的受支持的 GPU 型号 来配置副本可用区 gcloud compute accelerator-types list 命令：

    gcloud compute accelerator-types list \
  --format="table(name:sort=1,zone,description,maximumCardsPerInstance)" \
  --filter='zone.basename()=(ZONES) AND name~"nvidia-tesla-(a100|p100|p4|t4|v100)$"' \
  --project=PROJECT_ID

    将 ZONES 替换为以逗号分隔的 在上一步确定的副本可用区 （例如 us-central1-a,us-central1-c）。

    选择一个在表中列出两次的 GPU 型号，表明其为 两个副本可用区中均可用

    记下您可以为所选 GPU 型号附加的显卡数量上限。

  3. 确定二者都提供哪些受支持的机器类型 使用 Deployment 规范 gcloud compute machine-types list 命令。

    1. 如果您在上一步中选择了 NVIDIA A100 40GB GPU 型号， 您的配置必须使用 A2 机器系列：

      gcloud compute machine-types list \
  --format="table(name,zone,guestCpus:sort=1)" \
  --filter="name:a2-highgpu- OR name:a2-megagpu-" \
  --zones=ZONES \
  --project=PROJECT_ID

    2. 如果您在上一步中选择了任何其他 GPU 型号， 配置必须使用 N1 机器系列：

      gcloud compute machine-types list \
  --format="table(name,zone,guestCpus:sort=1)" \
  --filter="name:n1-standard-" \
  --zones=ZONES \
  --project=PROJECT_ID

    选择在表中列出两次的机器类型，表示该机器类型 两个副本可用区中都可用。

  4. 现在，您已经选择了 GPU 模型和兼容的机器类型， 更新配置：

    1. 对于 NVIDIA A100 40GB GPU，运行此命令以更新您的 配置：

      gcloud beta workstations configs update \
  --project=PROJECT_ID \
  --region=LOCATION \
  --cluster=WORKSTATION_CLUSTER_ID \
  WORKSTATION_CONFIG_ID \
  --machine-type=A2_MACHINE_TYPE

      将 A2_MACHINE_TYPE 替换为所选的 A2 机器 类型（例如 a2-highgpu-1g）。

    2. 对于所有其他 GPU 型号，请运行以下命令：

      gcloud beta workstations configs update \
  --project=PROJECT_ID \
  --region=LOCATION \ß
  --cluster=WORKSTATION_CLUSTER_ID \
  WORKSTATION_CONFIG_ID \
  --machine-type=N1_MACHINE_TYPE \
  --accelerator-type=ACCELERATOR_TYPE \
  --accelerator-count=ACCELERATOR_COUNT

      替换以下内容：

      • N1_MACHINE_TYPE：从 N1 系列（例如 n1-standard-2）。
      • ACCELERATOR_TYPE：所选 GPU 型号的名称 （例如 nvidia-tesla-t4）。
      • ACCELERATOR_COUNT：要挂接的 GPU 数量 （例如 1、2、4）。必须是二次方 小于 GPU 模型的最大值。

创建具有 GPU 的新工作站配置

创建将 GPU 挂接到工作站的新工作站配置 请完成以下任一标签页中的步骤。

准备工作

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

Install the Google Cloud CLI, then initialize it by running the following command: 

gcloud init

REST

如需在本地开发环境中使用本页面上的 REST API 示例，请使用您提供给 gcloud CLI 的凭据。

    Install the Google Cloud CLI, then initialize it by running the following command: 

    gcloud init

如需了解详情，请参阅 Google Cloud 身份验证文档中的使用 REST 时进行身份验证。

选择一个 GPU 模型并参阅 GPU 可用性表，从中选择 所选 GPU 模型至少在两个可用区中提供。

如果所选区域中还没有集群，可以在其中创建 新配置，请按以下步骤 创建工作站集群 资源。

查看 Cloud Workstations 价格 了解配置 GPU 将如何影响您的费用。注意事项 GPU 已挂接到指定的预启动虚拟机 (VM) 由配置的快速启动池大小决定。

创建新配置

控制台

从以下位置创建具有 GPU 的新工作站配置： Google Cloud 控制台，执行以下操作：

  1. 在 Google Cloud 控制台中，前往工作站配置 页面。

    前往“工作站配置”页面

  2. 在 Workstation configurations 页面上，点击 add_box 创建。

  3. 在基本信息步骤的 创建工作站配置页面，为您的 配置名称字段。

    在 Workstation cluster（工作站集群）字段中，选择选定集群 区域。

    点击继续进入机器设置步骤。

  4. 在创建工作站的机器设置步骤中 配置页面中，首先点击切换开关以选择 GPU 而不是通用机器家族。

    1. 然后，在区域字段中，选中两个区域旁边的复选框 您选择的 GPU 型号在哪些位置可用（请参阅 GPU 可用性表。

    2. 在 GPU 类型字段中，选择您要使用的 GPU 型号。

    3. 在 GPU 数量字段中，选择您要安装的 GPU 卡的数量。 连接到每个工作站

    4. 在机器类型字段中，选择兼容的机器类型。

  5. 点击继续以配置环境设置和 IAM 政策 然后再点击创建以预配新工作站 配置。

gcloud

使用 gcloud CLI（通过运行 gcloud workstations configs create 命令。

  • 对于 NVIDIA A100 40 GB GPU，请运行以下命令来创建您的配置：

    gcloud beta workstations configs create \
  --project=PROJECT_ID \
  --region=LOCATION \
  --cluster=WORKSTATION_CLUSTER_ID \
  WORKSTATION_CONFIG_ID \
  --replica-zones=REPLICA_ZONES \
  --machine-type=A2_MACHINE_TYPE

    替换以下内容：

    • PROJECT_ID：将包含新工作站配置的项目的 ID。
    • LOCATION：包含配置的工作站集群的位置。
    • WORKSTATION_CLUSTER_ID：将包含新工作站配置的工作站集群的名称。
    • WORKSTATION_CONFIG_ID：新工作站配置的名称。
    • REPLICA_ZONES：集群所在区域内提供所选 GPU 模型的两个可用区（例如 us-central1-a,us-central1-c）。
    • A2_MACHINE_TYPE：所选的 A2 系列机器类型（例如 a2-highgpu-1g）。
    。

  • 对于所有其他 GPU 型号，请运行以下命令创建配置：

    gcloud beta workstations configs create \
  --project=PROJECT_ID \
  --region=LOCATION \
  --cluster=WORKSTATION_CLUSTER_ID \
  WORKSTATION_CONFIG_ID \
  --replica-zones=REPLICA_ZONES \
  --machine-type=N1_MACHINE_TYPE \
  --accelerator-type=ACCELERATOR_TYPE \
  --accelerator-count=ACCELERATOR_COUNT

    替换以下内容：

    • PROJECT_ID：将包含新工作站配置的项目的 ID。
    • LOCATION：包含配置的工作站集群的位置。
    • WORKSTATION_CLUSTER_ID：将包含新工作站配置的工作站集群的名称。
    • WORKSTATION_CONFIG_ID：新工作站配置的名称。
    • REPLICA_ZONES：集群所在区域内提供所选 GPU 模型的两个可用区（例如 us-central1-a,us-central1-c）。
    • N1_MACHINE_TYPE：所选的 N1 系列机器类型（例如 n1-standard-2）。
    • ACCELERATOR_TYPE：所选 GPU 型号的名称 （例如 nvidia-tesla-t4）。
    • ACCELERATOR_COUNT：要挂接的 GPU 数量 （例如 1、2、4）。

NVIDIA GPU 设备驱动程序

Cloud Workstations 在工作站的主机虚拟机 启动容器

如需确定工作站上安装了哪个版本的设备驱动程序， 运行以下命令：

nvidia-smi --query-gpu=name,driver_version --format=csv

各区域和可用区的 GPU 可用性

您可以按位置或 GPU 模型搜索，也可以同时使用两者。

可用区 位置 GPU 平台
asia-east1-a 亚太地区台湾彰化 T4、P100
asia-east1-b 亚太地区台湾彰化
asia-east1-c 亚太地区台湾彰化 T4、V100、P100
asia-east2-a 亚太地区香港 T4
asia-east2-b 亚太地区香港
asia-east2-c 亚太地区香港 T4
asia-northeast1-a 亚太地区日本东京 A100 40GB、T4
asia-northeast1-b 亚太地区日本东京
asia-northeast1-c 亚太地区日本东京 A100 40GB、T4
asia-northeast3-a 亚太地区韩国首尔 A100 40GB
asia-northeast3-b 亚太地区韩国首尔 A100 40GB、T4
asia-northeast3-c 亚太地区韩国首尔 T4
asia-south1-a 亚太地区印度孟买 T4
asia-south1-b 亚太地区印度孟买 T4
asia-south1-c 亚太地区印度孟买 T4
asia-southeast1-a 亚太地区新加坡裕廊西 T4
asia-southeast1-b 亚太地区新加坡裕廊西 A100 40GB、T4、P4
asia-southeast1-c 亚太地区新加坡裕廊西 A100 40GB、T4、P4
australia-southeast1-a 亚太地区澳大利亚悉尼 T4、P4
australia-southeast1-b 亚太地区澳大利亚悉尼 P4
australia-southeast1-c 亚太地区澳大利亚悉尼 T4、P100
europe-north1-a
europe-north1-b
europe-north1-c		 欧洲芬兰哈米纳
europe-west1-b 欧洲比利时圣吉斯兰 T4、P100
europe-west1-c 欧洲比利时圣吉斯兰 T4
europe-west1-d 欧洲比利时圣吉斯兰 P100、T4
europe-west2-a
europe-west2-b		 欧洲英国伦敦 T4
europe-west2-c 欧洲英国伦敦
europe-west3-a 欧洲德国法兰克福
europe-west3-b 欧洲德国法兰克福 T4
europe-west3-c 欧洲德国法兰克福
europe-west4-a 欧洲荷兰埃姆斯哈文 A100 40GB、T4、V100、P100
europe-west4-b 欧洲荷兰埃姆斯哈文 A100 40GB、T4、P4、V100
europe-west4-c 欧洲荷兰埃姆斯哈文 T4、P4、V100
europe-west6-a
europe-west6-b
europe-west6-c		 欧洲瑞士苏黎世
europe-west8-a
europe-west8-b
europe-west8-c		 欧洲意大利米兰
europe-west9-a
europe-west9-b
europe-west9-c		 欧洲法国巴黎
europe-west12-a
europe-west12-b
europe-west12-c		 欧洲意大利都灵
europe-southwest1-a
europe-southwest1-b
europe-southwest1-c		 欧洲西班牙马德里
me-west1-a 特拉维夫、以色列、中东
me-west1-b 中东以色列特拉维夫 A100 40GB、T4
me-west1-c 特拉维夫、以色列、中东 A100 40GB、T4
northamerica-northeast1-a 北美洲魁北克省蒙特利尔 P4
northamerica-northeast1-b 北美洲魁北克省蒙特利尔 P4
northamerica-northeast1-c 北美洲魁北克省蒙特利尔 T4、P4
southamerica-east1-a 南美洲巴西圣保罗省奥萨斯库 T4
southamerica-east1-c 南美洲巴西圣保罗省奥萨斯库 T4
southamerica-west1-a
southamerica-west1-b
southamerica-west1-c		 南美洲智利圣地亚哥
us-central1-a 北美洲爱荷华州康瑟布拉夫斯 A100 40GB、T4、P4、V100
us-central1-b 北美洲爱荷华州康瑟布拉夫斯 A100 40GB、T4、V100
us-central1-c 北美洲爱荷华州康瑟布拉夫斯 A100 40GB、T4、P4、V100、P100
us-central1-f 北美洲爱荷华州康瑟布拉夫斯 A100 40GB、T4、V100、P100
us-east1-b 北美洲南卡罗来纳州蒙克斯科纳 A100 40GB、P100
us-east1-c 北美洲南卡罗来纳州蒙克斯科纳 T4、V100、P100
us-east1-d 北美洲南卡罗来纳州蒙克斯科纳 T4
us-east4-a 北美洲弗吉尼亚阿什本 T4、P4
us-east4-b 北美洲弗吉尼亚阿什本 T4、P4
us-east4-c 北美洲弗吉尼亚阿什本 T4、P4
us-east5-a 北美洲俄亥俄州哥伦布 H100 80GB us-east5-b 北美洲俄亥俄州哥伦布 A100 80GB us-east5-c 北美洲俄亥俄州哥伦布
us-west1-a 北美洲俄勒冈州达尔斯 T4、V100、P100
us-west1-b 北美洲俄勒冈州达尔斯 A100 40GB、T4、V100、P100
us-west1-c 北美洲俄勒冈州达尔斯

后续步骤