可用的 GPU

GPU 用于加快工作负载速度,Cloud 工作站支持将 GPU 附加到工作站。Cloud Workstations 支持许多 各种 GPU 模型,可用于连接到 Compute Engine 虚拟机要连接到每个工作站的 GPU 型号和数量 指定哪些对象的名称Cloud Workstations 句柄 挂接 GPU 并安装其设备驱动程序。

将 GPU 附加到工作站会影响费用,如 Cloud 工作站价格概览中所述。

限制

工作站配置可以指定 GPU,但须遵守以下限制:

支持的 GPU 型号

Cloud Workstations 支持 Compute Engine 提供的许多 GPU 型号。支持的模型取决于为工作站配置选择的机器系列,如下表所示。

N1 机器系列

N1 通用机器系列支持多种 GPU 型号,并且指定任何 N1 机器类型的工作站配置还可以指定以下某种 GPU 型号。对于所选 GPU 则配置可以指定 连接到每个工作站

GPU 模型 GPU 数量
NVIDIA T4 (nvidia-tesla-t4) 1、2 或 4 个 GPU
NVIDIA P4 (nvidia-tesla-p4) 1、2 或 4 个 GPU
NVIDIA V100 (nvidia-tesla-v100) 1、2、4 或 8 个 GPU
NVIDIA P100 (nvidia-tesla-p100) 1、2 或 4 个 GPU

A2 机器系列

A2 标准加速器优化机器系列 挂接了固定数量的 NVIDIA A100 GPU 选择的机器类型

下表显示了机器类型与要附加的卡片数量之间的映射。

GPU 模型 机器类型 GPU 数量
NVIDIA A100 40GB (nvidia-tesla-a100) a2-highgpu-1g 1 个 GPU
a2-highgpu-2g 2 个 GPU
a2-highgpu-4g 4 个 GPU
a2-highgpu-8g 8 个 GPU
a2-megagpu-16g 16 个 GPU

Cloud Workstations 不支持 A2 Ultra 机器类型。

将 GPU 添加到现有工作站配置

如需向工作站配置中添加 GPU,请完成以下任一标签页中的步骤。

准备工作

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

Install the Google Cloud CLI, then initialize it by running the following command:

gcloud init

查看 Cloud Workstations 价格 了解配置 GPU 将如何影响您的费用。注意事项 GPU 已挂接到指定的预启动虚拟机 (VM) 由配置的快速启动池大小决定。

更新现有配置

控制台

从 Google Cloud 控制台,执行以下操作:

  1. 在 Google Cloud 控制台中,前往 Workstation 配置页面。

    前往“工作站配置”页面

  2. 工作站配置列表中,点击工作站的名称 要向其添加 GPU 的配置。

  3. Workstation configuration details(工作站配置详情)页面上,点击 修改 修改

  4. 修改工作站配置页面上,点击导航菜单中的机器设置

  5. 点击切换开关,选择 GPU 而不是通用。 机器家族

    GPU 类型字段中,选择您要使用的 GPU 型号。

    GPU 数量字段中,选择所需的 GPU 卡数量。 连接到每个工作站

    机器类型字段中,选择要使用的机器类型。

  6. 点击保存以更新配置。

gcloud

运行 gcloud workstations configs update 命令,在现有工作站配置上配置 GPU。

不过,首先需要收集一些信息,以了解有哪些 GPU 型号可用,并为您的配置选择一个:

  1. 运行以下 gcloud CLI 命令,检查配置指定了哪些副本区域:

    gcloud workstations configs describe \
      --format="table(name.scope(workstationConfigs),replicaZones.list())" \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID
    

    替换以下内容:

    • PROJECT_ID:包含工作站配置的项目的 ID。
    • LOCATION:工作站集群的位置。
    • WORKSTATION_CLUSTER_ID:包含工作站配置的工作站集群名称。
    • WORKSTATION_CONFIG_ID:工作站配置的名称。
  2. 运行 gcloud compute accelerator-types list 命令,选择配置的两个副本可用区中都支持的 GPU 型号:

    gcloud compute accelerator-types list \
      --format="table(name:sort=1,zone,description,maximumCardsPerInstance)" \
      --filter='zone.basename()=(ZONES) AND name~"nvidia-tesla-(a100|p100|p4|t4|v100)$"' \
      --project=PROJECT_ID
    

    ZONES 替换为以逗号分隔的 在上一步确定的副本可用区 (例如 us-central1-a,us-central1-c)。

    选择一个在表中列出两次的 GPU 型号,表明其为 两个副本可用区中均可用

    记下您可以为所选 GPU 型号附加的卡片数量上限。

  3. 确定二者都提供哪些受支持的机器类型 使用 Deployment 规范 gcloud compute machine-types list 命令

    1. 如果您在上一步中选择了 NVIDIA A100 40GB GPU 型号, 您的配置必须使用 A2 机器系列:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:a2-highgpu- OR name:a2-megagpu-" \
        --zones=ZONES \
        --project=PROJECT_ID
      
    2. 如果您在上一步中选择了任何其他 GPU 型号, 配置必须使用 N1 机器系列:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:n1-standard-" \
        --zones=ZONES \
        --project=PROJECT_ID
      

    选择表格中列出两次的机器类型,表示该机器类型适用于两个副本可用区

  4. 现在,您已经选择了 GPU 模型和兼容的机器类型, 更新配置:

    1. 对于 NVIDIA A100 40GB GPU,运行此命令以更新您的 配置:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION \
        --cluster=WORKSTATION_CLUSTER_ID \
        WORKSTATION_CONFIG_ID \
        --machine-type=A2_MACHINE_TYPE
      

      A2_MACHINE_TYPE 替换为所选的 A2 机器 类型(例如 a2-highgpu-1g)。

    2. 对于所有其他 GPU 型号,请运行以下命令:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION 
        --cluster=WORKSTATION_CLUSTER_ID \
        WORKSTATION_CONFIG_ID \
        --machine-type=N1_MACHINE_TYPE \
        --accelerator-type=ACCELERATOR_TYPE \
        --accelerator-count=ACCELERATOR_COUNT
      

      替换以下内容:

      • N1_MACHINE_TYPE:从 N1 系列中选择的机器类型(例如 n1-standard-2)。
      • ACCELERATOR_TYPE:所选 GPU 型号的名称(例如 nvidia-tesla-t4)。
      • ACCELERATOR_COUNT:要挂接的 GPU 数量 (例如 124)。必须是二次方 小于 GPU 模型的最大值。

创建具有 GPU 的新工作站配置

创建将 GPU 挂接到工作站的新工作站配置 请完成以下任一标签页中的步骤。

准备工作

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

Install the Google Cloud CLI, then initialize it by running the following command:

gcloud init

REST

如需在本地开发环境中使用本页面上的 REST API 示例,请使用您提供给 gcloud CLI 的凭据。

    Install the Google Cloud CLI, then initialize it by running the following command:

    gcloud init

如需了解详情,请参阅 Google Cloud 身份验证文档中的使用 REST 时进行身份验证

选择一个 GPU 型号,然后查看 GPU 可用性表,选择一个至少有 两个可用区提供所选 GPU 型号的区域。

如果所选区域中还没有集群,可以在其中创建 新配置,请按以下步骤 创建工作站集群 资源。

查看 Cloud Workstations 价格概览,了解配置 GPU 对费用有何影响。注意事项 GPU 已挂接到指定的预启动虚拟机 (VM) 由配置的快速启动池大小决定。

创建新配置

控制台

从以下位置创建具有 GPU 的新工作站配置: Google Cloud 控制台,执行以下操作:

  1. 在 Google Cloud 控制台中,前往工作站配置 页面。

    前往“工作站配置”页面

  2. 工作站配置页面上,点击 add_box创建

  3. 创建工作站配置页面的基本信息步骤中,在名称字段中为您的配置指定名称。

    工作站集群字段中,选择所选区域中的某个集群。

    点击继续进入机器设置步骤。

  4. 创建工作站机器设置步骤中 配置页面中,首先点击切换开关以选择 GPU 而不是通用机器家族。

    1. 然后,在区域字段中,选中两个区域旁边的复选框 您选择的 GPU 型号在哪些位置可用(请参阅 GPU 可用性表

    2. GPU 类型字段中,选择要使用的 GPU 型号。

    3. GPU 数量字段中,选择要连接到每个工作站的 GPU 卡数量。

    4. 机器类型字段中,选择兼容的机器类型。

  5. 点击继续以配置环境设置和 IAM 政策,然后点击创建以预配新的工作站配置。

gcloud

使用 gcloud CLI(通过运行 gcloud workstations configs create 命令

  • 对于 NVIDIA A100 40GB GPU,请运行以下命令以创建配置:

    gcloud beta workstations configs create \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID \
      --replica-zones=REPLICA_ZONES \
      --machine-type=A2_MACHINE_TYPE
    

    替换以下内容:

    • PROJECT_ID:将包含新工作站配置的项目的 ID。
    • LOCATION:包含配置的工作站集群的位置。
    • WORKSTATION_CLUSTER_ID:将包含新工作站配置的工作站集群的名称。
    • WORKSTATION_CONFIG_ID:新工作站配置的名称。
    • REPLICA_ZONES:集群所在区域中恰好有两个可用区提供所选的 GPU 型号(例如 us-central1-a,us-central1-c)。
    • A2_MACHINE_TYPE:所选的 A2 系列机器类型(例如 a2-highgpu-1g)。
  • 对于所有其他 GPU 型号,请运行以下命令以创建配置:

    gcloud beta workstations configs create \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID \
      --replica-zones=REPLICA_ZONES \
      --machine-type=N1_MACHINE_TYPE \
      --accelerator-type=ACCELERATOR_TYPE \
      --accelerator-count=ACCELERATOR_COUNT
    

    替换以下内容:

    • PROJECT_ID:将包含新工作站配置的项目的 ID。
    • LOCATION:包含配置的工作站集群的位置。
    • WORKSTATION_CLUSTER_ID:将包含新工作站配置的工作站集群的名称。
    • WORKSTATION_CONFIG_ID:新工作站配置的名称。
    • REPLICA_ZONES:集群所在区域内提供所选 GPU 模型的两个可用区(例如 us-central1-a,us-central1-c)。
    • N1_MACHINE_TYPE:所选的 N1 系列机器类型(例如 n1-standard-2)。
    • ACCELERATOR_TYPE:所选 GPU 型号的名称(例如 nvidia-tesla-t4)。
    • ACCELERATOR_COUNT:要挂接到每个工作站的 GPU 数量(例如 124)。

NVIDIA GPU 设备驱动程序

Cloud Workstations 会在虚拟机启动期间在工作站的主机虚拟机上安装 NVIDIA 设备驱动程序。

如需确定工作站上安装了哪个版本的设备驱动程序, 运行以下命令:

nvidia-smi --query-gpu=name,driver_version --format=csv

各区域和可用区的 GPU 可用性

您可以按位置或 GPU 模型搜索,也可以同时使用两者。

可用区 位置 GPU 平台
asia-east1-a 亚太地区台湾彰化 T4、P100
asia-east1-b 亚太地区台湾彰化
asia-east1-c 亚太地区台湾彰化 T4、V100、P100
asia-east2-a 亚太地区香港 T4
asia-east2-b 亚太地区香港
asia-east2-c 亚太地区香港 T4
asia-northeast1-a 亚太地区日本东京 A100 40GB、T4
asia-northeast1-b 亚太地区日本东京
asia-northeast1-c 亚太地区日本东京 A100 40GB、T4
asia-northeast3-a 亚太地区韩国首尔 A100 40GB
asia-northeast3-b 亚太地区韩国首尔 A100 40GB、T4
asia-northeast3-c 亚太地区韩国首尔 T4
asia-south1-a 亚太地区印度孟买 T4
asia-south1-b 亚太地区印度孟买 T4
asia-south1-c 亚太地区印度孟买 T4
asia-southeast1-a 亚太地区新加坡裕廊西 T4
asia-southeast1-b 亚太地区新加坡裕廊西 A100 40GB、T4、P4
asia-southeast1-c 亚太地区新加坡裕廊西 A100 40GB、T4、P4
australia-southeast1-a 亚太地区澳大利亚悉尼 T4、P4
australia-southeast1-b 亚太地区澳大利亚悉尼 P4
australia-southeast1-c 亚太地区澳大利亚悉尼 T4、P100
europe-north1-a
europe-north1-b
europe-north1-c
欧洲芬兰哈米纳
europe-west1-b 欧洲比利时圣吉斯兰 T4、P100
europe-west1-c 欧洲比利时圣吉斯兰 T4
europe-west1-d 欧洲比利时圣吉斯兰 P100、T4
europe-west2-a
europe-west2-b
欧洲英国伦敦 T4
europe-west2-c 欧洲英国伦敦
europe-west3-a 欧洲德国法兰克福
europe-west3-b 欧洲德国法兰克福 T4
europe-west3-c 欧洲德国法兰克福
europe-west4-a 欧洲荷兰埃姆斯哈文 A100 40GB、T4、V100、P100
europe-west4-b 欧洲荷兰埃姆斯哈文 A100 40GB、T4、P4、V100
europe-west4-c 欧洲荷兰埃姆斯哈文 T4、P4、V100
europe-west6-a
europe-west6-b
europe-west6-c
欧洲瑞士苏黎世
europe-west8-a
europe-west8-b
europe-west8-c
欧洲意大利米兰
europe-west9-a
europe-west9-b
europe-west9-c
欧洲法国巴黎
europe-west12-a
europe-west12-b
europe-west12-c
欧洲意大利都灵
europe-southwest1-a
europe-southwest1-b
europe-southwest1-c
欧洲西班牙马德里
me-west1-a 特拉维夫、以色列、中东
me-west1-b 中东以色列特拉维夫 A100 40GB、T4
me-west1-c 特拉维夫、以色列、中东 A100 40GB、T4
northamerica-northeast1-a 北美洲魁北克省蒙特利尔 P4
northamerica-northeast1-b 北美洲魁北克省蒙特利尔 P4
northamerica-northeast1-c 北美洲魁北克省蒙特利尔 T4、P4
southamerica-east1-a 南美洲巴西圣保罗省奥萨斯库 T4
southamerica-east1-c 南美洲巴西圣保罗省奥萨斯库 T4
southamerica-west1-a
southamerica-west1-b
southamerica-west1-c
南美洲智利圣地亚哥
us-central1-a 北美洲爱荷华州康瑟布拉夫斯 A100 40GB、T4、P4、V100
us-central1-b 北美洲爱荷华州康瑟布拉夫斯 A100 40GB、T4、V100
us-central1-c 北美洲爱荷华州康瑟布拉夫斯 A100 40GB、T4、P4、V100、P100
us-central1-f 北美洲爱荷华州康瑟布拉夫斯 A100 40GB、T4、V100、P100
us-east1-b 北美洲南卡罗来纳州蒙克斯科纳 A100 40GB、P100
us-east1-c 北美洲南卡罗来纳州蒙克斯科纳 T4、V100、P100
us-east1-d 北美洲南卡罗来纳州蒙克斯科纳 T4
us-east4-a
us-east4-b
us-east4-c
北美洲弗吉尼亚阿什本 T4、P4
us-east5-a
us-east5-b
us-east5-c
北美洲俄亥俄州哥伦布
us-west1-a 北美洲俄勒冈州达尔斯 T4、V100、P100
us-west1-b 北美洲俄勒冈州达尔斯 A100 40GB、T4、V100、P100
us-west1-c 北美洲俄勒冈州达尔斯
us-west4-a 北美洲内华达州拉斯维加斯 T4
us-west4-b 北美洲内华达州拉斯维加斯 A100 40GB、T4
us-west4-c 北美洲内华达州拉斯维加斯

后续步骤