创建 A3 Ultra 或 A4 实例

本文档介绍如何基于 A3 Ultra 或 A4 机器系列创建挂接 GPU 的实例。如需详细了解如何创建挂接 GPU 的实例，请参阅创建挂接 GPU 的实例概览。

准备工作

如需查看创建挂接 GPU 的实例的限制和其他前提步骤（例如，如何选择操作系统映像或检查 GPU 配额），请参阅创建挂接 GPU 的实例概览。
如果您尚未设置身份验证，请进行设置。身份验证用于验证您的身份，以便访问 Google Cloud 服务和 API。如需从本地开发环境运行代码或示例，您可以通过选择以下选项之一向 Compute Engine 进行身份验证：
Select the tab for how you plan to use the samples on this page:
Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.
gcloud
1. 安装 Google Cloud CLI。安装完成后，运行以下命令来初始化 Google Cloud CLI：
  gcloud init
  如果您使用的是外部身份提供方 (IdP)，则必须先使用联合身份登录 gcloud CLI。
  
  注意：如果您之前安装了 gcloud CLI，请确保通过运行 gcloud components update 来获得最新版本。
2. Set a default region and zone.
REST

如需在本地开发环境中使用本页面上的 REST API 示例，请使用您提供给 gcloud CLI 的凭证。
如需了解详情，请参阅 Google Cloud 身份验证文档中的使用 REST 时进行身份验证。

所需的角色

如需获得创建实例所需的权限，请让您的管理员为您授予项目的 Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) IAM 角色。如需详细了解如何授予角色，请参阅管理对项目、文件夹和组织的访问权限。

此预定义角色可提供创建实例所需的权限。如需查看所需的确切权限，请展开所需权限部分：

所需权限

创建实例需要以下权限：

针对项目的 compute.instances.create 权限
使用自定义映像创建虚拟机：针对映像的 compute.images.useReadOnly 权限
使用快照创建虚拟机：针对快照的 compute.snapshots.useReadOnly 权限
使用实例模板创建虚拟机：针对实例模板的 compute.instanceTemplates.useReadOnly 权限
为虚拟机分配旧版网络：针对项目的 compute.networks.use 权限
为虚拟机指定静态 IP 地址：针对项目的 compute.addresses.use 权限
使用旧版网络时为虚拟机分配外部 IP 地址：针对项目的 compute.networks.useExternalIp 权限
为虚拟机指定子网：针对项目或所选子网的 compute.subnetworks.use 权限
在使用 VPC 网络时为虚拟机分配外部 IP 地址：针对项目或所选子网的 compute.subnetworks.useExternalIp 权限
为虚拟机设置虚拟机实例元数据：针对项目的 compute.instances.setMetadata 权限
为虚拟机设置标记：针对虚拟机的 compute.instances.setTags 权限
为虚拟机设置标签：针对虚拟机的 compute.instances.setLabels 权限
为虚拟机设置要使用的服务账号：针对虚拟机的 compute.instances.setServiceAccount 权限
为虚拟机创建新磁盘：针对项目的 compute.disks.create 权限
以只读或读写模式挂接现有磁盘：针对磁盘的 compute.disks.use 权限
以只读模式挂接现有磁盘：针对磁盘的 compute.disks.useReadOnly 权限

您也可以使用自定义角色或其他预定义角色来获取这些权限。

确定如何创建 A3 Ultra 或 A4 实例

您可以通过以下创建选项创建 A3 Ultra 或 A4 实例，每种选项的创建过程、资源可用性和价格各不相同。根据您的工作负载确定要使用的选项。

如果您需要运行大型模型训练和推理等对延迟要求极低的长时间运行的 AI 和机器学习工作负载，则请创建使用 Cluster Director 所提供功能与服务的虚拟机或集群。借助 Cluster Director，您可以预留密集分配的机器，这些机器可提供拓扑感知调度，并增强监控和维护。如需详细了解 Cluster Director，请参阅 AI Hypercomputer 文档中的 Cluster Director。

如需了解如何创建 A3 Ultra 或 A4 实例，请参阅 AI Hypercomputer 文档中的创建虚拟机和集群概览。
如果您需要运行短期 AI 和机器学习工作负载，请选择以下任一选项：
- 如果您的工作负载需要运行长达 90 天，且网络延迟时间极短，则请使用日历模式下的未来预留请求，为未来的日期预留密集分配的机器。在预留期开始时，您可以使用预留的容量创建 A3 Ultra 或 A4 实例。在预留期结束时，Compute Engine 会删除预留以及使用该预留的任何虚拟机。
  
  如需了解如何创建使用预留的 A3 Ultra 或 A4 实例，请参阅本文档中的创建 A3 Ultra 或 A4 实例。
- 如果您的工作负载可以随时启动，并且需要启动的虚拟机数量是确定的，则请在托管式实例组 (MIG) 中使用调整大小请求。借助 MIG 调整大小请求，您可以请求 Compute Engine 在资源可用时一次性将虚拟机全部添加到您的 MIG。这些虚拟机最多可运行 7 天。由于资源是从安全的池中交付的，因此与按需请求相比，您获得 GPU 的几率更高。
  
  如需详细了解 MIG 调整大小请求，请参阅关于 MIG 中的调整大小请求。
- 如果您的工作负载容忍可用性中断，那么您可以通过使用 Spot 虚拟机获得大幅折扣。您可以根据需要创建和删除 Spot 虚拟机。不过，Spot 虚拟机是有限资源，Compute Engine 可能会随时抢占（自动停止或删除）Spot 虚拟机来收回容量。如需详细了解 Spot 虚拟机，请参阅 Spot 虚拟机。
  
  如需了解如何使用 Spot 虚拟机创建 A3 Ultra 或 A4 实例，请参阅本文档中的创建 A3 Ultra 或 A4 实例。

创建 A3 Ultra 或 A4 实例

如需使用预留或 Spot 虚拟机创建 A3 Ultra 或 A4 实例，请完成以下步骤：

创建 VPC 网络
创建实例
准备好实例以供使用

创建 VPC 网络

提示：如果您要设置快速测试，可以跳过此步骤，改为指定单个 NIC --network-interface=nic-type=GVNIC。

对于 A4 或 A3 Ultra 机器类型，您必须为以下网络接口创建三个 VPC 网络：

2 个 VPC 网络，用于 gVNIC 网络接口 (NIC)。这些接口用于主机到主机的通信。
CX7 NIC 需要 1 个使用 RDMA 网络配置文件的 VPC 网络。此网络需要有 8 个子网（每个 CX7 NIC 一个子网），用于 GPU 之间的通信。

如需详细了解 NIC 配置，请参阅查看网络带宽和 NIC 配置。

您可以根据说明手动设置网络，也可以使用提供的脚本自动设置。

说明指南

如需创建网络，您可以按照以下说明操作：

如需为 gVNIC 创建 VPC 网络，请参阅创建和管理 Virtual Private Cloud 网络。
如需创建使用 RDMA 网络配置文件的 VPC 网络，请参阅为 RDMA NIC 创建 Virtual Private Cloud 网络。

对于这些 VPC 网络，我们建议将最大传输单元 (MTU) 设置为更大的值。对于 A4 或 A3 Ultra 机器类型，建议的 MTU 为 8896 字节。如需查看其他 GPU 机器类型的推荐 MTU 设置，请参阅适用于 GPU 机器类型的 MTU 设置。

脚本

如需创建网络，请按照以下步骤操作：

使用此脚本创建网络。

    #!/bin/bash

    # Create standard VPCs (network and subnets) for the gVNICs
    for N in $(seq 0 1); do
      gcloud compute networks create GVNIC_NAME_PREFIX-net-$N \
        --subnet-mode=custom \
        --mtu=8896

      gcloud compute networks subnets create GVNIC_NAME_PREFIX-sub-$N \
        --network=GVNIC_NAME_PREFIX-net-$N \
        --region=REGION \
        --range=10.$N.0.0/16

      gcloud compute firewall-rules create GVNIC_NAME_PREFIX-internal-$N \
        --network=GVNIC_NAME_PREFIX-net-$N \
        --action=ALLOW \
        --rules=tcp:0-65535,udp:0-65535,icmp \
        --source-ranges=10.0.0.0/8
    done

    # Create SSH firewall rules
    gcloud compute firewall-rules create GVNIC_NAME_PREFIX-ssh \
      --network=GVNIC_NAME_PREFIX-net-0 \
      --action=ALLOW \
      --rules=tcp:22 \
      --source-ranges=IP_RANGE

    # Assumes that an external IP is only created for vNIC 0
    gcloud compute firewall-rules create GVNIC_NAME_PREFIX-allow-ping-net-0 \
      --network=GVNIC_NAME_PREFIX-net-0 \
      --action=ALLOW \
      --rules=icmp \
      --source-ranges=IP_RANGE

    # List and make sure network profiles exist in the machine type's zone
    gcloud compute network-profiles list --filter "location.name=ZONE"

    # Create network for CX-7
    gcloud compute networks create RDMA_NAME_PREFIX-mrdma \
      --network-profile=ZONE-vpc-roce \
      --subnet-mode custom \
      --mtu=8896

    # Create subnets
    for N in $(seq 0 7); do
      gcloud compute networks subnets create RDMA_NAME_PREFIX-mrdma-sub-$N \
        --network=RDMA_NAME_PREFIX-mrdma \
        --region=REGION \
        --range=10.$((N+2)).0.0/16 # offset to avoid overlap with gVNICs
    done

替换以下内容：

GVNIC_NAME_PREFIX：用于 gVNIC 的标准 VPC 网络和子网的自定义名称前缀。
RDMA_NAME_PREFIX：用于为 CX7 NIC 使用 RDMA 网络配置文件的 VPC 网络和子网的自定义名称前缀。
ZONE：您要使用的机器类型在其中可用的可用区，例如 us-central1-a。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
REGION：您希望创建子网的区域。此区域必须与指定的可用区相对应。例如，如果您的可用区为 us-central1-a，则您的区域为 us-central1。
IP_RANGE：用于 SSH 防火墙规则的 IP 范围。

可选：如需验证 VPC 网络资源是否已成功创建，请在 Google Cloud 控制台中检查网络设置：
1. 在 Google Cloud 控制台中，前往 VPC 网络页面。
  进入 VPC 网络页面
2. 在列表中搜索您在上一步中创建的网络。
3. 如需查看子网、防火墙规则和其他网络设置，请点击网络的名称。

创建实例

如需创建 A3 Ultra 或 A4 实例，请选择以下方法之一：

创建使用预留的实例
创建 Spot 虚拟机

创建使用预留的实例

如需创建使用预留的实例，请使用以下选项之一：

控制台

在 Google Cloud 控制台中，前往创建实例页面。

转到“创建实例”

此时将显示创建实例屏幕，并显示机器配置窗格。
在机器配置窗格中，完成以下步骤：
1. 为您的实例指定名称。请参阅资源命名惯例。
2. 选择您已预留容量的区域和可用区。
3. 点击 GPU 标签页，然后完成以下步骤：
  1. 在 GPU 类型列表中，选择您的 GPU 类型。
    - 对于 A4 实例，选择 NVIDIA B200。
    - 对于 A3 Ultra 实例，选择 NVIDIA H200 141GB。
  2. 在 GPU 数量列表中，选择 8。
在导航菜单中，点击操作系统和存储空间。在显示的操作系统和存储空间窗格中，完成以下步骤：
1. 点击更改。系统会显示启动磁盘配置窗格。
2. 在公共映像标签页中，选择推荐的映像。如需查看推荐映像的列表，请参阅操作系统。
3. 如需确认您的启动磁盘选项，请点击选择。
如需创建多 NIC 实例，请完成以下步骤。否则，如需创建单 NIC 实例，请跳过这些步骤。
- 在导航菜单中，点击网络。在显示的网络窗格中，完成以下步骤：
  1. 在网络接口部分中，完成以下步骤：
  2. 删除默认网络接口。如需删除该接口，请点击删除。
  3. 点击添加网络接口。使用此选项添加您在上一部分中创建的 gVNIC 网络和 RDMA 网络。添加网络时，请注意以下事项：
    - 在网络和子网列表中指定您的主机网络，并将网络接口卡列表设置为 gVNIC。
    - 在网络和子网列表中指定 GPU 网络，并将这些网络的网络接口卡列表设置为 MRDMA。
在导航菜单中，点击高级。在显示的高级窗格中，完成以下步骤：
1. 在预留部分中，选择选择预留，然后点击选择预留。此操作会打开一个窗格，其中列出了所选可用区内的可用预留。在预订列表中，完成以下步骤：
  1. 选择要用于虚拟机的预留。您还可以选择预留中的特定区块。
  2. 点击选择。
2. 在预配模型部分中，展开虚拟机预配模型高级设置部分。
3. 在虚拟机终止时列表中，选择关停（默认）或删除。
要创建并启动该实例，请点击创建。

gcloud

如需创建虚拟机，请使用 gcloud compute instances create 命令。

gcloud compute instances create VM_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-0,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-1,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-2,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-3,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-4,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-5,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-6,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-7,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE

替换以下内容：

VM_NAME：虚拟机的名称。
MACHINE_TYPE：要用于虚拟机的机器类型。指定 A4 或 A3 Ultra 机器类型。如需了解详情，请参阅 GPU 机器类型。
IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看受支持的操作系统列表，请参阅操作系统详细信息。
IMAGE_PROJECT：操作系统映像的项目 ID。
ZONE：您要使用的机器类型在其中可用的可用区。如需了解区域，请参阅 GPU 区域和可用区。
DISK_SIZE：启动磁盘的大小（以 GB 为单位）。
GVNIC_NAME_PREFIX：您在创建使用 gVNIC 的标准 VPC 网络和子网时指定的名称前缀。
RDMA_NAME_PREFIX：您在创建使用 RDMA NIC 的 VPC 网络和子网时指定的名称前缀。
RESERVATION：预留名称或预留中的特定块。如需获取预留名称或可用块，请参阅查看预留容量。根据您对实例布置的要求，请按以下方式之一操作：
- 如需在任意块上创建实例，请执行以下操作：
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
  此外，如需在同一块中创建多个实例，请在创建每个实例时应用相同的紧凑布置政策，该政策指定了块共置 (maxDistance=2)。然后，Compute Engine 会将该政策应用于预留，并在同一块上创建实例。
- 如需在特定块上创建实例，请执行以下操作：
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
```
提示：如果预留存在于当前项目中，则可以从预留值中省略 projects/RESERVATION_OWNER_PROJECT_ID/reservations/。
TERMINATION_ACTION：指示在预留期结束时，Compute Engine 是关停 (STOP) 还是删除 (DELETE) 虚拟机。

REST

如需创建虚拟机，请向 instances.insert 方法发出 POST 请求。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType":"projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name":"VM_NAME",
  "disks":[
    {
      "boot":true,
      "initializeParams":{
        "diskSizeGb":"DISK_SIZE",
        "diskType":"hyperdisk-balanced",
        "sourceImage":"projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode":"READ_WRITE",
      "type":"PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "networkInterfaces": [
    {
      "accessConfigs": [
        {
          "name": "external-nat",
          "type": "ONE_TO_ONE_NAT"
        }
      ],
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-0"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-1"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-2"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-3"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-4"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-5"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-6"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-7"
    }
  ],
  "reservationAffinity":{
    "consumeReservationType":"SPECIFIC_RESERVATION",
    "key":"compute.googleapis.com/reservation-name",
    "values":[
      "RESERVATION"
    ]
  },
"scheduling":{
    "provisioningModel":"RESERVATION_BOUND",
    "instanceTerminationAction":"TERMINATION_ACTION",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart":true
  }
}

替换以下内容：

PROJECT_ID：您要在其中创建虚拟机的项目的 ID。
ZONE：您要使用的机器类型在其中可用的可用区。如需了解区域，请参阅 GPU 区域和可用区。
MACHINE_TYPE：要用于虚拟机的机器类型。指定 A4 或 A3 Ultra 机器类型。如需了解详情，请参阅 GPU 机器类型。
VM_NAME：虚拟机的名称。
DISK_SIZE：启动磁盘的大小（以 GB 为单位）。
IMAGE_PROJECT：操作系统映像的项目 ID。
IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看受支持的操作系统列表，请参阅操作系统详细信息。
NETWORK_PROJECT_ID：网络的项目 ID。
GVNIC_NAME_PREFIX：您在创建使用 gVNIC 的标准 VPC 网络和子网时指定的名称前缀。
REGION：子网所在的区域。
RDMA_NAME_PREFIX：您在创建使用 RDMA NIC 的 VPC 网络和子网时指定的名称前缀。
RESERVATION：预留名称或预留中的特定块。如需获取预留名称或可用块，请参阅查看预留容量。根据您对实例布置的要求，请按以下方式之一操作：
- 如需在任意块上创建实例，请执行以下操作：
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
  此外，如需在同一块中创建多个实例，请在创建每个实例时应用相同的紧凑布置政策，该政策指定了块共置 (maxDistance=2)。然后，Compute Engine 会将该政策应用于预留，并在同一块上创建实例。
- 如需在特定块上创建实例，请执行以下操作：
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
```
提示：如果预留存在于当前项目中，则可以从预留值中省略 projects/RESERVATION_OWNER_PROJECT_ID/reservations/。
TERMINATION_ACTION：指示在预留期结束时，Compute Engine 是关停 (STOP) 还是删除 (DELETE) 虚拟机。

创建 Spot 虚拟机

如需创建 Spot 虚拟机，请使用以下选项之一：

控制台

在 Google Cloud 控制台中，前往创建实例页面。

转到“创建实例”

此时将显示创建实例屏幕，并显示机器配置窗格。
在机器配置窗格中，完成以下步骤：
1. 为您的实例指定名称。请参阅资源命名惯例。
2. 选择要在其中创建虚拟机的区域和可用区。如需查看 GPU 在哪些区域和可用区中可用，请参阅 GPU 区域和可用区。
3. 点击 GPU 标签页，然后完成以下步骤：
  1. 在 GPU 类型列表中，选择您的 GPU 类型。
    - 对于 A4 实例，选择 NVIDIA B200。
    - 对于 A3 Ultra 实例，选择 NVIDIA H200 141GB。
  2. 在 GPU 数量列表中，选择 8。
在导航菜单中，点击操作系统和存储空间。在显示的操作系统和存储空间窗格中，完成以下步骤：
1. 点击更改。系统会显示启动磁盘配置窗格。
2. 在公共映像标签页中，选择推荐的映像。如需查看推荐映像的列表，请参阅操作系统。
3. 如需确认您的启动磁盘选项，请点击选择。
如需创建多 NIC 实例，请完成以下步骤。否则，如需创建单 NIC 实例，请跳过这些步骤。
- 在导航菜单中，点击网络。在显示的网络窗格中，完成以下步骤：
  1. 在网络接口部分中，完成以下步骤：
  2. 删除默认网络接口。如需删除该接口，请点击删除。
  3. 点击添加网络接口。使用此选项添加您在上一部分中创建的 gVNIC 网络和 RDMA 网络。添加网络时，您必须执行以下操作：
    - 在网络和子网列表中指定您的主机网络，并将网络接口卡列表设置为 gVNIC。
    - 在网络和子网列表中指定 GPU 网络，并将这些网络的网络接口卡列表设置为 MRDMA。
在导航菜单中，点击高级。在显示的高级窗格中，完成以下步骤：
1. 在预配模型部分中，从虚拟机预配模型列表中选择 Spot。
2. （可选）如需指定当 Compute Engine 抢占实例时应执行的操作，请完成以下步骤：
  1. 展开虚拟机预配模型高级设置部分。
  2. 在虚拟机终止时列表中，选择停止或删除。
要创建并启动该实例，请点击创建。

gcloud

如需创建虚拟机，请使用 gcloud compute instances create 命令。

gcloud compute instances create VM_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-0,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-1,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-2,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-3,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-4,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-5,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-6,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-7,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION

替换以下内容：

VM_NAME：虚拟机的名称。
MACHINE_TYPE：要用于虚拟机的机器类型。指定 A4 或 A3 Ultra 机器类型。如需了解详情，请参阅 GPU 机器类型。
IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看受支持的操作系统列表，请参阅操作系统详细信息。
IMAGE_PROJECT：操作系统映像的项目 ID。
ZONE：您要使用的机器类型在其中可用的可用区。如需了解区域，请参阅 GPU 区域和可用区。
DISK_SIZE：启动磁盘的大小（以 GB 为单位）。
GVNIC_NAME_PREFIX：您在创建使用 gVNIC 的标准 VPC 网络和子网时指定的名称前缀。
RDMA_NAME_PREFIX：您在创建使用 RDMA NIC 的 VPC 网络和子网时指定的名称前缀。
TERMINATION_ACTION：当 Compute Engine 抢占实例时执行的操作（STOP [默认] 或 DELETE）。

重要提示：请确保您的应用可以处理抢占。例如，我们建议您在实例创建期间指定关停脚本来处理抢占。了解如何使用关停脚本处理抢占。

REST

如需创建虚拟机，请向 instances.insert 方法发出 POST 请求。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType":"projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name":"VM_NAME",
  "disks":[
    {
      "boot":true,
      "initializeParams":{
        "diskSizeGb":"DISK_SIZE",
        "diskType":"hyperdisk-balanced",
        "sourceImage":"projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode":"READ_WRITE",
      "type":"PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "networkInterfaces": [
    {
      "accessConfigs": [
        {
          "name": "external-nat",
          "type": "ONE_TO_ONE_NAT"
        }
      ],
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-0"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-1"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-2"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-3"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-4"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-5"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-6"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-7"
    }
  ],
  "scheduling":
  {
    "provisioningModel": "SPOT",
    "instanceTerminationAction": "TERMINATION_ACTION"
  }
}

替换以下内容：

PROJECT_ID：您要在其中创建虚拟机的项目的 ID。
ZONE：您要使用的机器类型在其中可用的可用区。如需了解区域，请参阅 GPU 区域和可用区。
MACHINE_TYPE：要用于虚拟机的机器类型。指定 A4 或 A3 Ultra 机器类型。如需了解详情，请参阅 GPU 机器类型。
VM_NAME：虚拟机的名称。
DISK_SIZE：启动磁盘的大小（以 GB 为单位）。
IMAGE_PROJECT：操作系统映像的项目 ID。
IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看受支持的操作系统列表，请参阅操作系统详细信息。
NETWORK_PROJECT_ID：网络的项目 ID。
GVNIC_NAME_PREFIX：您在创建使用 gVNIC 的标准 VPC 网络和子网时指定的名称前缀。
REGION：子网所在的区域。
RDMA_NAME_PREFIX：您在创建使用 RDMA NIC 的 VPC 网络和子网时指定的名称前缀。
TERMINATION_ACTION：当 Compute Engine 抢占实例时执行的操作（STOP [默认] 或 DELETE）。

重要提示：请确保您的应用可以处理抢占。例如，我们建议您在实例创建期间指定关停脚本来处理抢占。了解如何使用关停脚本处理抢占。

准备好实例以供使用

如需准备挂接了 GPU 的实例以供使用，请完成以下步骤：

如需让 A4 或 A3 Ultra 实例使用其挂接的 GPU，该实例必须安装 GPU 驱动程序。除非实例中的映像已包含所需的 GPU 驱动程序，否则请安装 GPU 驱动程序。
如果您在上一个部分中创建了 Spot 虚拟机，请完成以下步骤：
- 如需为 Spot 虚拟机做好应对潜在抢占的准备，请参阅管理 Spot 虚拟机抢占。
- 可选：了解 Spot 虚拟机的最佳实践。

后续步骤

如需监控 GPU 性能，请参阅监控 GPU 性能。
如需排查 GPU 实例的问题，请参阅排查 GPU 虚拟机问题。
详细了解 GPU 平台。

创建 A3 Ultra 或 A4 实例 使用集合让一切井井有条 根据您的偏好保存内容并对其进行分类。

准备工作

Console

gcloud

REST

所需的角色

所需权限

确定如何创建 A3 Ultra 或 A4 实例

创建 A3 Ultra 或 A4 实例

创建 VPC 网络

说明指南

脚本

创建实例

创建使用预留的实例

控制台

gcloud

REST

创建 Spot 虚拟机

控制台

gcloud

REST

准备好实例以供使用

后续步骤

创建 A3 Ultra 或 A4 实例