本文档介绍如何在挂接了 GPU 的虚拟机实例的托管式实例组 (MIG) 中创建调整大小请求。
准备工作
- 查看调整大小请求的工作原理。
- 为确保您有足够的 GPU 配额可以用于请求的资源,请检查您的 GPU 配额。
-
设置身份验证(如果尚未设置)。身份验证是通过其进行身份验证以访问 Google Cloud 服务和 API 的过程。如需从本地开发环境运行代码或示例,您可以按如下方式向 Compute Engine 进行身份验证。
Select the tab for how you plan to use the samples on this page:
Console
When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.
gcloud
-
Install the Google Cloud CLI, then initialize it by running the following command:
gcloud init
- Set a default region and zone.
-
如需创建实例模板:针对项目的
compute.instanceTemplates.create
权限 -
如需创建可用区级 MIG:针对项目的
compute.instanceGroupManagers.create
权限 -
如需在 MIG 中创建调整大小请求:针对项目的
compute.instanceGroupManagers.update
权限 在 Google Cloud 控制台中,转到实例模板页面。
点击创建实例模板。
在名称字段中,输入实例模板的名称。
在位置部分,选择以下选项之一:
如需创建全球实例模板,请选择全球(默认)。
如需创建区域级实例模板,请选择区域,然后选择要在其中创建实例模板的区域。
在机器配置部分中,执行以下操作:
点击 GPU 标签页。
在 GPU 类型列表中,选择 GPU 类型。
在 GPU 数量列表中,选择 GPU 的数量。
可选:如果您的 GPU 模型支持适用于图形工作负载的 NVIDIA RTX 虚拟工作站 (vWS),并且您计划运行图形密集型工作负载,请选择启用虚拟工作站 (NVIDIA GRID)。
在机器类型部分中,选择一种机器类型。
可选:如需更改启动磁盘类型或映像的默认值,请在启动磁盘部分中,点击更改。然后按照提示更改启动磁盘。
展开高级选项部分,然后执行以下操作:
展开管理部分。
在预留列表中,选择不使用。
点击创建。
将
--maintenance-policy
标志设置为TERMINATE
。将
--reservation-affinity
标志设置为none
。INSTANCE_TEMPLATE_NAME
:要创建的实例模板的名称。IMAGE_PROJECT
:映像所属的映像项目;例如debian-cloud
。如需详细了解支持的映像项目,请参阅公共映像。IMAGE_FAMILY
或IMAGE
:指定以下其中一项:MACHINE_TYPE
:支持 GPU 的机器类型。 如果您指定 N1 机器类型,请添加--accelerator
标志以指定要挂接到虚拟机的 GPU 数量和类型。将
scheduling.onHostMaintenance
字段设置为TERMINATE
。将
reservationAffinity.consumeReservationType
字段设置为NO_RESERVATION
。PROJECT_ID
:要在其中创建实例模板的项目的 ID。INSTANCE_TEMPLATE_NAME
:要创建的实例模板的名称。IMAGE_PROJECT
:映像所属的映像项目;例如debian-cloud
。如需详细了解支持的映像项目,请参阅公共映像。IMAGE
或IMAGE_FAMILY
:指定以下其中一项:MACHINE_TYPE
:支持 GPU 的机器类型。 如果您指定 N1 机器类型,请在请求正文中添加guestAccelerators
字段,以指定要挂接到虚拟机的 GPU 的数量和类型。将 MIG 的更新类型设置为寻机更新(默认)。
如果您在 MIG 中配置了自动扩缩,请删除自动扩缩配置。
在 Google Cloud 控制台中,转到实例组页面。
点击创建实例组。
此时会打开创建实例组页面。
在名称字段中,输入 MIG 的名称。
在实例模板列表中,选择您在上一部分中创建的实例模板。如果您选择区域级实例模板,则将区域列表设置为该实例模板所在的区域。
在位置部分,执行以下操作:
选择单个可用区(默认)。
选择 MIG 的区域和可用区。
如需删除自动扩缩配置,请执行以下操作:
在自动扩缩部分中,点击自动扩缩模式列表,然后点击删除自动扩缩配置。
在确认对话框中点击删除。
如需关闭修复功能,请在虚拟机实例生命周期部分中,点击失败时的默认操作列表,然后选择无操作。
执行下列其中一项操作:
如需此时创建调整大小请求,请执行以下操作:
在实例数字段中,输入您要一次性创建的所有虚拟机的数量。
选中使用调整大小请求一次性创建所有虚拟机复选框。
在请求的运行时长字段和单位列表中,指定虚拟机的运行时长。时长必须介于 1 小时到 7 天之间。
否则,请在实例数字段中,输入
0
。您稍后可以通过创建调整大小请求在实例组中添加虚拟机。
点击创建。
INSTANCE_GROUP_NAME
:要创建的 MIG 的名称。INSTANCE_TEMPLATE_NAME
:您在上一部分中创建的实例模板的名称。ZONE
:要用于创建虚拟机的可用区。PROJECT_ID
:您在上一部分中创建的实例模板所在项目的 ID。ZONE
:要用于创建虚拟机的可用区。INSTANCE_TEMPLATE_NAME
:您在上一部分中创建的实例模板的名称。INSTANCE_GROUP_NAME
:要创建的 MIG 的名称。在 Google Cloud 控制台中,转到实例组页面。
在名称列中,点击要在其中创建调整大小请求的 MIG 的名称。
系统会打开此 MIG 的概览页面。
在调整大小请求行中,点击
修改调整大小请求。点击
新建调整大小请求。系统会显示新建调整大小请求窗格。
在名称字段中,输入调整大小请求的名称。
在需要的额外实例数量字段中,输入要一次性添加到 MIG 的所有虚拟机的数量。
在请求的运行时长和单位字段中,指定您希望请求的虚拟机运行的时长。时长必须介于 1 小时到 7 天之间。
点击创建。
INSTANCE_GROUP_NAME
:现有可用区级 MIG 的名称,该 MIG 经过配置,可用于创建调整大小请求。RESIZE_REQUEST_NAME
:调整大小请求的名称,该名称在指定的 MIG 中必须是唯一的。否则,创建调整大小请求的操作将失败。COUNT
:要同时添加到 MIG 的虚拟机数量。RUN_DURATION
:您希望请求的虚拟机运行的时长。该值的格式必须为天数、小时数、分钟数或秒数,后面分别跟d
、h
、m
和s
。例如,指定30m
表示 30 分钟,或指定1d2h3m4s
表示 1 天 2 小时 3 分钟 4 秒。该值必须介于 10 分钟到 7 天之间。ZONE
:该 MIG 所在的可用区。PROJECT_ID
:指定的 MIG 所在项目的 ID。ZONE
:该 MIG 所在的可用区。INSTANCE_GROUP_NAME
:现有可用区级 MIG 的名称,该 MIG 经过配置,可用于创建调整大小请求。RESIZE_REQUEST_NAME
:调整大小请求的名称,该名称在指定的 MIG 中必须是唯一的。否则,创建调整大小请求的操作将失败。COUNT
:要同时添加到 MIG 的虚拟机数量。RUN_DURATION
:您希望请求的虚拟机运行的时长(以秒为单位)。该值必须介于600
(600 秒,即 10 分钟)到604800
(604,800 秒,即 7 天)之间。了解如何查看有关 MIG 和拖管式虚拟机的信息。
- 了解如何查看虚拟机和 GPU 的实际和预测用量。
REST
如需在本地开发环境中使用本页面上的 REST API 示例,请使用您提供给 gcloud CLI 的凭据。
Install the Google Cloud CLI, then initialize it by running the following command:
gcloud init
如需了解详情,请参阅 Google Cloud 身份验证文档中的使用 REST 时进行身份验证。
所需的角色
如需获得在 MIG 中创建调整大小请求所需的权限,请让您的管理员为您授予项目的 Compute Instance Admin (v1) (
roles/compute.instanceAdmin.v1
) IAM 角色。如需详细了解如何授予角色,请参阅管理对项目、文件夹和组织的访问权限。此预定义角色可提供在 MIG 中创建调整大小请求所需的权限。如需查看所需的确切权限,请展开所需权限部分:
所需权限
如需在 MIG 中创建调整大小请求,您需要以下权限:
为调整大小请求准备 MIG
如需在 MIG 中创建调整大小请求,您必须配置实例模板和 MIG,如以下部分所述。
创建实例模板
如果您要在 MIG 中创建调整大小请求,则 MIG 必须使用具有以下配置的实例模板:
控制台
如需创建为在 MIG 中创建调整大小请求而配置的实例模板,请执行以下操作:
gcloud
如需创建为在 MIG 中创建调整大小请求而配置的实例模板,请使用带有以下标志的
instance-templates create
命令:例如,使用以下命令:
gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \ --image-project=IMAGE_PROJECT \ --image-family=IMAGE_FAMILY \ --machine-type=MACHINE_TYPE \ --maintenance-policy=TERMINATE \ --reservation-affinity=none
替换以下内容:
REST
如需创建为在 MIG 中创建调整大小请求而配置的实例模板,请向
instanceTemplates.insert
方法发出POST
请求。在请求正文中,执行以下操作:例如,发出如下
POST
请求:POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/global/instanceTemplates { "name": "INSTANCE_TEMPLATE_NAME", "properties": { "disks": [ { "boot": true, "mode": "READ_WRITE", "type": "PERSISTENT", "initializeParams": { "sourceImage": "projects/IMAGE_PROJECT/global/images/IMAGE" } } ], "machineType": "MACHINE_TYPE", "networkInterfaces": [ { "accessConfigs": [ { "name": "external-IP", "type": "ONE_TO_ONE_NAT" } ], "network": "global/networks/default" } ], "reservationAffinity": { "consumeReservationType": "NO_RESERVATION" }, "scheduling": { "onHostMaintenance": "TERMINATE" } } }
替换以下内容:
如需详细了解如何创建实例模板,请参阅创建实例模板。
创建或更新 MIG
按照上一部分中所述创建实例模板后,使用该实例模板创建 MIG(如下所示)或更新 MIG。此外,您必须执行以下操作来准备用于处理调整大小请求的 MIG:
控制台
如需创建为创建调整大小请求而配置的可用区级 MIG,请执行以下操作:
gcloud
如需创建为创建大小调整请求而配置的可用区级 MIG,请使用
instance-groups managed create
命令,并将--default-action-on-vm-failure
标志设置为do_nothing
。gcloud compute instance-groups managed create INSTANCE_GROUP_NAME \ --template=INSTANCE_TEMPLATE_NAME \ --size=0 \ --zone=ZONE \ --default-action-on-vm-failure=do_nothing
替换以下内容:
REST
如需创建为创建调整大小请求而配置的可用区级 MIG,请向
instanceGroupManagers.insert
方法发出POST
请求。在请求正文中,添加设置为DO_NOTHING
的defaultActionOnFailure
字段。POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers { "versions": [ { "instanceTemplate": "global/instanceTemplates/INSTANCE_TEMPLATE_NAME" } ], "name": "INSTANCE_GROUP_NAME", "targetSize": 0, "instanceLifecyclePolicy": { "defaultActionOnFailure": "DO_NOTHING" } }
替换以下内容:
在 MIG 中创建调整大小请求
在创建调整大小请求之前,请确保已按照上一部分中的说明准备好 MIG。
创建调整大小请求且所有请求的资源都可用后,MIG 会同时创建请求的虚拟机数量。虚拟机会一直运行,直到 MIG 在指定运行时长结束后删除它们或直到您删除它们。
控制台
如需在 MIG 中创建调整大小请求,请执行以下操作:
gcloud
如需在 MIG 中创建调整大小请求,请使用
instance-groups managed resize-requests create
命令。gcloud compute instance-groups managed resize-requests create INSTANCE_GROUP_NAME \ --resize-request=RESIZE_REQUEST_NAME \ --resize-by=COUNT \ --requested-run-duration=RUN_DURATION \ --zone=ZONE
替换以下内容:
REST
如需在 MIG 中创建调整大小请求,请向
instanceGroupManagerResizeRequests.insert
方法发出POST
请求。POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/INSTANCE_GROUP_NAME/resizeRequests { "name": "RESIZE_REQUEST_NAME", "resizeBy": COUNT, "requestedRunDuration": { "seconds": "RUN_DURATION" } }
替换以下内容:
后续步骤
如未另行说明,那么本页面中的内容已根据知识共享署名 4.0 许可获得了许可,并且代码示例已根据 Apache 2.0 许可获得了许可。有关详情,请参阅 Google 开发者网站政策。Java 是 Oracle 和/或其关联公司的注册商标。
最后更新时间 (UTC):2024-11-22。
-