调整模型

调整模型

本页介绍了如何使用 Colab Enterprise 中的侧边栏与 Vertex AI 交互以调整模型。

如需通过在 Colab Enterprise 笔记本中运行代码来访问 Google Cloud 服务和 API，您可以使用与您的 Google 账号关联的凭据。如需了解详情，请参阅访问 Google Cloud 服务和 API。

边栏是与 Vertex AI 交互的另一种方式，可让您在不离开 Colab Enterprise 界面的情况下调整模型。

每当您打开一个或多个笔记本时，侧边栏都会显示在 Colab Enterprise 的 Notebooks 页面上。

Vertex AI 中的模型调优

模型调优是针对任务自定义大型模型的有效方法。这是提高模型质量和效率的关键步骤。模型调优具有以下优势：

• 针对您的特定任务提供更高的质量
• 提高模型稳健性
• 提示较短，因此推理延迟时间和费用更低

如需简要了解适用于 Gemini 的 Vertex AI 模型调优，请参阅调优简介。

准备工作

1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

3. Make sure that billing is enabled for your Google Cloud project.

4. Enable the Vertex AI, Dataform, and Compute Engine APIs.

   Enable the APIs

5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

6. Make sure that billing is enabled for your Google Cloud project.

7. Enable the Vertex AI, Dataform, and Compute Engine APIs.

   Enable the APIs

所需的角色

如需确保您的用户账号拥有在 Colab Enterprise 笔记本中使用侧边栏所需的权限，请让您的管理员为您的用户账号授予项目的以下 IAM 角色：

• Colab Enterprise User (roles/aiplatform.colabEnterpriseUser)
• Vertex AI User (roles/aiplatform.user)

如需详细了解如何授予角色，请参阅管理对项目、文件夹和组织的访问权限。

您的管理员还可以通过自定义角色或其他预定义角色向您的用户账号授予所需的权限。

一个或多个必需的角色可提供 dataform.repositories.list 权限。在项目中被授予 dataform.repositories.list 权限或 Code Creator (roles/dataform.codeCreator) 角色的用户可以使用 Dataform API 或 Dataform 命令行界面 (CLI) 列出该项目中代码资产的名称。使用 BigQuery Studio 的非管理员只能看到他们创建或与他们共享的代码资产。

调整模型

您可以使用 Colab Enterprise 中的侧边栏在 Vertex AI 中调整模型。

1. 在 Google Cloud 控制台中，进入 Colab Enterprise Notebooks 页面。

   转到 Notebooks

2. 在区域菜单中，选择包含您的笔记本的区域。

3. 在我的笔记本标签页中，点击要打开的笔记本。如果您尚未创建笔记本，请创建笔记本。

4. 在记事本右侧的侧边栏中，点击  Tuning 按钮。

   侧边栏会展开调整标签页。

5. 点击对 Gemini 模型进行调优按钮。

   Colab Enterprise 会向您的笔记本中添加代码单元格，以便调优 Gemini 模型。

6. 在笔记本中，找到用于存储参数值的代码单元格。 您将使用这些参数与 Vertex AI 交互。

7. 更新以下参数的值：

   • PROJECT_ID：笔记本所在项目的 ID。
   • REGION：您的记事本所在的区域。
   • TUNED_MODEL_DISPLAY_NAME：经过调整的模型的名称。

8. 在下一个代码单元中，更新模型调优参数：

   • source_model：您要使用的 Gemini 模型，例如 gemini-1.0-pro-002。
   • train_dataset：训练数据集的网址。
   • validation_dataset：验证数据集的网址。
   • 根据需要调整其余参数。

9. 运行侧边栏向您的笔记本添加的代码单元。

10. 最后一个代码单元运行完毕后，点击随即显示的  View tuning job（查看优化作业）按钮。

11. 侧边栏会显示有关模型调优作业的相关信息。

    • 当指标准备就绪时，监控标签页会显示调优指标。
    • Dataset（数据集）标签页会在数据集处理完毕后显示有关数据集的摘要和指标。
    • 详细信息标签页会显示有关调整作业的信息，例如调整方法和您使用的基准模型（来源模型）。

12. 调优作业完成后，您可以直接从调优详情标签页前往用于测试模型的页面。 点击测试。

    Google Cloud 控制台会打开 Vertex AI 文本聊天页面，您可以在其中测试模型。

查看调优作业的详细信息

您可以查看调优作业的详细信息，即使您并未在 Colab Enterprise 中创建和运行调优作业也是如此。您可以使用 Colab Enterprise 中的侧边栏查看调优作业的详细信息。

1. 在 Google Cloud 控制台中，进入 Colab Enterprise Notebooks 页面。

   转到 Notebooks

2. 在区域菜单中，选择包含您的笔记本的区域。

3. 在我的笔记本标签页中，点击要打开的笔记本。如果您尚未创建笔记本，请创建笔记本。

4. 在记事本右侧的侧边栏中，点击  Tuning 按钮。

   侧边栏会展开调整标签页。

5. 点击查看调优作业详情按钮。

   Colab Enterprise 会向您的记事本中添加代码单元格，以便获取调整作业的详细信息。

6. 在笔记本中，找到用于存储参数值的代码单元格。 您将使用这些参数与 Vertex AI 交互。

7. 更新以下参数的值：

   • PROJECT_ID：笔记本所在项目的 ID。
   • REGION：您的记事本所在的区域。
   • TUNING_JOB_ID：您的 Vertex AI 调优作业的 ID。

8. 运行侧边栏向您的笔记本添加的代码单元。

9. 最后一个代码单元运行完毕后，点击随即显示的  View tuning job（查看优化作业）按钮。

10. 侧边栏会显示有关模型调优作业的相关信息。

    • 当指标准备就绪时，监控标签页会显示调优指标。
    • Dataset（数据集）标签页会在数据集处理完毕后显示有关数据集的摘要和指标。
    • 详细信息标签页会显示有关调整作业的信息，例如调整方法和您使用的基准模型（来源模型）。

后续步骤

• 详细了解 Vertex AI 中的模型调优。

• 如需详细了解模型调优参数，请参阅使用监督式微调来调优 Gemini 模型。