试用:使用 Model Garden 中的演示版 Playground 测试模型功能

Model Garden 为受支持的模型托管公共演示版 Playground。这些 Playground 由预部署的 Vertex AI 在线预测端点提供支持。

当您打开受支持模型的模型卡片时,系统会在卡片中嵌入试用面板。您可以在试用面板中发送文本提示,快速测试模型的功能。您还可以通过试用面板设置一些最常见的参数,例如温度和输出令牌数量。

支持的模型

以下模型提供了演示版 Playground。

提供商 模型
Google
  • Gemma 2 2B it(指令调优)
  • Gemma 2 9B it(指令调优)
  • Gemma 2 27B it(指令调优)
  • Gemma 2B
  • Gemma 2B it(指令调优)
  • Gemma 7B
  • Gemma 7B it(指令调优)
Meta
  • Llama 3 8B Instruct
  • Llama 3 70B Instruct
  • Llama 2 7B
  • Llama 2 7B Chat
  • Llama 2 13B Chat
  • Llama 2 70B Chat (Int8)
  • Code Llama 7B Python
IIT
  • Falcon 7B
Mistral AI
  • Mixtral 8x7B

准备工作

本教程要求您设置 Google Cloud 项目并启用 Vertex AI API。

  1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.
  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  3. Make sure that billing is enabled for your Google Cloud project.

  4. Enable the Vertex AI API.

    Enable the API

  5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  6. Make sure that billing is enabled for your Google Cloud project.

  7. Enable the Vertex AI API.

    Enable the API

试用 Gemma 2

在本快速入门中,您将试用 Gemma-2b-it 模型。请注意,-it 表示按指令进行调整

  1. 在 Google Cloud 控制台中,前往 Gemma 2 模型卡片。

    前往 Gemma 2

  2. 试用面板中:

    1. 对于区域,接受默认值或选择您的区域。
    2. 对于端点,选择 Demo Playground(免费)2b-it
    3. 提示框中,输入 Why is the sky blue?
    4. 展开高级选项部分,然后查看默认参数。

      Gemma 2b-it 的试用面板

  3. 点击提交。输出结果会显示在“提交”按钮下方。

清理

为避免因本页中使用的资源导致您的 Google Cloud 账号产生费用,请按照以下步骤操作。

删除项目

为了避免产生费用,最简单的方法是删除您为本教程创建的项目。

如需删除项目,请执行以下操作:

  1. In the Google Cloud console, go to the Manage resources page.

    Go to Manage resources

  2. In the project list, select the project that you want to delete, and then click Delete.
  3. In the dialog, type the project ID, and then click Shut down to delete the project.

后续步骤

查看 Model Garden 概览