使用 Vertex AI Studio 来设计、测试和自定义发送至 Google 的 Gemini 和 PaLM 2 大语言模型 (LLM) 的提示。您可以在 Vertex AI 和用于生成回答的 Vertex AI API 代码中查看 Gemini API。
在 Vertex AI Studio 中,您可以完成以下操作:
- 使用提供的问题示例测试模型
- 设计和管理问题
- 按模型比较问题输出
- 根据选定的质量指标评估问题
- 调优模型以获取量身定制的回答
- 将模型输出连接到 Vertex AI Search 或 Google 搜索
- 获取 Vertex AI API 代码以实现您的工作
开始在 Vertex AI Studio 中生成提示的准备工作
如果您是通过 Google Cloud 免费试用账号使用 Vertex AI Studio,或者根本就没有登录 Google Cloud,则某些功能将不可用,如下表所示。如要试用 Vertex AI Studio,您需要在 Google Cloud 控制台中接受 Vertex AI Studio 服务条款。
在没有 Google Cloud 账号的情况下使用 | 通过 Google Cloud 免费试用账号使用 | 通过现有 Google Cloud 账号使用 | |
---|---|---|---|
(需要登录) | 否 | 是 | 是 |
每分钟查询次数 (QPM) | 所有多模态模型一起 2 次查询/分钟 | 查看配额限制 | 查看配额限制 |
可获得的赠金 | $0 | 90 天最高 300 美元 | $0 |
提示库 | 否 | 是 | 是 |
提示设计工具 | 是 | 是 | 是 |
保存提示 | 否 | 是 | 是 |
提示历史记录 | 否 | 是 | 是 |
高级参数 | 否 | 否 | 是 |
调优 | 否 | 否 | 是 |
API 用量 | 否 | 是 | 是 |
需要启用结算功能 | 否 | 否 | 是 |
如何开始 | 前往 Vertex AI Studio | 注册以进行免费试用 | 在您的控制台中试用 Vertex AI Studio |
在提示库中测试语言模型
- 前往 Google Cloud 控制台的 Vertex AI 部分中的提示库页面。
前往提示库 - 在任务下拉菜单中,选择摘要。
打开转写摘要卡片。
模型、参数、示例和测试用提示已预填充。
如要生成提示摘要,请在测试部分点击提交。
回答会显示在输出部分。
可选:如要查看不同的结果,可从模型列表中选择其他模型或更改参数,然后点击提交。
可选:如要查看生成转写总结所需的 Vertex AI API 代码,请点击
获取代码。
掌握 Vertex AI Studio 提示设计和测试
您可以针对与您的业务用例相关的任务创建及测试自己的提示(输入),并生成响应。通过添加输入和输出,LLM 能够根据响应示例在上下文中学习。
您可以创建一个提供准确指令的提示,并要求 LLM 为您完成一个句子或回答一次性问题。
- 转到 Google Cloud 控制台的 Vertex AI 部分中的 Generative AI Studio 页面。
前往 Vertex AI Studio 在使用 Gemini 生成部分中,点击打开自由格式。
此时会打开一个未命名的提示。
在提示框中,添加您希望模型执行的任务的简明扼要的说明,例如
Suggest a name for a flower shop that sells bouquets of dried flowers
。点击提交。
回答会显示在回答框中。
可选:如要查看不同的结果,可调整提示、模型或参数,然后点击提交。
可选:如要查看生成类似回答所需的 Vertex AI API 代码,请点击
获取代码。
了解 Vertex AI Studio 提示类别
在 Vertex AI Studio 中,您可以测试和自定义不同生成式 AI 模型的问题。
- Freeform:使用各种模型测试文本和多模态提示。如需了解模型,请参阅 Gemini 模型。
- 聊天:使用各种语言模型尝试多轮提示。如需了解模型,请参阅 Gemini 模型。
- 翻译:执行翻译。
- Vision:使用 Imagen on Vertex AI 测试图片模型的生成。
- 语音:执行文字转语音和语音转文字转换。这是使用 Chirp 模型实现的。如需详细了解 Chirp,请参阅 Chirp:通用语音模型。
探索 Vertex AI Studio 中的 Gemini 提示库
提示示例在 Vertex AI Studio 的自由格式和聊天部分提供,并包含各种示例提示,这些提示经过预先设计,用于帮助演示模型功能。示例提示按任务类型分类,例如汇总、分类和提取。每个提示都预配置了指定的模型和参数值,因此您只需打开示例提示,然后点击提交即可让模型生成回答。
自定义和增强 Gemini 提示
提示设计是指手动创建提示,以从语言模型中引出所需回答的过程。通过精心设计提示,您可以智能地调整模型,以生成适合使用场景的良好结果。问题设计可能是试验模型输出的有效方式。
借助 Vertex AI Studio,您的团队可以创建、保存并协作优化问题。在设计新问题时,您可以输入问题文本、选择理想的模型、调整参数,并进行测试以获取即时反馈。提示完成后,您可以将其保存在 Vertex AI Studio 的共享项目中。
如需开始提示设计,请参阅提示简介。
比较使用不同提示的 Gemini 模型输出
在 Vertex AI Studio 中,您可以比较问题结果,以了解哪种模型和设置配对最适合您的用例。
在自由格式标签页中,查看问题,然后选择要比较的问题旁边的比较。您最多可以并排比较三个问题。
使用“已保存的提示”页面管理和整理 Gemini 提示
如果您有许多问题,则必须设置一个集中位置进行管理。 您可以在已保存的提示页面下按类型查看所有提示。您可以对问题进行版本控制、恢复之前的版本、删除、导出和管理问题命名。您还可以在问题中添加备注,以保存记录,并作为与问题设计团队集中协作的方式。
在 Vertex AI Studio 中使用可验证的数据为 AI 提示建立依据
在生成式 AI 中,建立依据是指将语言模型输出连接到可验证的信息源的能力。在 Vertex AI Studio 的自由格式和聊天页面中,您可以选择将模型输出连接到 Vertex AI Search 或 Google 搜索。如需详细了解如何建立依据,请参阅建立依据概览。如需详细了解如何将模型输出连接到 Google 搜索,请参阅与 Google 搜索连接。
在 Model Garden 中探索强大的生成式 AI 模型
Model Garden 是一个平台,可帮助您发现、测试、自定义和部署 Google 专有的以及部分 OSS 模型和资产。如需探索 Vertex AI 上可用的生成式 AI 模型和 API,请转到 Google Cloud 控制台中的 Model Garden。
如需详细了解 Model Garden,包括可用的模型和功能,请参阅在 Model Garden 中探索 AI 模型。
调优 Gemini 模型以提高性能
虽然提示设计非常适合快速实验,但如果训练数据可用,则可以通过调优模型本身来达到更高的质量。通过调优模型,您可以根据您希望模型执行的任务示例自定义模型的回答。
如需了解如何调整基础模型,请参阅调整基础模型。
使用 Vertex AI Studio 来设计、测试和自定义发送至 Google 的 Gemini 和 PaLM 2 大语言模型 (LLM) 的提示。LLM 处理完您的提示后,会向您发送回答。 如需详细了解 Vertex AI Studio,请参阅在 Vertex AI Studio 中使用模型进行实验。
探索 Vertex AI Studio 的新变化
- 了解如何设计文本提示和文字聊天提示。
- 了解文本嵌入。
- 尝试调整语言基础模型。
- 了解 Responsible AI 最佳实践和 Vertex AI 的安全过滤条件。
- 了解如何流式传输来自模型的回复。