如果您刚开始使用 Gemini,则使用快速入门是最快的入门方法。
但是,随着您的生成式 AI 解决方案的成熟,您可能需要一个用于端到端地构建和部署生成 AI 应用和解决方案的平台。Google Cloud 提供了一个全面的工具生态系统,使开发者能够充分利用生成式 AI 的强大力量(从应用开发的初始阶段到应用部署、应用托管以及大规模管理复杂的数据)。
Google Cloud 的 Vertex AI Platform 提供了一套 MLOps 工具,可简化 AI 模型的使用、部署和监控,以提高效率和可靠性。此外,与数据库、DevOps 工具、日志记录、监控和 IAM 的集成提供了一种全面的方法来管理整个生成式 AI 生命周期。
Google Cloud 产品的常见使用场景
以下是一些非常适合 Google Cloud 产品的常见用例。
- 将您的应用和解决方案生产化。Cloud Functions 和 Cloud Run 等产品可让您部署具有企业级规模、安全性和隐私性的应用。如需详细了解安全和隐私权,请参阅 Google Cloud 上的安全性、隐私权和云合规性指南。
- 使用 Vertex AI 实现从调优到向量相似度搜索以及机器学习流水线的端到端 MLOps 功能。
- 借助 Cloud Functions 或 Cloud Run,使用事件驱动型架构来触发 LLM 调用。
- 使用 Cloud Logging 和 BigQuery 监控应用的使用情况。
- 使用 BigQuery、Cloud Storage 和 BigQuery 等服务大规模存储具有企业级安全性的数据。
- 通过在云端使用 BigQuery 或 Cloud Storage 执行检索增强生成 (RAG)。
- 创建和安排数据流水线。您可以使用 Cloud Scheduler 安排作业。
- 将 LLM 应用于您在云端的数据。如果您将数据存储在 Cloud Storage 或 BigQuery 中,则可以提示该数据生成 LLM。例如,提取信息,总结或提出有关该信息的问题。
- 利用 Google Cloud 的数据治理/驻留政策来管理数据生命周期。
Google AI 与 Vertex AI 的区别
下表总结了 Google AI 与 Vertex AI 之间的主要区别,可帮助您确定适合您的使用场景的选项:
特性 | Google AI Gemini API | Vertex AI Gemini API |
---|---|---|
Gemini 模型 | Gemini 1.5 Flash、Gemini 1.5 Pro、Gemini 1.0 Pro、Gemini 1.0 Pro Vision(已弃用) | Gemini 1.5 Flash、Gemini 1.5 Pro、Gemini 1.0 Pro、Gemini 1.0 Pro Vision、Gemini 1.0 Ultra、Gemini 1.0 Ultra Vision |
注册 | Google 账号 | Google Cloud 账号(具有条款协议和结算) |
Authentication | API 密钥 | Google Cloud 服务账号 |
界面平台 | Google AI Studio | Vertex AI Studio |
API 和 SDK | 服务器和移动/Web 客户端 SDK
|
服务器和移动/Web 客户端 SDK
|
免费使用 API 和 SDK | 是(在适用的情况下) | 面向新用户的 300 美元 Google Cloud 赠金 |
配额(每分钟请求数) | 因模型和定价方案而异(请参阅详细信息) | 因模型和区域而异(请参阅详细信息) |
企业支持服务 | 否 |
客户加密密钥 虚拟私有云 数据驻留 Access Transparency 用于应用托管的可伸缩基础架构 数据库和数据存储 |
MLOps | 否 | Vertex AI 上的完整 MLOps(示例:模型评估、模型监控、Model Registry) |
迁移到 Vertex AI
本部分介绍如何从 Google AI 上的 Gemini 迁移到 Vertex AI。
迁移注意事项
迁移时,应考虑以下事项:
您可以使用现有的 Google Cloud 项目(即用于生成 API 密钥的项目),也可以创建新的 Google Cloud 项目。
Google AI Studio 和 Vertex AI 支持的区域可能会有所不同。请参阅 Google Cloud 上的生成式 AI 支持的区域列表。
您在 Google AI Studio 中创建的任何模型都需要在 Vertex AI 中重新训练。
开始使用 Vertex AI Studio
根据您是已经拥有 Google Cloud 账号还是刚开始接触 Google Cloud,迁移到 Vertex AI 的过程也会有所不同。
如需了解如何迁移到 Vertex AI,请根据您的 Google Cloud 账号状态点击以下标签页之一:
已经在使用 Google Cloud
- 登录 Google AI Studio。
在左侧导航窗格的底部,点击使用 Vertex AI on Google Cloud 开始构建之旅。
随即会打开免费试用 Vertex AI 和 Google Cloud 页面。
点击同意并继续。
随即会显示 Vertex AI Studio 使用入门对话框。
如需启用运行 Vertex AI 所需的 API,请点击同意并继续。
随即会显示 Vertex AI 控制台。如需了解如何从 Google AI Studio 迁移数据,请参阅迁移提示。
Google Cloud 新手
- 登录 Google AI Studio。
在左侧导航窗格的底部,点击使用 Vertex AI on Google Cloud 开始构建之旅。
随即会打开创建账号以开始使用 Google Cloud 页面。
点击同意并继续。
随即会显示我们需要确认您的身份页面。
点击开始免费试用。
随即会显示 Vertex AI Studio 使用入门对话框。
如需启用运行 Vertex AI 所需的 API,请点击同意并继续。
可选:如需了解如何从 Google AI Studio 迁移数据,请参阅迁移提示页面中提供的提示迁移步骤。
Python:迁移到 Vertex AI Gemini API
以下部分显示了代码段,可帮助您迁移 Python 代码以使用 Vertex AI Gemini API。
Vertex AI Python SDK 设置
在 Vertex AI 上,您不需要 API 密钥。不过,Gemini on Vertex AI 会使用 IAM 访问权限进行管理,该访问权限控制用户、群组或服务账号通过 Vertex AI SDK 调用 Gemini API 的权限。
虽然有多种身份验证方法,但在开发环境中,最简单的身份验证方法是安装 Google Cloud CLI,然后使用用户凭据登录 CLI。
如需对 Vertex AI 进行推理调用,您还必须确保用户或服务账号具有 Vertex AI User 角色。
要安装客户端的代码示例
Google AI | Vertex AI |
---|---|
|
|
用于从文本提示生成文本的代码示例
Google AI | Vertex AI |
---|---|
|
|
用于从文本和图片生成文本的代码示例
Google AI | Vertex AI |
---|---|
|
|
生成多轮聊天的代码示例
Google AI | Vertex AI |
---|---|
|
|
将提示迁移到 Vertex AI Studio
您的 Google AI Studio 提示数据保存在 Google 云端硬盘文件夹中。本部分介绍了如何将提示迁移到 Vertex AI Studio。
- 打开 Google 云端硬盘。
- 转到存储提示的 AI_Studio 文件夹。
将提示从 Google 云端硬盘下载到一个本地目录中。
在 Google Cloud 控制台中打开 Vertex AI Generative AI Studio。
在 Vertex AI 菜单中,点击语言。
点击我的提示标签页。
点击导入提示。
在提示文件字段中,点击浏览,然后从本地目录中选择提示。
如需批量上传提示,您必须手动将这些提示组合到单个 JSON 文件中。
点击上传。
提示会上传到我的提示标签页。
将训练数据上传到 Vertex AI Studio
如需将训练数据迁移到 Vertex AI,您需要将数据上传到 Google Cloud Storage 存储桶。如需了解详情,请参阅调整语言基础模型。
删除未使用的 API 密钥
如果您不再需要使用 Google AI Gemini API 密钥,请遵循安全性最佳做法并将其删除。
如需删除 API 密钥,请执行以下操作:
打开 Google Cloud API 凭据页面。
找到您要删除的 API 密钥,然后点击操作图标。
选择删除 API 密钥。
在删除凭据模态框中,选择删除。
删除 API 密钥的操作需要几分钟时间才能生效。生效后,任何使用已删除的 API 密钥的流量都将遭到拒绝。
后续步骤
- 使用 Generative AI Studio 或 Vertex AI API 尝试学习快速入门教程。