将开放模型与 Vertex AI 搭配使用

开放模型

开放模型为各种 AI 任务提供预训练模型,包括擅长多模态处理的 Gemini 模型。您可以将开放模型与 Vertex AI 搭配使用。开放模型可免费使用,您可以随意发布其输出,并在遵守其许可条款的情况下随时随地使用该模型。

将开放模型与 Vertex AI 搭配使用时,您可以将 Vertex AI 用于基础设施。您还可以将开放模型与其他基础设施产品(例如 PyTorch 或 Jax)搭配使用。

开放权重模型

许多开放模型都被认为是开放权重大语言模型 (LLM)。开放模型比非开放权重模型的透明度更高。模型的权重是存储在模型的神经网络架构中的数值,用于表示从训练模型的数据中学习的模式和关系。系统会发布开放权重模型的预训练参数或权重。您可以使用开放权重模型进行推理和调优,但不提供原始数据集、模型架构和训练代码等详细信息。

开源模型

开放模型不同于开源 AI 模型。虽然开放模型通常会公开已学模式的权重和核心数值表示法,但不一定会提供完整的源代码或训练细节。提供权重可提供一定程度的 AI 模型透明度,让您无需自行构建模型即可了解模型的功能。

在 Vertex AI Model Garden 中使用开放模型

有关开放模型及其使用方法的详细信息,参见 Model Garden 中的模型卡片。如需访问开放模型的模型卡片,请转到 Model Garden 并搜索其名称。如需详细了解 Model Garden,请参阅在 Model Garden 中探索 AI 模型

详细了解 Vertex AI 中的开放模型

如需了解如何使用 Gemma 和 Llama 开放模型,请参阅以下内容: