在生成回答时,Vertex AI Search 提供了多个模型版本供您选择。使用搜索摘要和回答和跟进时,您可以选择模型版本。
可用型号
Vertex AI Search 针对问答用例使用两种类型的模型:
- Vertex AI LLM 模型, 回答任务
- 基于 Vertex AI LLM 的 Vertex AI Search 模型 并进一步训练,以解决问答任务中的问题,
Vertex AI Search 模型的终止日期与其 Vertex AI LLM 模型。根据 Vertex AI 模型生命周期政策,基础 LLM 模型将在下一个版本的模型发布日期后六个月内可用。在停用日期之前留出足够的时间迁移到新模型。
下表列出了型号版本规格。当您设置模型规范时,API 会使用指定的模型生成回答。
模型版本 | Generic | 医疗保健 | ||||
---|---|---|---|---|---|---|
说明 | 上下文窗口 | 终止日期 | 说明 | 上下文窗口 | 终止日期 | |
stable |
如果未设置模型版本,则默认选择的模型。
指定为 |
128K | 不适用 |
如果未设置模型版本,则默认选择的模型。
指定为 |
128K | 不适用 |
gemini-1.0-pro-001/answer_gen/v1 |
指向 模型在发布后被冻结。 |
32K | 2025 年 2 月 15 日 | 不可用 | ||
gemini-1.0-pro-002/answer_gen/v1 |
基于 模型在发布后被冻结。 |
32K | 2025 年 4 月 9 日 |
一个基于 模型在发布后被冻结。 |
32K | 2025 年 4 月 9 日 |
gemini-1.5-flash-001/answer_gen/v1 |
一个基于 模型在发布后被冻结。 |
128K | 2025 年 5 月 24 日 |
一个基于 模型在发布后被冻结。 |
128K | 2025 年 5 月 24 日 |
gemini-1.5-flash-001/answer_gen/v2 |
基于 模型在发布后会被冻结。 |
128K | 2025 年 5 月 24 日 | 不可用 | ||
gemini-1.5-flash-002/answer_gen/v1 |
一个基于 模型在发布后会被冻结。 |
12.8 万 | 2025 年 9 月 24 日 | 不可用 | ||
text-bison@002/answer_gen/v1 |
一个基于 模型在发布后被冻结。 |
8,000 | 2024 年 10 月 9 日 | 不可用 | ||
medlm-medium/answer_gen/v1 |
不可用 | MedLM 模型基于大规模公开网络信息、公共数据集以及包含健康和医疗信息的已去标识化许可私有数据集进行训练。 | 32k | 2024 年 11 月 16 日 | ||
preview |
预览版模型规范指向最新的 gemini-1.5-pro-002 模型。预览模型可能会发生更改,恕不另行通知。如果您使用此模型,那么当模型发生变化时,您可能会看到回答发生变化。如果您希望回答更一致,请选择特定模型。 |
12.8 万 | 不适用 | medlm-medium/answer_gen/v1 |
32k | 不适用 |