在生成回答时,Vertex AI Search 提供了多个模型版本供您选择。使用搜索摘要和回答和跟进时,您可以选择模型版本。
可用型号
Vertex AI Search 针对问答用例使用两种类型的模型:
- 已在问答任务中经过测试的 Vertex AI LLM 模型
- Vertex AI Search 模型基于 Vertex AI LLM 模型,并经过进一步训练以处理问答任务
Vertex AI Search 模型的弃用日期与其基础 Vertex AI LLM 模型相同。根据 Vertex AI 模型生命周期政策,基础 LLM 模型将在下一个版本的模型发布日期后六个月内可用。请在停用日期之前留出足够的时间来迁移到新模型。
下表列出了型号版本规格。设置模型规范后,API 会使用指定的模型生成回答。
模型版本 | Generic | 医疗保健 | ||||
---|---|---|---|---|---|---|
说明 | 上下文窗口 | 终止日期 | 说明 | 上下文窗口 | 终止日期 | |
stable |
如果未设置模型版本,则默认选择此模型。
随着新模型和版本的推出,指定为 |
128K | 不适用 |
如果未设置模型版本,则默认选择此模型。
随着新模型和版本的推出,指定为 |
128K | 不适用 |
gemini-1.0-pro-001/answer_gen/v1 |
指向 模型在发布后会被冻结。 |
32K | 2025 年 4 月 9 日 | 不可用 | ||
gemini-1.0-pro-002/answer_gen/v1 |
基于 模型在发布后会被冻结。 |
32K | 2025 年 4 月 9 日 |
基于 模型在发布后会被冻结。 |
32K | 2025 年 4 月 9 日 |
gemini-1.5-flash-001/answer_gen/v1 |
基于 模型在发布后会被冻结。 |
128K | 2025 年 5 月 24 日 |
基于 模型在发布后会被冻结。 |
128K | 2025 年 5 月 24 日 |
gemini-1.5-flash-001/answer_gen/v2 |
基于 模型在发布后会被冻结。 |
128K | 2025 年 5 月 24 日 | 不可用 | ||
gemini-1.5-flash-002/answer_gen/v1 |
基于 模型在发布后会被冻结。 |
128K | 2025 年 9 月 24 日 | 不可用 | ||
medlm-medium/answer_gen/v1 |
不可用 | MedLM 模型是在大量公开的网络信息、公开数据集以及包含健康和医疗信息且经过去标识化处理的许可私人数据集上训练出来的。 | 32k | 2024 年 11 月 16 日 | ||
preview |
预览版模型规范指向最新的 gemini-1.5-pro-002 模型。预览模型可能会发生变化,恕不另行通知。如果您使用此模型,那么当模型发生变化时,您可能会看到回答发生变化。如果您希望回答更一致,请选择特定模型。 |
128K | 不适用 | medlm-medium/answer_gen/v1 |
32k | 不适用 |