Google 模型
预配吞吐量仅支持您使用特定模型 ID（而非模型别名）直接从项目中调用的模型。如需使用预配置吞吐量对模型进行 API 调用，您必须使用特定的模型版本 ID（例如 gemini-2.0-flash-001），而不是模型版本别名。
此外，预配吞吐量不支持由其他 Vertex AI 产品（例如 Vertex AI Agents 和 Vertex AI Search）调用的模型。例如，如果您在使用 Vertex AI Search 时向 Gemini 2.0 Flash 发出 API 调用，则您为 Gemini 2.0 Flash 订购的预配吞吐量无法保证 Vertex AI Search 发出的调用。
下表显示了支持预配吞吐量的 Google 模型的吞吐量、购买增量和消耗率。每秒吞吐量是指每秒所有请求中的提示输入和生成的输出。
如需了解您的工作负载需要多少 token，请参阅 SDK 词元化器或 countTokens API。
| 型号 | 每个 GSU 的每秒吞吐量 | 单位 | 最小 GSU 购买增量 | 消耗率 |
|---|---|---|---|---|
Gemini 2.5 Flash-Lite 支持的最新版本： |
8070 | 令牌 | 1 |
1 个输入文本 token = 1 个 token 1 个输入图片 token = 1 个 token 1 个输入视频 token = 1 个 token 1 个输入音频 token = 3 个 token 1 个输出回答文本 token = 4 个 token 1 个输出推理文本 token = 4 个 token |
Gemini 2.5 Pro 支持的最新版本： |
650 | 令牌 | 1 |
输入 token 数小于或等于 200,000： 1 个输入文本 token = 1 个 token 1 个输入图片 token = 1 个 token 1 个输入视频 token = 1 个 token 1 个输入音频 token = 1 个 token 1 个输出回答文本 token = 8 个 token 1 个输出推理文本 token = 8 个 token 输入 token 数大于 200,000： 1 个输入文本 token = 2 个 token 1 个输入图片 token = 2 个 token 1 个输入视频 token = 2 个 token 1 个输入音频 token = 2 个 token 1 个输出回答文本 token = 12 个 token 1 个输出推理文本 token = 12 个 token |
Gemini 2.5 Flash 支持的最新版本： |
2690 | 令牌 | 1 |
1 个输入文本 token = 1 个 token 1 个输入图片 token = 1 个 token 1 个输入视频 token = 1 个 token 1 个输入音频 token = 4 个 token 1 个输出响应文本 token = 9 个 token 1 个输出推理文本 token = 9 个 token |
Gemini 2.0 Flash 支持的最新版本： |
3360 | 令牌 | 1 |
1 个输入文本 token = 1 个 token 1 个输入图片 token = 1 个 token 1 个输入视频 token = 1 个 token 1 个输入音频 token = 7 个 token 1 个输出文本 token = 4 个 token |
Gemini 2.0 Flash-Lite 支持的最新版本： |
6720 | 令牌 | 1 |
1 个输入文本 token = 1 个 token 1 个输入图片 token = 1 个 token 1 个输入视频 token = 1 个 token 1 个输入音频 token = 1 个 token 1 个输出文本 token = 4 个 token |
Veo 3 支持的最新版本： |
0.0016 |
|
1 | 1 秒输出视频 = 1 秒输出视频 1 秒输出视频+音频 = 1.5 秒输出视频 |
Veo 3 Fast 支持的最新版本： |
0.0032 |
|
1 | 1 秒输出视频 = 1 秒输出视频 1 秒输出视频+音频 = 1.6 秒输出视频 |
| Imagen 3 | 0.025 | 图片 | 1 | 只有输出图片会计入预配吞吐量配额。 |
| Imagen 3 Fast | 0.05 | 图片 | 1 | 只有输出图片会计入预配吞吐量配额。 |
| Imagen 2 | 0.05 | 图片 | 1 | 只有输出图片会计入预配吞吐量配额。 |
| Imagen 2 编辑 | 0.05 | 图片 | 1 | 只有输出图片会计入预配吞吐量配额。 |
| MedLM medium | 2000 | 角色 | 1 | 1 个输入字符 = 1 个字符 1 个输出字符 = 2 个字符 |
| MedLM large | 200 | 角色 | 1 | 1 个输入字符 = 1 个字符 1 个输出字符 = 3 个字符 |
| MedLM large 1.5 | 200 | 角色 | 1 | 1 个输入字符 = 1 个字符 1 个输出字符 = 3 个字符 |
您可以随时升级到新模型。如需了解模型可用性和停用日期，请参阅 Google 模型。
如需详细了解受支持的位置，请参阅可用位置。
全球端点模型支持
预配吞吐量支持以下模型的全球端点：
| 型号 | 支持的最新模型版本 |
|---|---|
| Gemini 2.5 Flash-Lite | gemini-2.5-flash-lite |
| Gemini 2.5 Pro | gemini-2.5-pro |
| Gemini 2.5 Flash | gemini-2.5-flash |
| Gemini 2.0 Flash | gemini-2.0-flash-001 |
| Gemini 2.0 Flash-Lite | gemini-2.0-flash-lite-001 |
超出预配吞吐量配额的流量默认使用全球端点。
如需为模型的全球端点分配预配置吞吐量，请在下单预配置吞吐量时选择 global 作为区域。
监督式微调模型支持
对于支持监督式微调的 Google 模型，支持以下功能：
预配吞吐量可应用于基础模型以及这些基础模型的监督式微调版本。
监督式微调模型端点及其对应的基础模型会计入同一预配吞吐量配额。
例如，为特定项目的
gemini-2.0-flash-lite-001购买的预配吞吐量会优先处理使用该项目中创建的监督式微调版本的gemini-2.0-flash-lite-001发出的请求。使用适当的标头来控制流量行为。
合作伙伴模型
下表显示了支持预配吞吐量的合作伙伴模型的吞吐量、购买增量和消耗率。Claude 模型以每秒词元数为单位进行衡量，每秒词元数定义为所有请求中每秒的输入和输出词元的总数。
| 模型 | 每个 GSU 的吞吐量（词元数/秒） | 最低 GSU 购买量 | GSU 购买增量 | 消耗率 |
|---|---|---|---|---|
| Anthropic 的 Claude Opus 4 | 70 | 35 | 1 | 1 个输入 token = 1 个 token 1 个输出 token = 5 个 token 1 个缓存写入 token = 1.25 个 token 1 个缓存命中 token = 0.1 个 token |
| Anthropic 的 Claude Sonnet 4 | 350 | 25 | 1 | 1 个输入 token = 1 个 token 1 个输出 token = 5 个 token 1 个缓存写入 token = 1.25 个 token 1 个缓存命中 token = 0.1 个 token |
| Anthropic 的 Claude 3.7 Sonnet | 350 | 25 | 1 | 1 个输入 token = 1 个 token 1 个输出 token = 5 个 token 1 个缓存写入 token = 1.25 个 token 1 个缓存命中 token = 0.1 个 token |
| Anthropic 的 Claude 3.5 Sonnet v2 | 350 | 25 | 1 | 1 个输入 token = 1 个 token 1 个输出 token = 5 个 token 1 个缓存写入 token = 1.25 个 token 1 个缓存命中 token = 0.1 个 token |
| Anthropic 的 Claude 3.5 Haiku | 2000 | 10 | 1 | 1 个输入 token = 1 个 token 1 个输出 token = 5 个 token 1 个缓存写入 token = 1.25 个 token 1 个缓存命中 token = 0.1 个 token |
| Anthropic 的 Claude 3 Opus | 70 | 35 | 1 | 1 个输入 token = 1 个 token 1 个输出 token = 5 个 token 1 个缓存写入 token = 1.25 个 token 1 个缓存命中 token = 0.1 个 token |
| Anthropic 的 Claude 3 Haiku | 4,200 | 5 | 1 | 1 个输入 token = 1 个 token 1 个输出 token = 5 个 token 1 个缓存写入 token = 1.25 个 token 1 个缓存命中 token = 0.1 个 token |
| Anthropic 的 Claude 3.5 Sonnet | 350 | 25 | 1 | 1 个输入 token = 1 个 token 1 个输出 token = 5 个 token 1 个缓存写入 token = 1.25 个 token 1 个缓存命中 token = 0.1 个 token |
如需了解支持的位置，请参阅 Anthropic Claude 区域可用性。如需为 Anthropic 模型订购预配置吞吐量，请与您的Google Cloud 客户代表联系。