生成式 AI 服务的 REST 和 RPC 参考文档

您可以在 Vertex AI 参考文档中找到生成式 AI 服务的 REST API 和 RPC 参考文档页面。

REST 参考文档

Vertex AI 具有特定于生成式 AI 的 REST 资源,以及用于生成式 AI 和预测性 AI 使用场景的 REST 资源。

生成式 AI REST 资源

下表列出了 Vertex AI 上的生成式 AI 专用 REST 资源。

生成式 AI 资源
说明
projects.locations.publishers.models.generateContent 为 Gemini 生成内容。
projects.locations.publishers.models.streamGenerateContent 为 Gemini 流式传输生成的内容。
projects.locations.publishers.models.serverStreamingPredict 流式传输为 PaLM 2 和 Codey 生成的内容。
projects.locations.publishers.models.predict 为非 Gemini 模型生成内容。
projects.locations.publishers.models.countTokens (v1beta1) 获取提示的词元数和计费字符数。
projects.locations.tuningJobs 调优 Gemini 模型。
projects.locations.reasoningEngines (v1beta1) 将 LangChain 应用部署到 Vertex AI。

共享 REST 资源

下表列出了 Vertex AI 上的共享 REST 资源。

共享 REST 资源
说明
projects.locations.pipelineJobs 用于调优非 Gemini 模型和进行模型评估。
projects.locations.batchPredictionJobs 用于向支持的模型发送批量提示请求。
projects.locations.endpoints 用于部署 Model Garden 模型。

RPC 参考文档

下表列出了生成式 AI 的 RPC。

RPC 软件包
说明
cloud.ai.large_models.vision 大型视觉模型。
cloud.ai.nl.llm.proto.service 大语言模型。
learning.genai.root 依据和引用。