Gemini Inference Gateway

服务:Gemini 推理网关

创建 RPC 客户端存根需要名为 GEMINI_INFERENCE_GATEWAY_ENDPOINT 的服务。

goog.gdc.aiplatform.v1.InferenceGatewayPredictionService

方法
ChatCompletions 公开与 OpenAI 兼容的聊天补全端点。