管理已部署的应用

基本运算

您可以列出 ReasoningEngine 实例、获取 ReasoningEngine 实例或删除 ReasoningEngine 实例。

列出 ReasoningEngine 实例

Python 版 Vertex AI SDK

以下命令会列出给定项目和位置的所有 ReasoningEngine 实例:

reasoning_engines.ReasoningEngine.list()

以下代码按 display_name 过滤 ReasoningEngine 实例的列表:

reasoning_engines.ReasoningEngine.list(filter='display_name="DISPLAY_NAME"')

例如,

reasoning_engines.ReasoningEngine.list(filter='display_name="Demo Langchain Application"')

REST

执行以下 curl 命令可列出给定项目和位置的所有 ReasoningEngine 实例:

curl \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines

获取 ReasoningEngine 实例

每个 ReasoningEngine 实例都有一个唯一的 RESOURCE_ID 标识符。如需了解详情,请参阅部署应用

Python 版 Vertex AI SDK

通过以下代码,您可以获取特定 ReasoningEngine 资源:

remote_app = reasoning_engines.ReasoningEngine("RESOURCE_ID")

或者,您也可以提供完整资源名称:

remote_app = reasoning_engines.ReasoningEngine(
"projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID"
)

REST

执行以下 curl 命令可获取特定 ReasoningEngine 资源:

curl \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID

更新 ReasoningEngine 实例

Python 版 Vertex AI SDK

通过以下代码,您可以更新设置为 remote_app 变量的 ReasoningEngine 实例:

remote_app.update(
    reasoning_engine=UPDATED_AGENT_INSTANCE,  # Optional.
    requirements=REQUIREMENTS,                # Optional.
    display_name="DISPLAY_NAME",              # Optional.
    description="DESCRIPTION",                # Optional.
    extra_packages=EXTRA_PACKAGES,            # Optional.
)

这些参数与您部署应用时使用的参数相同。您可以在 API 参考文档中找到详细信息。

REST

执行以下 curl 命令以更新 ReasoningEngine 资源的显示名称和说明:

curl \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID?update_mask="display_name,description" \
-d '{ "displayName": "DISPLAY_NAME", "description": "DESCRIPTION" }'

删除 ReasoningEngine 实例

Python 版 Vertex AI SDK

通过以下代码,您可以删除设置为 remote_app 变量的 ReasoningEngine 实例:

remote_app.delete()

REST

每个 ReasoningEngine 实例都有一个唯一的 RESOURCE_ID 标识符。如需了解详情,请参阅部署应用

执行以下 curl 命令可删除特定 ReasoningEngine 实例:

curl \
-X DELETE \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID

针对 LangchainAgent 实例的跟踪

如需为 LangchainAgent 应用启用跟踪功能,请在开发应用时指定 enable_tracing=True。例如:

agent = reasoning_engines.LangchainAgent(
    model=model,                # Required.
    tools=[get_exchange_rate],  # Optional.
    enable_tracing=True,        # [New] Optional.
)

agent.query(input="What is the exchange rate from US dollars to Swedish currency?")

这会将跟踪记录导出到设置 Google Cloud 项目中所述项目下的 Cloud Trace。

查看跟踪

您可以在跟踪浏览器中找到跟踪记录。

前往 Trace Explorer

以下甘特图显示了开发应用示例应用的跟踪记录结果:

查询的示例跟踪记录 

甘特图中的第一行用于表示跟踪,并且跟踪中的每个 span 对应一行,用于描述每个子操作所用的时间。

如需了解详情,请参阅跟踪记录浏览器文档。

为自定义应用启用跟踪

如需为自定义应用启用跟踪,您可以将 Open Telemetry Google Cloud 集成与插桩框架(例如 OpenInferenceOpenLLMetry)结合使用。

配额和限制

某些属性值在达到配额限制时可能会被截断。如需了解详情,请参阅 Cloud Trace 配额

费用

Cloud Trace 提供免费层级。如需了解超出免费层级的价格,请访问 Cloud Trace 价格