部署应用

如需在 Vertex AI 上部署应用，请创建一个新的 ReasoningEngine 实例，并将应用类作为参数传入。如果要为应用引入软件包依赖项，请使用以下参数：

  • requirements：外部 PyPI 软件包依赖项列表。每行必须是单个字符串。如需了解详情，请参阅要求文件格式。
  • extra_packages：内部软件包依赖项列表。这些软件包依赖项是与应用所需的本地 Python 软件包相对应的本地文件或目录。

请注意针对 Reasoning Engine API 的以下限制：

  • Reasoning Engine API 仅支持 Python 编排框架。
  • 仅 us-central1 区域支持 Reasoning Engine API。

以下代码演示了如何部署应用：

DISPLAY_NAME = "Demo Langchain Application"

remote_app = reasoning_engines.ReasoningEngine.create(
    reasoning_engines.LangchainAgent(
        model=model,
        tools=[get_exchange_rate],
        model_kwargs=model_kwargs,
    ),
    requirements=[
        "google-cloud-aiplatform[reasoningengine,langchain]",
    ],
    display_name=DISPLAY_NAME,
)
remote_app

将应用部署到推理引擎时，请传入新对象，而不是重复使用现有对象。这样就可以避免创建具有已初始化又不可用的数据的对象，例如其 .set_up 方法中的数据库连接和服务。

应用部署需要几分钟时间才能运行。它会在后端构建容器并启动 HTTP 服务器。部署延迟时间取决于安装所需软件包所需的总时间。

部署后，remote_app 对应于在 Vertex AI 上运行的 reasoning_engines.LangchainAgent 的实例，您可以查询或删除它们。它独立于 reasoning_engines.LangchainAgent 的本地实例。

每个已部署的应用都有一个唯一标识符。运行以下命令以获取应用的 resource_name 标识符：

remote_app.resource_name

resource_name 采用以下格式：“projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID”。

后续步骤