在 AlloyDB Studio 中使用模型端点管理

本文档介绍了如何使用 AlloyDB Studio 注册和调用模型端点。然后,您可以使用已注册的模型端点调用预测或生成嵌入。

如需详细了解模型端点管理,请参阅模型端点管理概览

调用预注册的嵌入模型端点

AlloyDB Studio 的 Explorer 窗格中列出了支持的预注册嵌入模型。

  1. 在 Google Cloud 控制台中,打开 AlloyDB 页面。

    前往 AlloyDB

  2. 从列表中选择一个集群。

  3. 在导航菜单中,点击 AlloyDB Studio

  4. 探索器窗格中,展开 google_ml,然后点击模型

  5. 点击预先注册的模型(例如 textembedding-gecko)旁边的 more_vert 查看操作,然后点击调用模型

    系统会显示使用预注册模型生成嵌入的 SQL 查询。

  6. 输入要为其生成嵌入的文本,然后点击运行

如需详细了解使用预注册的嵌入模型的其他 SQL 查询,请参阅生成嵌入

注册模型端点

您可以使用 AlloyDB Studio 生成的模板注册模型端点。注册模型端点后,您就可以开始调用预测或生成嵌入。

  1. 在 Google Cloud 控制台中,打开 AlloyDB 页面。

    前往 AlloyDB

  2. 从列表中选择一个集群。

  3. 在导航菜单中,点击 AlloyDB Studio

  4. 探索器窗格中,展开 google_ml

  5. 点击模型旁边的 more_vert 查看操作,然后点击注册模型

  6. 根据模型端点提供程序修改必需的参数。如需详细了解如何注册模型端点,请参阅注册和调用远程 AI 模型

  7. 点击运行以注册模型端点。

如需详细了解使用已注册的模型端点的其他 SQL 查询,请参阅调用预测生成嵌入

更改预注册的模型端点

对于预注册的模型端点,您可以根据需要更改模型元数据。

  1. 在 Google Cloud 控制台中,打开 AlloyDB 页面。

    前往 AlloyDB

  2. 从列表中选择一个集群。

  3. 在导航菜单中,点击 AlloyDB Studio

  4. 探索器窗格中,展开 google_ml,然后点击模型

  5. 点击预先注册的模型(例如 textembedding-gecko)旁边的 more_vert 查看操作,然后点击更改模型

  6. 点击运行以保存模型端点元数据。

您可以在 AlloyDB Studio 的 Editor 标签页中运行 google_ml.alter_model() 函数,以修改其他已注册模型端点的模型元数据。如需了解详情,请参阅模型端点管理参考文档

删除预注册的模型端点

  1. 在 Google Cloud 控制台中,打开 AlloyDB 页面。

    前往 AlloyDB

  2. 从列表中选择一个集群。

  3. 在导航菜单中,点击 AlloyDB Studio

  4. 探索器窗格中,展开 google_ml,然后点击模型

  5. 点击预先注册的模型(例如 textembedding-gecko)旁边的 more_vert 查看操作,然后点击删除模型

  6. 点击运行以删除模型端点。

您可以在 AlloyDB Studio 的 Editor 标签页中运行 google_ml.drop_model() 函数,以删除其他已注册的模型端点。如需了解详情,请参阅模型端点管理参考文档

后续步骤