在 AlloyDB Studio 中使用模型端點管理功能

本文說明如何使用 AlloyDB Studio 註冊及呼叫模型端點。接著,您可以使用已註冊的模型端點來叫用預測或生成嵌入。

如要進一步瞭解模型端點管理,請參閱模型端點管理總覽

呼叫預先註冊的嵌入模型端點

AlloyDB Studio 的「Explorer」窗格會列出支援的預先註冊嵌入模型。

  1. 在 Google Cloud 控制台中,開啟「AlloyDB」AlloyDB頁面。

    前往 AlloyDB

  2. 從清單中選取叢集。

  3. 在導覽選單中,按一下「AlloyDB Studio」

  4. 在「Explorer」窗格中展開「google_ml」,然後點選「Models」

  5. 按一下預先註冊模型旁的 more_vert「查看動作」,然後點選「呼叫模型」

    系統會顯示使用預先註冊模型生成嵌入的 SQL 查詢。

  6. 輸入要產生嵌入內容的文字,然後按一下「執行」

如要進一步瞭解如何使用預先註冊的嵌入模型執行其他 SQL 查詢,請參閱「生成嵌入」。

註冊模型端點

您可以使用 AlloyDB Studio 產生的範本註冊模型端點。註冊模型端點後,即可開始叫用預測或生成嵌入。

  1. 在 Google Cloud 控制台中,開啟「AlloyDB」AlloyDB頁面。

    前往 AlloyDB

  2. 從清單中選取叢集。

  3. 在導覽選單中,按一下「AlloyDB Studio」

  4. 在「Explorer」窗格中,展開「google_ml」

  5. 依序點選「模型」旁的 more_vert「查看動作」,然後點選「註冊模型」

  6. 根據模型端點供應商修改必要參數。如要進一步瞭解如何註冊模型端點,請參閱「註冊及呼叫遠端 AI 模型」。

  7. 按一下「執行」即可註冊模型端點。

如要進一步瞭解如何使用已註冊的模型端點執行其他 SQL 查詢,請參閱「叫用預測」或「產生嵌入」。

變更預先註冊的模型端點

如果是預先註冊的模型端點,您可以視需要變更模型中繼資料。

  1. 在 Google Cloud 控制台中,開啟「AlloyDB」AlloyDB頁面。

    前往 AlloyDB

  2. 從清單中選取叢集。

  3. 在導覽選單中,按一下「AlloyDB Studio」

  4. 在「Explorer」窗格中展開「google_ml」,然後點選「Models」

  5. 按一下預先註冊模型旁的 more_vert「查看動作」,然後點選「變更模型」

  6. 按一下「執行」,儲存模型端點中繼資料。

您可以在 AlloyDB Studio 的「編輯器」分頁中執行 google_ml.alter_model() 函式,修改其他已註冊模型端點的模型中繼資料。詳情請參閱模型端點管理參考資料

刪除預先註冊的模型端點

  1. 在 Google Cloud 控制台中,開啟「AlloyDB」AlloyDB頁面。

    前往 AlloyDB

  2. 從清單中選取叢集。

  3. 在導覽選單中,按一下「AlloyDB Studio」

  4. 在「Explorer」窗格中展開「google_ml」,然後點選「Models」

  5. 依序點選預先註冊模型旁的 more_vert「查看動作」和「刪除模型」

  6. 按一下「執行」即可刪除模型端點。

您可以在 AlloyDB Studio 的「編輯器」分頁中執行 google_ml.drop_model() 函式,刪除其他已註冊的模型端點。詳情請參閱模型端點管理參考資料

後續步驟